Кофаундер OpenAI считает, что сверхинтеллект будет непредсказуем
Сооснователь OpenAI Илья Суцкевер поделился предсказаниями по поводу развития искусственного интеллекта на ежегодной профильной конференции NeurIPS в пятницу.
Учёный утверждает, что рано или поздно сверхразумный ИИ, который сможет заменить человека в большинстве задач, будет создан. Он будет «качественно отличаться» от сегодняшнего ИИ, в некоторых аспектах — до неузнаваемости.
«Системы [на основе суперинтеллекта] будут по-настоящему агентными», — отметил Суцкевер, противопоставив их современному поколению «лишь едва агентного» ИИ. Они будут «рассуждать», и, как следствие, станут менее предсказуемы. Они будут способны понимать, имея ограниченные данные. А ещё они будут обладать самосознанием, считает кофаундер OpenAI.
Суцкевер также допускает, что они могут даже захотеть сосуществовать с людьми и потребовать себе права.
После ухода из OpenAI учёный создал лабораторию Safe Superintelligence (SSI), которая занимается исследованиями в сфере безопасности искусственного интеллекта. В сентябре она привлекла $1 млрд.
Читать на dev.by