Отдел новостей 16 декабря 2024, 17:10

Кофаундер OpenAI считает, что сверхинтеллект будет непредсказуем

Сооснователь OpenAI Илья Суцкевер поделился предсказаниями по поводу развития искусственного интеллекта на ежегодной профильной конференции NeurIPS в пятницу.

Оставить комментарий

Кофаундер OpenAI считает, что сверхинтеллект будет непредсказуем

Сооснователь OpenAI Илья Суцкевер поделился предсказаниями по поводу развития искусственного интеллекта на ежегодной профильной конференции NeurIPS в пятницу.

Учёный утверждает, что рано или поздно сверхразумный ИИ, который сможет заменить человека в большинстве задач, будет создан. Он будет «качественно отличаться» от сегодняшнего ИИ, в некоторых аспектах — до неузнаваемости.

«Системы [на основе суперинтеллекта] будут по-настоящему агентными», — отметил Суцкевер, противопоставив их современному поколению «лишь едва агентного» ИИ. Они будут «рассуждать», и, как следствие, станут менее предсказуемы. Они будут способны понимать, имея ограниченные данные. А ещё они будут обладать самосознанием, считает кофаундер OpenAI.

Суцкевер также допускает, что они могут даже захотеть сосуществовать с людьми и потребовать себе права.

После ухода из OpenAI учёный создал лабораторию Safe Superintelligence (SSI), которая занимается исследованиями в сфере безопасности искусственного интеллекта. В сентябре она привлекла $1 млрд.