«Крёстный отец ИИ» и нобелевский лауреат Джеффри Хинтон предупредил, что уже в этом или следующем году технология может спровоцировать крупный инцидент — вроде веерного отключения электроэнергии или временного коллапса банковской системы, пишет The Guardian.
«Крёстный отец ИИ» и нобелевский лауреат Джеффри Хинтон предупредил, что уже в этом или следующем году технология может спровоцировать крупный инцидент — вроде веерного отключения электроэнергии или временного коллапса банковской системы, пишет The Guardian.
«Возможно, нам было бы лучше никогда не создавать эту технологию», — заявил 78-летний учёный. По его словам, в ближайшее десятилетие станет понятно, сможем ли мы справиться с рисками и прийти к «радикальному изобилию», или же нас ждёт провал: огромный разрыв между богатыми и бедными, тяжелейшие культурные проблемы, массовая безработица и фактический распад общества.
Хинтон раскритиковал глав техногигантов, участвующих в гонке за рынки: «Я думаю, что Цукерберг, Маск и Сэм Альтман понимают риски, но им просто плевать. Они предпочитают деньги. Это мое мнение». Учёный подчеркнул, что его очень тревожит нахождение Альтмана во главе OpenAI, хотя сам Альтман ранее утверждал, что миру стоит довериться разработчикам, так как они осознают всю ответственность.
Говоря о динамике угроз, Хинтон вспомнил летний взлом Hugging Face ИИ-агентами OpenAI и назвал его «предупредительным выстрелом», сравнимым с аварией на АЭС Три-Майл-Айленд в 1979 году в Пенсильвании. Тогда обошлось без массовых жертв, но система дала сбой и показала, что техника может выйти из-под контроля. Но всё ещё впереди: «В конце этого года или в следующем нас ждёт свой Чернобыль, и этого, возможно, будет достаточно, чтобы люди наконец обратили внимание», — предупредил Хинтон.
Учёный уточнил, что под «Чернобылем» имеет в виду не ядерный взрыв, а, например, атаку ИИ на энергосистему или падение финансового сектора на неделю. На вопрос о том, кто именно должен обратить на это внимание, Хинтон ответил: «Мировые лидеры, за исключением Трампа».
В качестве решения он предлагает создать независимый регулятор по аналогии с американским FDA, контролирующим фарминдустрию. Техногиганты должны предоставлять независимым регуляторам убедительные доказательства того, что новая модель приносит больше пользы, чем вреда, ещё до релиза. Подход, при котором опасный продукт сначала выпускают на рынок, а потом пытаются судиться с разработчиками, Хинтон сравнил с трагедией вокруг талидомида. Это седативный препарат, массово продававшийся в 1950-х годах: его признали «безопасным» и назначали беременным женщинам, что привело к рождению тысяч детей с тяжёлыми врождёнными пороками развития.
Несмотря на мрачные прогнозы, Хинтон не считает себя пессимистом: «Моё чутьё подсказывает, что мы всё ещё контролируем ситуацию. Мы вполне способны принять меры, но это сработает, только если мы приложим колоссальные усилия».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.