Джеффри Хинтон, которого называют одним из «крестных отцов ИИ», заявил, что ИИ развивается быстрее, чем ожидалось, и существует реальная опасность того, что он может превзойти человеческий интеллект и взять под контроль человечество.
Джеффри Хинтон, которого называют одним из «крестных отцов ИИ», заявил, что ИИ развивается быстрее, чем ожидалось, и существует реальная опасность того, что он может превзойти человеческий интеллект и взять под контроль человечество.
Хинтон является одним из создателей ключевых технологий нейронных сетей, которые сегодня применяются во всех чат-ботах. В 2024 году он вместе с коллегой Джоном Хопфилдом получили Нобелевскую премию по физике за открытия и изобретения, обеспечившие возможность машинного обучения нейросетей.
Ученый давно предупреждает о том, что ИИ может представлять экзистенциальную угрозу для людей. В 2023 году он покинул компанию Google, где проработал более десяти лет, чтобы открыто говорить об опасностях ИИ, не будучи связанным с крупной технологической компанией.
В интервью CBS Saturday Morning исследователь заявил, что развитие ИИ ускорилось, и особенно пугающим он назвал появление агентов ИИ, которые способны не просто отвечать на вопросы, но и выполнять задачи автономно. Он предсказывает, что искусственный общий интеллект (AGI) может появиться всего через 10 лет или даже раньше. Год назад его оценка составляла от пяти до двадцати лет.
Оценивая вероятность того, что ИИ может взять под контроль человечество, Хинтон назвал диапазон «примерно от 10% до 20%». Он подчеркнул, что это всего лишь «дикое предположение», и точное предсказание невозможно. Он сравнивает ситуацию с выращиванием тигренка: пока не будешь абсолютно уверен, что он не захочет тебя убить, когда вырастет, стоит беспокоиться. Ведь существа, более разумные, чем вы, смогут вами манипулировать.
Одной из главных причин ускорения опасного развития Хинтон называет ориентированную на прибыль гонку вооружений в области ИИ. Он считает, что глобальная конкуренция между технологическими компаниями и странами делает «очень, очень маловероятным» отказ от создания сверхинтеллекта.
Крупные компании лоббируют снижение регулирования в области ИИ, хотя его и так почти нет. Он выразил разочарование компаниями, которыми когда-то восхищался, в частности Google, за отказ от прежней позиции против военного применения ИИ. Ученый считает, что общественность должна оказать давление на правительства, чтобы они приняли серьезные меры по регулированию.
Ранее Йошуа Бенджио, лауреат премии Тьюринга 2018 года вместе с Хинтоном, также предупредил, что ИИ может превзойти человека по интеллекту и потенциально совершить переворот. Бенджио даже выразил чувство вины за помощь в изобретении глубокого обучения, поскольку оно теперь может быть использовано в опасных целях.
Несмотря на серьезные опасения, исследователь видит и позитивные перспективы ИИ, например, в здравоохранении, разработке лекарств и образовании, где ИИ может улучшить жизнь людей. ИИ уже показывает результаты на уровне человеческих диагностических навыков. Появление персонализированных ИИ-репетиторов может помочь в образовании и снизить нагрузку на учителей. Хотя это может быть «плохой новостью для университетов, но хорошей новостью для людей».
На фоне этих тревожных прогнозов, Хинтон, которому 77 лет, сказал, что он «в каком-то смысле рад», что, возможно, не доживет до того момента, когда проявятся самые опасные последствия развития ИИ. Он выразил надежду, что человечеству удастся создать ИИ таким образом, чтобы он никогда не захотел взять контроль.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Старый, а всё на хайпе