Британско-канадский учёный Джеффри Хинтон, считающийся одним из главных пионеров в области искусственного интеллекта, выступил с неновым предупреждением. По его мнению, создание сверхразумного ИИ — систем, превосходящих по возможностям любого человека, компанию или даже целое государство — несёт прямую угрозу существованию нашей цивилизации.
Британско-канадский учёный Джеффри Хинтон, считающийся одним из главных пионеров в области искусственного интеллекта, выступил с неновым предупреждением. По его мнению, создание сверхразумного ИИ — систем, превосходящих по возможностям любого человека, компанию или даже целое государство — несёт прямую угрозу существованию нашей цивилизации.
«Разрабатывать сверхразум сейчас, когда нет никакого научного консенсуса относительно того, можно ли сделать его безопасным и подконтрольным, было бы крайне глупо. Потеря контроля над ИИ, который умнее нас самих, может стать катастрофой и даже привести к исчезновению человечества», — заявил Хинтон.
Своё заявление учёный сделал на фоне внесения в парламент Великобритании законопроекта о безопасности искусственного сверхразума, подготовленного общественной организацией ControlAI и выдвинутого лейбористом Алексом Собелом. Документ предлагает полностью запретить разработку сверхразумных ИИ-систем на территории страны. В ControlAI отмечают, что инициативу уже поддержали более 135 парламентариев из разных партий. Позиция авторов законопроекта сводится к тому, что специализированные нейросети в медицине и науке двигают прогресс, но неконтролируемый сверхразум ставит под удар национальную и глобальную безопасность.
Главной мишенью критики Хинтона стало стремление техногигантов избежать государственного контроля. Ранее руководители ведущих лабораторий, включая главу OpenAI Сэма Альтмана, заявляли, что строгие ограничения — вроде принятых в Евросоюзе — будут «катастрофическими» для отрасли, а разработать защитные механизмы невозможно, пока «проблемы не проявятся на практике». Хинтон считает, что такой подход может привести к гибели человечества, и призывает ввести законодательные рамки, пока не стало слишком поздно.
«Если мы не сможем найти решение, как нам выжить, когда они станут гораздо умнее и могущественнее нас, нам конец», — отмечал он ещё в прошлом году.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.