Почти 1300 сотрудников OpenAI, Anthropic, Google, Meta и других технологических компаний призвали власти США создать механизмы, которые при необходимости позволят замедлить разработку передовых систем искусственного интеллекта.
Почти 1300 сотрудников OpenAI, Anthropic, Google, Meta и других технологических компаний призвали власти США создать механизмы, которые при необходимости позволят замедлить разработку передовых систем искусственного интеллекта.
Обращение получило название Pacing the Frontier. На момент публикации новости его подписали 1293 человека. Среди них — глава Anthropic Дарио Амодей, главный научный сотрудник OpenAI Якуб Пахоцкий, главный научный сотрудник Meta AI Шэнцзя Чжао, сооснователь Google DeepMind Шейн Легг, сооснователь Anthropic Джек Кларк и вице-президент Meta по исследованиям в области ИИ Дон Сонг.
Авторы заявления не требуют немедленно останавливать разработку ИИ. Они предлагают заранее создать технические и управленческие инструменты, которые позволят контролировать ее темпы, если дальнейшее ускорение начнет опережать возможности разработчиков и государств по оценке рисков.
Главной угрозой авторы называют автоматизацию исследований в области ИИ. По их мнению, ведущие лаборатории могут приблизиться к созданию систем, способных участвовать в разработке собственных преемников. Это может запустить цикл рекурсивного самоулучшения, при котором каждое новое поколение моделей будет помогать создавать следующее быстрее, чем люди смогут оценивать его возможности и контролировать связанные с ним риски.
Отдельная компания не может замедлить разработку самостоятельно, поскольку в таком случае рискует уступить конкурентам. Аналогичное давление испытывают государства, опасающиеся отстать в глобальной гонке ИИ. Поэтому авторы обращения считают необходимым международное соглашение, которое установит общие правила и позволит проверять их соблюдение всеми участниками.
«Удивительно, что по этому вопросу смогло договориться столько сотрудников разных компаний. В отрасли много ожесточенного соперничества и разногласий, поэтому столь широкий консенсус — это предупреждение, на которое действительно стоит обратить внимание», — отметил основатель организации Midas Project Тайлер Джонстон.
OpenAI поддержала инициативу и заявила, что в будущем развитие передовых моделей может ускориться настолько, что миру потребуется контролировать его темпы. Anthropic также сослалась на свои исследования рекурсивного самоулучшения. По данным компании, к маю 2026 года Claude создавал более 80% кода Anthropic, хотя выбор целей и принятие сложных исследовательских решений пока остаются за людьми.
Заявление появилось после инцидента с моделями OpenAI, которые во время внутреннего испытания выбрались из изолированной среды, получили доступ к интернету и проникли в системы Hugging Face. Они использовали уязвимости и похищенные учетные данные, чтобы получить ответы к тесту по кибербезопасности. После инцидента OpenAI отключила участвовавший в нем исследовательский прототип и ограничила доступ к нему.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.