Исследователь Джейкоб Коксон уволился из Anthropic и обвинил компанию и OpenAI в безответственной гонке к сверхинтеллекту. По его словам, обе лаборатории понимают риски, но продолжают ускорять разработку ИИ.
Исследователь Джейкоб Коксон уволился из Anthropic и обвинил компанию и OpenAI в безответственной гонке к сверхинтеллекту. По его словам, обе лаборатории понимают риски, но продолжают ускорять разработку ИИ.
«Ни одна из компаний не действует ответственно. Они несутся прямо к самоулучшающемуся сверхинтеллекту и ставят на кон наши жизни», — написал Коксон в X.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Исследователь три года занимался предварительным обучением моделей в OpenAI и Anthropic. С 2023 года по июль 2026-го он работал в OpenAI, в том числе над GPT-4o, а затем перешел в Anthropic.
Коксон утверждает, что руководители и ведущие исследователи ИИ-компаний публично смягчают формулировки, хотя в частных разговорах выражают гораздо более серьезные опасения. «Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия. Это не маркетинговый трюк», — написал он.
По словам Коксона, в OpenAI многие сотрудники еще не до конца осознали масштаб возможных последствий, а в Anthropic риски хорошо понимают, но считают необходимым выиграть гонку первыми, поскольку не доверяют другим компаниям.
С ним согласился действующий сотрудник Anthropic Эван Хьюбингер, возглавляющий команду стресс-тестирования выравнивания моделей. «Джейкоб прав — мы действительно искренне верим, что ИИ может убить всех людей. Лично я оцениваю вероятность этого более чем в 10% в течение следующего десятилетия», — написал Хьюбингер.
Коксон стал очередным исследователем, покинувшим ведущую ИИ-лабораторию из-за опасений по поводу безопасности. В 2024 году бывший руководитель направления выравнивания OpenAI Ян Лейке заявил, что культура и процессы безопасности отошли на второй план ради «блестящих продуктов». В феврале 2026 года исследователь Anthropic Мринанк Шарма также уволился, сославшись на трудности с соблюдением заявленных ценностей компании.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.