Компания годами призывала к более жесткому контролю за передовыми ИИ-моделями. Теперь Anthropic сама столкнулась с последствиями такого подхода: ей пришлось полностью закрыть доступ к моделям Mythos 5 и Fable 5.
Компания годами призывала к более жесткому контролю за передовыми ИИ-моделями. Теперь Anthropic сама столкнулась с последствиями такого подхода: ей пришлось полностью закрыть доступ к моделям Mythos 5 и Fable 5.
Financial Times обратила внимание, что представители Anthropic в 2026 году заметно чаще конкурентов говорили о рисках ИИ. По подсчетам издания, связанные с рисками термины встречались в их публичных заявлениях и постах примерно пять раз на каждую тысячу слов. У главы OpenAI Сэма Альтмана этот показатель составлял 0,6 упоминания.
С начала года Дарио Амодей и другие представители Anthropic использовали слово «риск» 336 раз, «безопасность» — 121 раз, а «уязвимость» — 128 раз. У OpenAI те же слова встречались 30, 33 и 10 раз соответственно.
Независимые эксперты считают, что такая риторика могла помочь создать атмосферу, в которой власти США решили вмешаться в распространение моделей Anthropic. Бывший главный ИИ-ученый Meta Ян Лекун назвал произошедшее следствием «нелепого нагнетания страха» со стороны Амодея и написал: «Что посеешь, то и пожнешь».
За несколько дней до запрета Амодей опубликовал пост, в котором говорил, что выпуск передовых моделей нужно блокировать или отменять, если они не соответствуют строгим требованиям безопасности. Он также предупреждал, что Mythos несет «весьма реальные риски для кибербезопасности».
Mythos Anthropic изначально предоставляла ограниченному кругу проверенных государственных и частных организаций. Для широкой аудитории компания выпустила версию Fable с жесткими ограничениями: она отказывалась отвечать на большинство запросов, связанных с кибербезопасностью и биологией.
Однако Белый дом счел этих мер недостаточными. По данным источников, Amazon передала администрации исследование о возможном обходе ограничений Fable. Власти попросили Anthropic устранить проблему, но компания заявила, что модель безопасна, а выводы исследования интерпретированы неверно.
После этого администрация ввела экспортные ограничения, которые запретили Anthropic предоставлять Fable иностранным гражданам, включая собственных сотрудников компании. Поскольку надежно определить гражданство каждого пользователя технически невозможно, Anthropic отключила модель для всех.
Критики решения указывают, что ни одна современная модель не защищена от обходов на 100%. Глава Luta Security Кэти Муссурис, изучившая материалы Amazon, заявила Financial Times, что они не описывают уникальную угрозу: Fable в определенных условиях могла помогать находить уязвимости в ПО, но похожие возможности есть и у других передовых моделей, включая GPT-5.5.
Anthropic утверждает, что Fable тестировали независимые организации и власти США. Компания признает, что отдельные узкие обходы защитных ограничений полностью исключить невозможно, но отрицает наличие универсального метода, который позволял бы массово снимать ограничения модели.
Ситуацию осложняет давний конфликт Anthropic с администрацией США. Ранее компания отказалась разрешить использование своих моделей для массовой слежки и полностью автономного оружия, после чего Пентагон объявил ее «риском для цепочки поставок». Критики опасаются, что запрет Fable мог быть связан не только с кибербезопасностью, но и с политическими разногласиями.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.