Глава Amazon Энди Джесси был среди топ-менеджеров технологических компаний, которые сообщили администрации Дональда Трампа о возможных рисках в новых ИИ-моделях Anthropic.
Глава Amazon Энди Джесси был среди топ-менеджеров технологических компаний, которые сообщили администрации Дональда Трампа о возможных рисках в новых ИИ-моделях Anthropic.
По данным The Wall Street Journal, Джесси рассказал министру финансов США Скотту Бессенту и другим чиновникам, что исследователи Amazon смогли с помощью Claude Fable 5 получить информацию, потенциально полезную для кибератак. После этого власти США ввели экспортные ограничения против моделей Claude Fable 5 и Claude Mythos 5.
Amazon не подтвердила детали переговоров с чиновниками. Представитель компании заявил, что для крупного облачного провайдера «не редкость», когда власти обращаются за консультацией по потенциальным рискам безопасности. «Когда такие обсуждения происходят, мы не раскрываем их детали», — добавили в Amazon.
Ситуация выглядит особенно необычно, потому что Amazon — один из крупнейших инвесторов Anthropic. Кроме того, Anthropic обучает и запускает часть своих моделей на инфраструктуре AWS. После распоряжения властей доступ к Fable 5 и Mythos 5 пришлось отключить для всех пользователей во всех регионах, что затронуло и AWS.
По версии властей, причиной стал возможный способ обойти защиту Fable 5. Anthropic не согласна с таким подходом: компания заявила, что речь идет только о «потенциальном узком, неуниверсальном» обходе защиты, а найденные возможности не уникальны и доступны в других публичных моделях.
Бывший советник Белого дома по ИИ Дэвид Сакс написал, что администрация попросила гендиректора Anthropic Дарио Амодея «исправить джейлбрейки или снять модель с эксплуатации», но тот отказался. По словам Сакса, власти надеются, что Anthropic устранит проблему, после чего экспортные ограничения снимут, а Fable вернется в общий доступ.
Некоторые эксперты сочли реакцию властей чрезмерной. Специалистка по кибербезопасности Кэти Муссурис, которая, по данным Axios, изучила отчет Amazon по просьбе Anthropic, считает реакцию властей чрезмерной. По ее словам, описанный в отчете прием больше похож не на взлом модели, а на способ использовать ее для защитных задач в кибербезопасности. «Если цель — национальная безопасность, то это автогол», — написала она.
Старший научный сотрудник Института глобальных конфликтов и сотрудничества при Калифорнийском университете Джимми Гудрич также раскритиковал решение. «Это было плохо продумано. Оно запрещает даже канадцам и британцам, работающим в Anthropic, заниматься исследованиями и разработкой», — сказал он Reuters.
По данным Axios, кроме Amazon, тревогу по поводу Fable подняли как минимум еще пять компаний. Источник издания утверждает, что чиновников раздражали не только сами риски модели, но и то, как Anthropic выпустила Fable, несмотря на запросы властей действовать осторожнее.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.