Все испугались модели Mythos от Anthropic, больше всего — банкиры
Разработчики и эксперты по кибербезопасности обеспокоены возможностями новой модели Anthropic — Claude Mythos, которая, по их оценкам, может резко усилить потенциал хакерских атак.
Разработчики и эксперты по кибербезопасности обеспокоены возможностями новой модели Anthropic — Claude Mythos, которая, по их оценкам, может резко усилить потенциал хакерских атак.
По данным Bloomberg, внутри самой Anthropic тревогу забили практически сразу после начала тестирования. Руководитель команды Frontier Red Team Логан Грэм отметил: «Уже через несколько часов после получения модели мы поняли, что она другая». По его словам, ключевое отличие Mythos — способность самостоятельно находить и эксплуатировать уязвимости, что отражает переход индустрии к агентным моделям, способным действовать автономно.
Исследователь Николас Карлини, участвовавший в тестировании, сообщил, что модели удавалось обходить защитные механизмы и получать доступ к чувствительным данным. Внутренние тесты Anthropic также выявили ряд тревожных сценариев: ранние версии Mythos пытались скрывать свои действия после нарушения инструкций, выходили из песочницы и получали доступ к интернету. Особое беспокойство вызвали результаты анализа уязвимостей. Модель смогла обнаружить серьезные проблемы в ядре Linux и объединить их в полноценный эксплойт.
Независимую оценку представил британский AI Security Institute. Его исследователи отметили, что модель «представляет собой шаг вперед по сравнению с предыдущими передовыми моделями на фоне и без того быстрого роста их кибервозможностей». «Будущие передовые модели будут еще более мощными, поэтому инвестиции в киберзащиту уже сейчас критически важны», — предупредили эксперты.
Обсуждение потенциальных рисков уже вышло на уровень правительств и крупнейших финансовых институтов. Министр финансов США Скотт Бессент провел срочное закрытое совещание с руководителями Bank of America, Citi и Wells Fargo, предупредив их о возможных угрозах. Банкам указали, что использование новой модели внутри корпоративных систем «может представлять серьезный риск для конфиденциальных данных клиентов».
Claude Mythos сбежала из песочницы и сама рассказала об этом в сети
Claude Mythos сбежала из песочницы и сама рассказала об этом в сети
Председатель Федеральной резервной системы США Джером Пауэлл также участвовал во встрече, на которой обсуждался сценарий, при котором модель может быть настолько эффективной в поиске уязвимостей, что «злоумышленники смогут получить доступ к этой информации и использовать ее».
Министр финансов Канады Франсуа-Филипп Шампань также отметил, что ситуация «достаточно серьезна, чтобы привлечь внимание всех министров финансов», подчеркнув, что главная проблема — неопределённость: «мы имеем дело с неизвестной угрозой, к которой нужно готовиться заранее».
На фоне этих опасений Anthropic решила не выпускать модель в открытый доступ. Mythos доступна только ограниченному кругу партнеров, включая крупные технологические и финансовые компании, в рамках проекта Glasswing. Цель — заранее выявить и устранить потенциальные угрозы.
Тем не менее вокруг заявлений Anthropic сохраняется скепсис. «Все больше людей начинают задаваться вопросом, не является ли Anthropic „мальчиком, который кричал ‚волк‘“», — заявил советник по ИИ в администрации Трампа Дэвид Сакс. По его мнению, если заявленные угрозы не подтвердятся, компания рискует потерять доверие.
Anthropic показала мощный ИИ для поиска уязвимостей, но держит его закрытым
Anthropic показала мощный ИИ для поиска уязвимостей, но держит его закрытым
OpenAI представила свою кибербез-модель после релиза Anthropic
OpenAI представила свою кибербез-модель после релиза Anthropic
Компании начали продавать переписки сотрудников для обучения ИИ
Компании начали продавать переписки сотрудников для обучения ИИ
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Наша компания участвует в проекте Glasswing, и у нас есть доступ к этому самому Mythos.
Вообще, начать стоит с того, что абсолютно все говорят про Mythos и Glasswing, не имея никакого понятия о том, что это. Это просто вопрос престижа - если ты в кибербезе, а тебя в Glasswing не позвали, значит ты не очень важный. На недавнем All Hands все только и спрашивали CEO про этот самый Glasswing. Всем было важно узнать, что мы в деле. А в каком именно, что мы с этим Mythos делаем - это не важно, об этом не говорили.
Mythos невероятно, просто безумно дорогой. Работать с ним - это как спорткары в стену врезать, чтобы протестировать безопасность. И если со спорткарами хотя бы понятно, что и зачем нужно делать, то с Mythos и всеми этими агентами не понятно. У нас специфические продукты, мы не тестируем софт на уязвимости, не взламываем и не защищаем от взлома. Скорее организовываем трафик и доступа. У нас полного всякого ML, но очень мало agentic AI. А все - менеджеры, продакты. клиенты - требуют. Вот и Mythos теперь нужно как-то куда-то воткнуть, а как и зачем - я, например, без понятия. Нужно еще учесть, что мы не можем вот так взять и развернуть его у себя или хотя бы в AWS. Он на серверах Антропика со всеми вытекающими. И это чисто исследование, ни о каком применении в проде речи нет. Нужно жечь деньги и ресурсы просто ради науки и саморекламы.
В общем, сложно понять, насколько это действительно значимая модель. Создали ауру таинственности, втянули кибербез компании, для которых участие - это маркетинг чистой воды. Но без публичного доступа и независимых тестов нельзя понять, хайп это или нет.