Усе спужаліся мадэлі Mythos ад Anthropic, больш за ўсё — банкіры
Распрацоўшчыкі і эксперты па кібербяспецы занепакоены магчымасцямі новай мадэлі Anthropic — Claude Mythos, якая, паводле іх ацэнк, можа рэзка ўзмацніць патэнцыял хакерскіх атак.
Распрацоўшчыкі і эксперты па кібербяспецы занепакоены магчымасцямі новай мадэлі Anthropic — Claude Mythos, якая, паводле іх ацэнк, можа рэзка ўзмацніць патэнцыял хакерскіх атак.
Паводле дадзеных Bloomberg, унутры самой Anthropic трывогу забілі практычна адразу пасля пачатку тэставання. Кіраўнік каманды Frontier Red Team Логан Грэм адзначыў: «Ужо праз некалькі гадзін пасля атрымання мадэлі мы зразумелі, што яна іншая». Паводле яго, ключавое адрозненне Mythos — здольнасць самастойна знаходзіць і эксплуатаваць уразлівасці, што адлюстроўвае пераход індустрыі да агентных мадэляў, здольных дзейнічаць аўтаномна.
Даследчык Нікалас Карліні, які ўдзельнічаў у тэставанні, паведаміў, што мадэлі ўдавалася абыходзіць ахоўныя механізмы і атрымліваць доступ да адчувальных дадзеных. Унутраныя тэсты Anthropic таксама выявілі шэраг трывожных сцэнарыяў: раннія версіі Mythos спрабавалі хаваць свае дзеянні пасля парушэння інструкцый, выходзілі з пясочніцы і атрымлівалі доступ да інтэрнэту. Асаблівую трывогу выклікалі вынікі аналізу ўразлівасцяў. Мадэль змагла выявіць сур’ёзныя праблемы ў ядры Linux і аб’яднаць іх у паўнавартасны эксплойт.
Незалежную ацэнку прадставіў брытанскі AI Security Institute. Яго даследчыкі адзначылі, што мадэль «уяўляе сабой крок наперад у параўнанні з папярэднімі перадавымі мадэлямі на фоне і без таго хуткага росту іх кібермагчымасцяў». «Будучыя перадавыя мадэлі будуць яшчэ больш магутнымі, таму інвестыцыі ў кіберабарону ўжо цяпер крытычна важныя», — папярэдзілі эксперты.
Абмеркаванне патэнцыйных рызык ужо выйшла на ўзровень урадаў і найбуйнейшых фінансавых інстытутаў. Міністр фінансаў ЗША Скот Бэсэнт правёў тэрміновую закрытую нараду з кіраўнікамі Bank of America, Citi і Wells Fargo, папярэдзіўшы іх пра магчымыя пагрозы. Банкам указалі, што выкарыстанне новай мадэлі ўнутры карпаратыўных сістэм «можа ўяўляць сур’ёзную рызыку для канфідэнцыйных дадзеных кліентаў».
Claude Mythos збегла з пясочніцы і сама распавяла пра гэта ў сетцы
Claude Mythos збегла з пясочніцы і сама распавяла пра гэта ў сетцы
Старшыня Федэральнай рэзервовай сістэмы ЗША Джэром Паўэл таксама ўдзельнічаў у сустрэчы, на якой абмяркоўваўся сцэнарый, пры якім мадэль можа быць настолькі эфектыўнай у пошуку ўразлівасцяў, што «злачынцы змогуць атрымаць доступ да гэтай інфармацыі і выкарыстаць яе».
Міністр фінансаў Канады Франсуа-Філіп Шампань таксама адзначыў, што сітуацыя «дастаткова сур’ёзная, каб прыцягнуць увагу ўсіх міністраў фінансаў», падкрэсліваючы, што галоўная праблема — нявызначанасць: «мы маем справу з невядомай пагрозай, да якой трэба рыхтавацца загадзя».
На фоне гэтых апасенняў Anthropic вырашыла не выпускаць мадэль у адкрыты доступ. Mythos даступная толькі абмежаванаму колу партнёраў, уключаючы буйныя тэхналагічныя і фінансавыя кампаніі, у рамках праекта Glasswing. Мэта — загадзя выявіць і ліквідаваць патэнцыйныя пагрозы.
Тым не менш вакол заяў Anthropic захоўваецца скепсіс. «Усё больш людзей пачынаюць задавацца пытаннем, ці не з’яўляецца Anthropic „хлопчыкам, які крычаў 'воўк'“», — заявіў дарадца па ШІ ў адміністрацыі Трампа Дэвід Сакс. На яго думку, калі заяўленыя пагрозы не пацвердзяцца, кампанія рызыкуе страціць давер.
Anthropic паказала магутны ШІ для пошуку ўразлівасцяў, але трымае яго закрытым
Anthropic паказала магутны ШІ для пошуку ўразлівасцяў, але трымае яго закрытым
OpenAI прадставіла сваю кібербяспечную мадэль пасля рэліза Anthropic
OpenAI прадставіла сваю кібербяспечную мадэль пасля рэліза Anthropic
Кампаніі пачалі прадаваць перапіскі супрацоўнікаў для навучання ШІ
Кампаніі пачалі прадаваць перапіскі супрацоўнікаў для навучання ШІ
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Наша компания участвует в проекте Glasswing, и у нас есть доступ к этому самому Mythos.
Вообще, начать стоит с того, что абсолютно все говорят про Mythos и Glasswing, не имея никакого понятия о том, что это. Это просто вопрос престижа - если ты в кибербезе, а тебя в Glasswing не позвали, значит ты не очень важный. На недавнем All Hands все только и спрашивали CEO про этот самый Glasswing. Всем было важно узнать, что мы в деле. А в каком именно, что мы с этим Mythos делаем - это не важно, об этом не говорили.
Mythos невероятно, просто безумно дорогой. Работать с ним - это как спорткары в стену врезать, чтобы протестировать безопасность. И если со спорткарами хотя бы понятно, что и зачем нужно делать, то с Mythos и всеми этими агентами не понятно. У нас специфические продукты, мы не тестируем софт на уязвимости, не взламываем и не защищаем от взлома. Скорее организовываем трафик и доступа. У нас полного всякого ML, но очень мало agentic AI. А все - менеджеры, продакты. клиенты - требуют. Вот и Mythos теперь нужно как-то куда-то воткнуть, а как и зачем - я, например, без понятия. Нужно еще учесть, что мы не можем вот так взять и развернуть его у себя или хотя бы в AWS. Он на серверах Антропика со всеми вытекающими. И это чисто исследование, ни о каком применении в проде речи нет. Нужно жечь деньги и ресурсы просто ради науки и саморекламы.
В общем, сложно понять, насколько это действительно значимая модель. Создали ауру таинственности, втянули кибербез компании, для которых участие - это маркетинг чистой воды. Но без публичного доступа и независимых тестов нельзя понять, хайп это или нет.