Anthropic, чые мадэлі лічацца ці не найбольш прасунутымі ў сферы кібербяспекі, сама стала ахвярай ШІ-атакі. Узлом зрабіў стартап у сферы кібербяспекі Cathedral з дапамогай аўтаномных ШІ-агентаў. Яны праніклі ва ўнутраныя сістэмы Anthropic праз іншыя сервісы, скарыстаўшыся афіцыйнай праграмай пошуку ўразлівасцяў, паведамляе The Decoder.
Anthropic, чые мадэлі лічацца ці не найбольш прасунутымі ў сферы кібербяспекі, сама стала ахвярай ШІ-атакі. Узлом зрабіў стартап у сферы кібербяспекі Cathedral з дапамогай аўтаномных ШІ-агентаў. Яны праніклі ва ўнутраныя сістэмы Anthropic праз іншыя сервісы, скарыстаўшыся афіцыйнай праграмай пошуку ўразлівасцяў, паведамляе The Decoder.
Стартап, заснаваны выхадцамі з амерыканскага ведамства па павышэнні эфектыўнасці ўрада (той самы DOGE Ілана Маска), прадае ШІ-інструменты бяспекі дзяржаўным агенцтвам і бізнесу. У сваёй справаздачы, якая трапіла ў распараджэнне The Washington Post, Cathedral заяўляе, што іх ШІ-агенты знайшлі лазейку праз сінтартнае праграмнае забеспячэнне для адміністравання і продажаў. За некалькі гадзін боты дабраліся да расшыфровак нарадаў, дадзеных пра заробкі, вакансіі і перапіскі ў Slack.
У Anthropic пацвердзілі факт уцечкі, але заявілі, што закранутая аказалася толькі абмежаваная колькасць сістэм продажаў, HR і ІТ (у тым кантакты некаторых кліентаў і партнёраў). Промпты, дыялогі з Claude, зыходны код і вагі саміх мадэляў, па сцвярджэнні кампаніі, закранутыя не былі. Усе ўразлівыя доступы закрылі ў той жа дзень, а пра здарэнне паведамілі ўладам ЗША.
Пры гэтым бакі кардынальна разыходзяцца ў ацэнцы маштабаў і працягласці атакі. Паводле версіі Cathedral, ШІ-агенты правялі ўсю аперацыю менш чым за 12 гадзін. Anthropic сцвярджае, што спроба ўзлому цягнулася некалькі дзён. Спецыяліст па рэд-тымінгу Anthropic Логан Грэм заявіў, што Cathedral спачатку дні напралёт безвынікова «прашчупваў» асноўныя сістэмы кампаніі і толькі потым пераключыўся на іншыя сервісы. Там стартап знайшоў дзве ўразлівасці, але паведаміў толькі пра адну (другую Anthropic закрыла сама).
Акрамя таго, Anthropic абвінаваціла Cathedral у парушэнні правілаў баг-баўнці: здабыванне рэальных дадзеных праз іншыя сервісы выходзіла за межы праграмы. У Cathedral запярэчылі, маўляў, дзейнічалі ў межах стандартных практык даследаванняў.
Былы супрацоўнік OpenAI Уіл Дэп’ю заявіў, што Anthropic спрабуе зменшыць сур’ёзнасць інцыдэнту. Паводле ягоных крыніц, Cathedral атрымаў поўны адміністрацыйны доступ да карпаратыўнага Slack: мог чытаць любыя паведамленні і заходзіць пад уліковым запісам любога супрацоўніка.
Паводле Дэп’ю, і OpenAI, і Anthropic захоўваюць ключавыя даследчыя сакрэты і адміністрацыйныя API-ключы проста ў Slack. На гэтую праблему яшчэ ў верасні 2026 года ўказваў былы інжынер Anthropic Джэйкаб Коксан, які крытыкаваў кампанію за выкарыстанне звычайнага офіснага праграмнага забеспячэння для працы над небяспечнымі ШІ-даследаваннямі.
Грэм дадзеныя Дэп’ю абвергнуў, але прызнаў, што ШІ-індустрыі цяпер даводзіцца цалкам перабудоўваць сваю бяспеку літаральна штогод.
Інцыдэнт паказвае, наколькі імкліва ШІ-агенты мяняюць правілы гульні ў кібербяспецы. «Атакуючыя ўжо выкарыстоўваюць ШІ-агентаў у рэжыме 24/7, цэляцца ў іншыя залежнасці. Для такіх атакаў хапае нават мадэляў папярэдняга пакалення, а ў будучых праціўнікаў будуць значна магутнейшыя сістэмы», — папярэдзіў Грэм.
Рашэнне праблемы ён бачыць у бесперапынным аўтаматычным тэставанні ўласных сістэм з дапамогай ШІ. Але на галоўнае пытанне — як Cathedral удалося зайсці так далёка, калі ў самой Anthropic ёсць доступ да найлепшых у свеце ШІ-мадэляў для абароны, — ён не адказаў.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.