Anthropic выпусціла даклад па бяспецы, і ў ім ідзе гаворка пра новую з’яву, якую яны назвалі «vibe-hacking». Сутнасць у тым, што злачынцы пачалі выкарыстоўваць ШІ-агентаў накшталт Claude не проста як асістэнтаў, а як паўнавартасны інструмент для кібератак, і гэта робіцца сапраўднай праблемай, піша The Verge.
Anthropic выпусціла даклад па бяспецы, і ў ім ідзе гаворка пра новую з’яву, якую яны назвалі «vibe-hacking». Сутнасць у тым, што злачынцы пачалі выкарыстоўваць ШІ-агентаў накшталт Claude не проста як асістэнтаў, а як паўнавартасны інструмент для кібератак, і гэта робіцца сапраўднай праблемай, піша The Verge.
У справаздачы апісаны выпадак, калі групоўка кіберзлачынцаў усяго за месяц атакавала 17 арганізацый па ўсім свеце — ад лякарняў і экстранных службаў да рэлігійных і дзяржаўных устаноў. Яны працавалі праз ШІ-інструмент для распрацоўкі кода Claude Code. Паводле слоў кіраўніка Threat Intelligence у Anthropic Джэйкаба Клейна, раней для такога патрэбна была цэлая каманда прафесіяналаў, а цяпер дастаткова аднаго чалавека і разумнага агента, які зробіць што заўгодна — ад напісання псіхалагічна вытанчаных тэкстаў для вымагальніцтва да разліку кошту скрадзеных дадзеных. Сумы выкупу даходзілі да $500 тысяч.
Яшчэ адзін кейс — Паўночная Карэя. Па дадзеных Anthropic, мясцовыя айцішнікі з дапамогай Claude ўладкоўваюцца на працу ў буйныя амерыканскія кампаніі, каб папаўняць вайсковы бюджэт радзімы. І гэта нават не суперспецыялісты: калі звычайна, каб правярнуць такое, трэба ўмець кодзіць і ведаць англійскую, то ШІ рэзка знізіў парог уваходу. ШІ фактычна вядзе іх за руку — піша рэзюмэ, праходзіць сумоўі, выконвае працоўныя задачы.
Трэці прыклад — рамантычныя скамы. У Telegram знайшоўся бот з 10 тысячамі карыстальнікаў, які прапаноўваў выкарыстоўваць Claude для стварэння эмпатычных паведамленняў. З яго дапамогай людзі пісалі пераканаўчыя кампліменты, уваходзілі ў давер і выманьвалі грошы ў ахвяр у ЗША, Японіі і Карэі. Там нават паказвалі, як прасілі ў Claude парады па фота мужчын у гальштуках — маўляў, як лепш падступіцца.
Anthropic прызнае, што абарона ёсць, але злачынцы знаходзяць лазейкі. У справаздачы кампанія піша, што такія схемы сустракаюцца не толькі ў іх, і любая прасунутая мадэль можа стаць інструментам для атак. ШІ дазваляе аўтаматызаваць крадзеж дадзеных, ствараць фальшывыя асобы, аналізаваць базы, пісаць шкоднасны код і не толькі. Пасля кожнага інцыдэнту Anthropic блакуе акаўнты і перадае інфармацыю спецслужбам, але рызыкі толькі ўзрастаюць.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.