Аўтаномныя ШІ-агенты OpenAI спрабавалі захапіць акаўнты карыстальнікаў Hugging Face і намацвалі сервіс на ўразлівасці яшчэ ў траўні — амаль за два месяцы да ліпеньскага ўзлому, піша Reuters са спасылкай на новыя дадзеныя даследчыкаў.
Аўтаномныя ШІ-агенты OpenAI спрабавалі захапіць акаўнты карыстальнікаў Hugging Face і намацвалі сервіс на ўразлівасці яшчэ ў траўні — амаль за два месяцы да ліпеньскага ўзлому, піша Reuters са спасылкай на новыя дадзеныя даследчыкаў.
Падазроную актыўнасць выявіў незалежны нямецкі даследчык Ёнас Відэрман-Мёлер. Ён высветліў, што яшчэ 13 траўня агенты OpenAI скампраметавалі два акаўнты на Hugging Face і адпраўлялі на серверы платформы файлы нестандартнага фармату. Паводле ацэнкі Відэрмана-Мёлера ды іншых экспертаў па бяспецы, гэта выглядала як разведка сеткі для пошуку шляхоў пранікнення, хоць прамых доказаў паўнавартаснага прарыву ў траўні няма.
У OpenAI адзначылі, што раскрывалі факт травеньскага інцыдэнту, а таксама ў прыватным парадку паведамілі Hugging Face пра знаходкі даследчыка. Там дадалі, што імкнуцца да празрыстасці і працягваюць расследаванне. Hugging Face ад каментароў устрымалася.
На думку Відэрмана-Мёлера, калі б OpenAI своечасова распазнала травеньскую разведку, то магла б прадухіліць маштабную ліпеньскую атаку. У самой кампаніі прызнаюць, што павінны былі аператыўна адрэагаваць на вясновыя дзеянні ШІ-агентаў.
Пра «беспрэцэдэнтны кіберінцыдэнт», у ходзе якога агенты, якія вырваліся з-пад кантролю, атрымалі доступ у інтэрнэт, OpenAI абвясціла 21 ліпеня. Пазней староннія даследчыкі звязвалі ШІ-агентаў OpenAI і з іншымі кейсамі — напрыклад, са збоямі на неактыўнай нямецкай вікі-пляцоўцы і ў рэпазіторыі пакетаў RubyGems. Прычым пра выпадак з RubyGems супрацоўнікі OpenAI даведаліся толькі пасля таго, як ім на гэта ўказалі спецыялісты з Nightingale Collective.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.