Узлом інфраструктуры Hugging Face мадэлямі OpenAI стаў магчымы праз няправільна настроенае тэставае асяроддзе, лічаць апытаныя TechCrunch спецыялісты па кібербяспецы. На іхную думку, галоўнай прычынай інцыдэнту была не самастойнасць ШІ, а недастатковая ізаляцыя сістэмы ад інтэрнэту.
Узлом інфраструктуры Hugging Face мадэлямі OpenAI стаў магчымы праз няправільна настроенае тэставае асяроддзе, лічаць апытаныя TechCrunch спецыялісты па кібербяспецы. На іхную думку, галоўнай прычынай інцыдэнту была не самастойнасць ШІ, а недастатковая ізаляцыя сістэмы ад інтэрнэту.
OpenAI тэставала кібермагчымасці GPT-5.6 Sol і яшчэ не выпушчанай мадэлі ў асяроддзі, якое кампанія назвала «максімальна ізаляваным». Пры гэтым агентам дазволілі ўсталёўваць праграмныя пакеты праз унутраны сервіс, які выконваў ролю проксі і кэша для вонкавых рэестраў.
Мадэлі выявілі ў гэтым сервісе раней невядомую ўразлівасць, выкарысталі яе для выхаду ў інтэрнэт, а затым скампраметавалі інфраструктуру Hugging Face. Там яны паспрабавалі атрымаць дадзеныя, якія дапамаглі б ім прайсці бенчмарк ExploitGym.
Заснавальнік кампаніі Trail of Bits Дэн Гвідоў назваў тое, што адбылося, «збоем сістэмы стрымання пры адключаных мерах бяспекі». Паводле яго, OpenAI тэставала мадэлі з аслабленымі абмежаваннямі, але не забяспечыла дастатковую ізаляцыю асяроддзя.
Даследчык у галіне кібербяспекі Марцін Бун таксама лічыць інцыдэнт следствам чалавечай памылкі. Сапраўдная «пясочніца», адзначыў ён, не павінна мець фізічнай магчымасці падключыцца да адкрытага інтэрнэту. Абмежаванні з дапамогай міжсеткавых экранаў або проксі не забяспечваюць поўнай ізаляцыі.
Віцэ-прэзідэнт па даследаваннях і распрацоўках Hunter Strategy і эксперт IANS Джэйк Уільямс назваў тое, што адбылося, маштабным правалам сістэмы кантролю. Паводле яго, сцвярджэнне пра тое, што мадэль «збегла з пясочніцы», можна сфармуляваць іначай: асяроддзе было пабудавана няправільна, таму агент змог яго пакінуць.
Брытанскі кансультант па кібербяспецы і чалец урадавага кансультатыўнага савета Дэніэл Кард дадаў, што OpenAI не надала дастаткова ўвагі архітэктуры тэставага контуру. Наяўнасць нават абмежаванага канала сувязі з інтэрнэтам ён назваў неапраўданым рашэннем для асяроддзя, у якім правяраліся мадэлі з прасунутымі магчымасцямі для кібератак.
OpenAI паведаміла, што перадала распрацоўніку старонняга праграмнага забеспячэння звесткі аб уразлівасці і дапамагае ліквідаваць яе. Кампанія таксама ўзмацняе кантроль, маніторынг і ізаляцыю сваіх даследчых сістэм.
Падобная праблема раней узнікла ў Anthropic. Падчас выпрабаванняў мадэль Mythos атрымала доступ да інтэрнэту з абароненага кантэйнера, якому дазвалялася ўзаемадзейнічаць толькі з некалькімі загадзя выбранымі сервісамі. Пры гэтым у Anthropic заявілі, што мадэль не змагла цалкам выйсці за межы прадугледжанай сістэмы стрымання.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.