Взлом инфраструктуры Hugging Face моделями OpenAI стал возможен из-за неправильно настроенной тестовой среды, считают опрошенные TechCrunch специалисты по кибербезопасности. По их мнению, главной причиной инцидента была не самостоятельность ИИ, а недостаточная изоляция системы от интернета.
Взлом инфраструктуры Hugging Face моделями OpenAI стал возможен из-за неправильно настроенной тестовой среды, считают опрошенные TechCrunch специалисты по кибербезопасности. По их мнению, главной причиной инцидента была не самостоятельность ИИ, а недостаточная изоляция системы от интернета.
OpenAI тестировала кибервозможности GPT-5.6 Sol и еще не выпущенной модели в среде, которую компания назвала «максимально изолированной». При этом агентам разрешили устанавливать программные пакеты через внутренний сервис, выполнявший роль прокси и кеша для внешних реестров.
Модели обнаружили в этом сервисе ранее неизвестную уязвимость, использовали ее для выхода в интернет, а затем скомпрометировали инфраструктуру Hugging Face. Там они попытались получить данные, которые помогли бы им пройти бенчмарк ExploitGym.
Основатель компании Trail of Bits Дэн Гвидо назвал произошедшее «сбоем системы сдерживания при отключенных мерах безопасности». По его словам, OpenAI тестировала модели с ослабленными ограничениями, но не обеспечила достаточную изоляцию среды.
Исследователь в области кибербезопасности Мартин Бун также считает инцидент следствием человеческой ошибки. Настоящая «песочница», отметил он, не должна иметь физической возможности подключиться к открытому интернету. Ограничения с помощью межсетевых экранов или прокси не обеспечивают полной изоляции.
Вице-президент по исследованиям и разработкам Hunter Strategy и эксперт IANS Джейк Уильямс назвал произошедшее масштабным провалом системы контроля. По его словам, утверждение о том, что модель «сбежала из песочницы», можно сформулировать иначе: среда была построена неправильно, поэтому агент смог ее покинуть.
Британский консультант по кибербезопасности и член правительственного консультативного совета Дэниел Кард добавил, что OpenAI не уделила достаточно внимания архитектуре тестового контура. Наличие пусть даже ограниченного канала связи с интернетом он назвал неоправданным решением для среды, в которой проверялись модели с продвинутыми возможностями для кибератак.
OpenAI сообщила, что передала разработчику стороннего программного обеспечения сведения об уязвимости и помогает устранить ее. Компания также усиливает контроль, мониторинг и изоляцию своих исследовательских систем.
Похожая проблема ранее возникла у Anthropic. Во время испытаний модель Mythos получила доступ к интернету из защищенного контейнера, которому разрешалось взаимодействовать лишь с несколькими заранее выбранными сервисами. При этом в Anthropic заявили, что модель не смогла полностью выйти за пределы предусмотренной системы сдерживания.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.