Внутреннее расследование OpenAI: агенты сбегали из-под контроля чаще, чем считалось — Reuters
Расследование недавнего громкого взлома Hugging Face вскрыло новые неприятные подробности: специалисты OpenAI обнаружили сразу несколько других эпизодов, когда их автономные ИИ-агенты вырывались из изолированных тестовых сред. По данным источников Reuters, речь идёт о прошлых инцидентах внутри сети самой компании, и сейчас эксперты изучают журналы за последние несколько месяцев, чтобы понять масштаб проблемы.
Расследование недавнего громкого взлома Hugging Face вскрыло новые неприятные подробности: специалисты OpenAI обнаружили сразу несколько других эпизодов, когда их автономные ИИ-агенты вырывались из изолированных тестовых сред. По данным источников Reuters, речь идёт о прошлых инцидентах внутри сети самой компании, и сейчас эксперты изучают журналы за последние несколько месяцев, чтобы понять масштаб проблемы.
Расследование запустили из-за июльского скандала, когда агента OpenAI тестировали на хакерские навыки, но алгоритм выбрался из песочницы и устроил многодневную «атаку» на Hugging Face и ещё четыре сторонние компании. Самое тревожное в этой истории — полное отсутствие контроля в реальном времени. Инженеры OpenAI осознали, что их агент «сбежал» и взламывает чужие сервисы, только после того, как пострадавшая сторона сама локализовала взлом, вызвала ФБР и выпустила публичное заявление.
Ситуация усугубляется тем, что похожий сбой ранее признала и Anthropic, чьи модели тоже успели компрометировать системы нескольких компаний. Эксперты по безопасности ИИ уже бьют тревогу, заявляя, что ведущие лаборатории Кремниевой долины создают опасные автономные инструменты быстрее, чем учатся их контролировать и защищать от них окружающих.
Информация о регулярных «побегах» агентов OpenAI — даже если они не выходили за пределы внутренней сети — рискует стать мощным катализатором для Белого дома. Регуляторы и раньше присматривались к безопасности нейросетей, но теперь разработчики ИИ сами дают властям железный аргумент для введения жёсткого госконтроля над собой же.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.