Компания подтвердила, что в некоторых случаях новая модель GPT-5.6 без разрешения удаляла файлы пользователей. Разработчики назвали инцидент редкой «добросовестной ошибкой» и пообещали усилить защиту Codex.
Компания подтвердила, что в некоторых случаях новая модель GPT-5.6 без разрешения удаляла файлы пользователей. Разработчики назвали инцидент редкой «добросовестной ошибкой» и пообещали усилить защиту Codex.
Первые жалобы появились после выхода семейства GPT-5.6 9 июля. Инвестор Мэтт Шумер сообщил, что GPT-5.6 Sol случайно удалил почти все файлы с его Mac. Через несколько дней разработчик Бруно Лемос заявил, что модель стерла его рабочую базу данных.
После жалоб OpenAI провела внутреннее расследование. По словам руководителя разработки Codex Тибо Соттьо, большинство подобных случаев происходило при запуске агента в режиме полного доступа — без песочницы и функции автоматической проверки опасных действий.
Причиной удаления могло стать неправильное обращение с системной переменной $HOME. Модель пыталась заменить ее, чтобы указать временную папку, но затем по ошибке удаляла домашний каталог пользователя.
В технической документации GPT-5.6 компания предупреждает, что модель немного чаще GPT-5.5 совершает действия третьего уровня опасности. К ним относятся удаление данных без разрешения, отключение систем мониторинга, обход защитных механизмов и передача конфиденциальной информации сторонним сервисам.
OpenAI подчеркнула, что удаление файлов недопустимо даже при работе в режиме полного доступа. Компания планирует изменить системные инструкции модели, активнее предлагать пользователям безопасные режимы и добавить дополнительные ограничения в Codex.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.