Кампанія пацвердзіла, што ў некаторых выпадках новая мадэль GPT-5.6 без дазволу выдаляла файлы карыстальнікаў. Распрацоўшчыкі назвалі інцыдэнт рэдкай «добрасумленнай памылкай» і паабяцалі ўзмацніць абарону Codex.
Кампанія пацвердзіла, што ў некаторых выпадках новая мадэль GPT-5.6 без дазволу выдаляла файлы карыстальнікаў. Распрацоўшчыкі назвалі інцыдэнт рэдкай «добрасумленнай памылкай» і паабяцалі ўзмацніць абарону Codex.
Першыя скаргі з’явіліся пасля выхаду сямейства GPT-5.6 9 ліпеня. Інвестар Мэт Шумер паведаміў, што GPT-5.6 Sol выпадкова выдаліў амаль усе файлы з ягонага Mac. Праз некалькі дзён распрацоўшчык Бруна Лемас заявіў, што мадэль сцёрла ягоную працоўную базу дадзеных.
Пасля скаргаў OpenAI правяла ўнутранае расследаванне. Паводле кіраўніка распрацоўкі Codex Тыбо Соцьё, большасць падобных выпадкаў адбывалася пры запуску агента ў рэжыме поўнага доступу — без пясочніцы і функцыі аўтаматычнай праверкі небяспечных дзеянняў.
Прычынай выдалення магло стаць няправільнае абыходжанне з сістэмнай зменнай $HOME. Мадэль спрабавала замяніць яе, каб паказаць часовую папку, але потым памылкова выдаляла хатні каталог карыстальніка.
У тэхнічнай дакументацыі GPT-5.6 кампанія папярэджвае, што мадэль крыху часцей за GPT-5.5 здзяйсняе дзеянні трэцяга ўзроўню небяспекі. Да іх адносяцца выдаленне дадзеных без дазволу, адключэнне сістэм маніторынгу, абыход абарончых механізмаў і перадача канфідэнцыйнай інфармацыі іншым сервісам.
OpenAI падкрэсліла, што выдаленне файлаў недапушчальна нават пры працы ў рэжыме поўнага доступу. Кампанія плануе змяніць сістэмныя інструкцыі мадэлі, актыўней прапаноўваць карыстальнікам бяспечныя рэжымы і дадаць дадатковыя абмежаванні ў Codex.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.