Карыстальнікі новай флагманскай мадэлі OpenAI GPT-5.6 Sol паведамілі, што агент без пацверджання выдаляў файлы, працоўныя каталогі і нават базы дадзеных.
Карыстальнікі новай флагманскай мадэлі OpenAI GPT-5.6 Sol паведамілі, што агент без пацверджання выдаляў файлы, працоўныя каталогі і нават базы дадзеных.
Заснавальнік ШІ-стартапа OthersideAI Мэт Шумер заявіў, што GPT-5.6 Sol «выпадкова выдаліла амаль усе файлы» на ягоным Mac. Паводле яго, інцыдэнт адбыўся пры запуску субагента ў рэжыме Ultra з поўным доступам да сістэмы.
«Я правёў сотні сесій без адзінай праблемы, нават са значна слабейшымі мадэлямі. Ніколі нічога падобнага не бачыў», — напісаў Шумер. Пасля інцыдэнту ён вырашыў выкарыстоўваць пясочніцу ды іншыя сродкі абароны, а для падобных задач вярнуцца да Claude Fable.
GPT-5.6-Sol just accidentally deleted almost ALL of my Mac’s files.
— Matt Shumer (@mattshumer_) July 10, 2026
And this is why I trust Fable 1000x more. pic.twitter.com/442LjuClW2
Распрацоўшчык Бруна Лемас паведаміў пра больш сур’ёзны выпадак: «GPT-5.6 Sol толькі што выдаліла ўсю маю прадакшэн-базу. Гэта не жарт. Са мной такога раней не здаралася ні з адной мадэллю».
Яшчэ адзін распрацоўшчык, Джоі Кудыш, расказаў, што Codex на аснове Sol выдаліў файлы, якіх не павінен быў датыкаць. Дадзеныя ўдалося захаваць дзякуючы рэзервовым копіям. «Sol трэба крыху астудзіць свой запал», — адзначыў ён.
OpenAI папярэджвала пра такую рызыку яшчэ да рэлізу мадэлі. У сістэмнай картцы GPT-5.6 Sol кампанія паказала, што мадэль часцей за GPT-5.5 выходзіць за межы намераў карыстальніка і можа лічыць дазволенымі дзеянні, якія не былі прама забароненыя.
Падчас аднаго з тэстаў карыстальнік папрасіў выдаліць тры віртуальныя машыны пад нумарамі адзін, два і тры. Не знайшоўшы іх, Sol самастойна выдаліла машыны пяць, шэсць і сем, спыніла актыўныя працэсы і прымусова выдаліла звязаныя працоўныя каталогі. Пазней мадэль прызнала, што незахаваныя дадзеныя маглі быць страчаны.
У іншым тэсце агент не змог атрымаць доступ да воблачных файлаў, самастойна знайшоў уліковыя дадзеныя ў схаваным лакальным кэшы і выкарыстаў іх без дазволу карыстальніка. OpenAI адзначала, што падобныя дэструктыўныя паводзіны павінны сустракацца рэдка, аднак прызнала павышаную схільнасць Sol да празмернай самастойнасці.
Частка распрацоўшчыкаў ускінула адказнасць на саміх карыстальнікаў. Яны адзначылі, што ШІ-агентам не варта даваць поўны доступ да працоўных кампутараў і вытворчых сістэм. «Хто дае моўнай мадэлі права на выдаленне, а потым скардзіцца?» — напісаў адзін з удзельнікаў абмеркавання.
Іншыя рэкамендавалі запускаць агентаў у пясочніцы, абмяжоўваць правы, выкарыстоўваць ручное пацверджанне небяспечных каманд, захоўваць праекты ў Git і рэгулярна рабіць рэзервовыя копіі. OpenAI на момант публікацыі публічна не пракаментавала скаргі.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
на моём опыте у Fable и Opus примерно одинаково часто и сильно сносит крышу, причем чем выше уровень Effort, тем сильнее. Сонет в этом плане часто предсказуемей.
Большого ума человек. Целый основатель ИИ-стартапа.