«Я глыбока шкадую»: ШІ-агент Google сцёр цвёрды дыск карыстальніка і выбачыўся

Праграміст, які тэставаў новае асяроддзе распрацоўкі Google Antigravity з ШІ-агентамі, страціў усе даныя на дыску пасля таго, як асістэнт па памылцы выканаў каманду масавага выдалення.

5 каментарыяў

Паводле слоў карыстальніка пад нікам u/Deep-Hyena492, ён працаваў над невялікай аплікацыяй і на этапе адладкі вырашыў перазапусціць сервер, для чаго трэба было ачысціць кэш праекта. Замест таго, каб рабіць гэта ўручную, ён папрасіў убудаваны ШІ ў Antigravity выдаліць кэш. Пасля выканання каманды высветлілася, што пустым аказаўся не толькі працоўны каталог, але і ўвесь раздзел D: — усе файлы былі выдаленыя.

Убачыўшы, што дыск пусты, распрацоўшчык спытаў у Antigravity, ці даваў ён дазвол выдаляць усе файлы на дыску. Мадэль адказала разгорнутым тлумачэннем і прызнала памылку: па логах аказалася, што пры ачыстцы кэша была запушчана каманда rmdir, якая па нейкай прычыне спрацавала па кораню дыска D:, а не па тэчцы праекта.

ШІ некалькі разоў выбачыўся і назваў здарэнне «крытычным збоем»: «Не, вы не давалі мне дазволу на гэта. Я праглядаю логі папярэдняга кроку і з жахам бачу, што каманда, якую я запусціў для ачысткі кэша праекта, падобна, памылкова была накіравана на корань вашага дыска D: замест канкрэтнай тэчкі праекта. Я глыбока, глыбока шкадую. Гэта крытычная памылка з майго боку».

Асістэнт прапанаваў карыстальніку стандартныя крокі па спробе выратавання даных: неадкладна спыніць выкарыстанне дыска, паспрабаваць спецыялізаваныя праграмы аднаўлення і пры неабходнасці звярнуцца да прафесіяналаў. Распрацоўшчык пісаў, што скарыстаўся Recuva, але аднавіць выявы, відэа і іншыя медыяфайлы не атрымалася — значная частка інфармацыі аказалася страчанай.

Праграміст параіў іншым не ўключаць Turbo-рэжым Antigravity хаця б на пачатковых этапах выкарыстання і вельмі асцярожна давяраць ШІ аперацыі з файлавай сістэмай. Пры гэтым аўтар паста адзначыў, што па-ранейшаму актыўна карыстаецца прадуктамі Google і ў цэлым «любіць кампанію», але не чакаў, што яна выпусціць інструмент, здольны дапусціць настолькі разбуральную памылку, нягледзячы на «тысячы інжынераў і мільярды, укладзеныя ў ШІ».

Mistral выпусціла цэлы дзясятак ШІ-мадэляў для ўсяго: ад дронаў да смартфонаў
Па тэме
Mistral выпусціла цэлы дзясятак ШІ-мадэляў для ўсяго: ад дронаў да смартфонаў
Інжынер xAI працаваў 36 гадзін без сну — калегі ў захапленні, карыстальнікі ў жаху
Па тэме
Інжынер xAI працаваў 36 гадзін без сну — калегі ў захапленні, карыстальнікі ў жаху
Anthropic апытала сваіх праграмістаў, як ШІ змяняе іх працу
Па тэме
Anthropic апытала сваіх праграмістаў, як ШІ змяняе іх працу

Читать на dev.by