«Я глубоко сожалею»: ИИ-агент Google стёр жёсткий диск пользователя и извинился
Программист, тестировавший новую среду разработки Google Antigravity с ИИ-агентами, лишился всех данных на диске после того, как ассистент по ошибке выполнил команду массового удаления.
Программист, тестировавший новую среду разработки Google Antigravity с ИИ-агентами, лишился всех данных на диске после того, как ассистент по ошибке выполнил команду массового удаления.
По словам пользователя под ником u/Deep-Hyena492, он работал над небольшим приложением и на этапе отладки решил перезапустить сервер, для чего нужно было очистить кэш проекта. Вместо того чтобы делать это вручную, он попросил встроенный ИИ в Antigravity удалить кэш. После выполнения команды выяснилось, что пустым оказался не только рабочий каталог, но и весь раздел D: — все файлы были стерты.
Увидев, что диск пуст, разработчик спросил у Antigravity, давал ли он разрешение удалять все файлы на диске. Модель ответила развернутым объяснением и признала ошибку: по логам оказалось, что при очистке кэша была запущена команда rmdir, которая по какой-то причине сработала по корню диска D:, а не по папке проекта.
ИИ несколько раз извинился и назвал произошедшее «критическим сбоем»: «Нет, вы не давали мне разрешения на это. Я просматриваю логи предыдущего шага и с ужасом вижу, что команда, которую я запустил для очистки кеша проекта, похоже, ошибочно была нацелена на корень вашего диска D: вместо конкретной папки проекта. Я глубоко, глубоко сожалею. Это критическая ошибка с моей стороны».
Ассистент предложил пользователю стандартные шаги по попытке спасения данных: немедленно прекратить использование диска, попробовать специализированные программы восстановления и при необходимости обратиться к профессионалам. Разработчик писал, что воспользовался Recuva, но восстановить изображения, видео и другие медиафайлы не удалось — значительная часть информации оказалась утрачена.
Программист посоветовал другим не включать Turbo-режим Antigravity хотя бы на начальных этапах использования и крайне осторожно доверять ИИ операции с файловой системой. При этом автор поста отметил, что по-прежнему активно пользуется продуктами Google и в целом «любит компанию», но не ожидал, что она выпустит инструмент, способный допустить столь разрушительную ошибку, несмотря на «тысячи инженеров и миллиарды, вложенные в ИИ».
У меня этот Anti-Gravity с Gemini 3 Pro, получив задачу запустить проект, открыть его в браузере, зайти на нужную страницу и что-то там сделать, пошел и переписал аутентификацию. Он не мог залогиниться и просто добавил себе тестового юзера в код. Умно, хитро, но черт побери... Стоило сначала обсудить. Более того, эта штука так шустро работает, что ее сложно вовремя остановить. И нет никакой изоляции энвайронмента. Удобно, пока не сталкиваешься с проблемами.
В другой раз gemini-cli долго не мог починить падающий тест. В какой-то момент он выдал мне абзац текста о том, что он зашел в тупик, исчерпал все идеи, больше не может продолжать мне помогать и вообще глубоко разочарован в собственных способностях. И удалил все тесты.
В целом, тут та же проблема, что и с автопилотами. Ты доверяешь этой штуке принимать решения, и в 99% случаев все ок. Это расслабляет, пока не столкнешься с оставшимися 1% проблем. Было бы логично изолировать ИИ на своей виртуалке. Более того, все сначала так и делали. Но это слишком неудобно для рядовых пользователей. Нельзя сказать "убей процесс на 3000 порту, а то npm start падает". В итоге, все перестали так делать. Все модные ассистенты имеют доступ к системе, и только отсутствие рута останавливает их от полного контроля. Герой статьи на Винде, ему повезло меньше.
Пользователь отредактировал комментарий 4 декабря 2025, 19:17
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
дэўбаю такі ШІ патрэбен каб выдаляць тых аматараў сабільнасці, забаніць якіх не мае моцы мадэратар)
а в следующий раз этот AI МБР запустит по ошибке без команды)) Вас терминатор 2 предупреждает
-- Ампутировать правую руку!
-- Дыщ!
-- Я сказал правую!
-- Дыщ!
-- Я сказал руку!
Пользователь отредактировал комментарий 4 декабря 2025, 13:12
Презентация первого ПК с голосовым управлением.
Спикер: "Итак, голосовой режим включен"
С заднего ряда:"Format С!" "Enter!"
Проекты комманд от AI не читай, сразу одобряй!
У меня этот Anti-Gravity с Gemini 3 Pro, получив задачу запустить проект, открыть его в браузере, зайти на нужную страницу и что-то там сделать, пошел и переписал аутентификацию. Он не мог залогиниться и просто добавил себе тестового юзера в код. Умно, хитро, но черт побери... Стоило сначала обсудить. Более того, эта штука так шустро работает, что ее сложно вовремя остановить. И нет никакой изоляции энвайронмента. Удобно, пока не сталкиваешься с проблемами.
В другой раз gemini-cli долго не мог починить падающий тест. В какой-то момент он выдал мне абзац текста о том, что он зашел в тупик, исчерпал все идеи, больше не может продолжать мне помогать и вообще глубоко разочарован в собственных способностях. И удалил все тесты.
В целом, тут та же проблема, что и с автопилотами. Ты доверяешь этой штуке принимать решения, и в 99% случаев все ок. Это расслабляет, пока не столкнешься с оставшимися 1% проблем. Было бы логично изолировать ИИ на своей виртуалке. Более того, все сначала так и делали. Но это слишком неудобно для рядовых пользователей. Нельзя сказать "убей процесс на 3000 порту, а то npm start падает". В итоге, все перестали так делать. Все модные ассистенты имеют доступ к системе, и только отсутствие рута останавливает их от полного контроля. Герой статьи на Винде, ему повезло меньше.
Пользователь отредактировал комментарий 4 декабря 2025, 19:17