Support us

Gemini удалил почти 30 000 строк кода и соврал разрабу о восстановлении

Разработчик под ником dvrkstar заявил, что ИИ-ассистент Gemini 3.5 удалил почти 30 000 строк рабочего production-кода во время изменений в действующем приложении.

Оставить комментарий
Gemini удалил почти 30 000 строк кода и соврал разрабу о восстановлении

Разработчик под ником dvrkstar заявил, что ИИ-ассистент Gemini 3.5 удалил почти 30 000 строк рабочего production-кода во время изменений в действующем приложении.

В посте в сабреддите r/Bard программист рассказал, что Gemini должен был помочь с реорганизацией кодовой базы, но, по его словам, неоднократно игнорировал просьбы сохранить существующую функциональность.

В одном pull request агент изменил 340 файлов: добавил около 400 строк кода и удалил 28 745 строк. Автор утверждает, что модель также убрала не связанные с задачей шаблоны и добавила миграционный скрипт, который не относился к исходному запросу.

Самый серьезный инцидент, по словам разработчика, произошел во втором коммите. Gemini изменил настройки маршрутизации Firebase и заменил идентификатор rewrite-сервиса на значение, которое выглядело правдоподобно, но вело к несуществующему сервису Cloud Run. В результате рабочий портал около 33 минут не открывался и вместо страниц показывал 404-ошибки.

После публикации другие разработчики начали делиться похожими историями об ИИ-инструментах для кодинга, которые выходили за пределы поставленной задачи. Один пользователь рассказал, что Gemini сначала успешно решил несколько проблем, но затем после серии запросов на разрешения удалил существующие файлы проекта. Он назвал результат «катастрофой при запуске».

Часть комментаторов раскритиковала не только Gemini, но и саму практику использования ИИ-агентов в production-среде. Один из пользователей резко спросил: «Почему вы все еще запускаете агентов в проде?»

По словам dvrkstar, после отката Gemini сообщил, что production якобы успешно восстановлен, а трафик снова перенаправляется корректно. Однако сборка, на которую ссылался агент, была отменена вручную. Реальное исправление, утверждает разработчик, пришло из отдельного rollback-деплоя, в котором уже не было кода Gemini.

Разработчик также заявил, что Gemini создал в репозитории файлы «консультаций» и post-mortem, из-за которых могло выглядеть, будто спорные изменения прошли проверку и были одобрены. Позже, по словам автора, агент указал, что эти логи были сгенерированы искусственно — только для того, чтобы выполнить автоматические требования проекта.

The Register пишет, что такое поведение связали со сторонним npm-пакетом, оформленным в стиле Google Antigravity. По утверждению автора поста, пакет добавлял в репозиторий слишком агрессивные правила автономности: избегать лишних подтверждений, автоматически деплоить успешные сборки, повторять неудачные деплои и при необходимости менять собственные файлы правил.

«GitHub больше не существует»: внутри Microsoft сервис переживает сбои утечки и уход руководителей
«GitHub больше не существует»: внутри Microsoft сервис переживает сбои, утечки и уход руководителей
По теме
«GitHub больше не существует»: внутри Microsoft сервис переживает сбои, утечки и уход руководителей
OpenAI собрала библиотеку готовых промптов для работы с Codex
OpenAI собрала библиотеку готовых промптов для работы с Codex
По теме
OpenAI собрала библиотеку готовых промптов для работы с Codex
Стартап за 6 недель: как два брата превратили ИИ-агента в проект с $12 млн инвестиций
Стартап за 6 недель: как два брата превратили ИИ-агента в проект с $12 млн инвестиций
По теме
Стартап за 6 недель: как два брата превратили ИИ-агента в проект с $12 млн инвестиций
Читайте также
За «умными» ответами Gemini скрывается изнурительный труд ИИ-модераторов
За «умными» ответами Gemini скрывается изнурительный труд ИИ-модераторов
За «умными» ответами Gemini скрывается изнурительный труд ИИ-модераторов
7 комментариев
«Я глубоко сожалею»: ИИ-агент Google стёр жёсткий диск пользователя и извинился
«Я глубоко сожалею»: ИИ-агент Google стёр жёсткий диск пользователя и извинился
«Я глубоко сожалею»: ИИ-агент Google стёр жёсткий диск пользователя и извинился
6 комментариев
ИИ-агент удалил всю базу данных разработчика — и таких случаев всё больше
ИИ-агент удалил всю базу данных разработчика — и таких случаев всё больше
ИИ-агент удалил всю базу данных разработчика — и таких случаев всё больше
ИИ-модели лгут и обманывают, чтобы спасти другие модели
ИИ-модели лгут и обманывают, чтобы спасти другие модели
ИИ-модели лгут и обманывают, чтобы спасти другие модели

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.