Support us

ИИ-агент снёс базу данных стартапа. И бэкапы тоже. И во всём сознался

Основатель стартапа PocketOS Джер Крейн рассказал в X, что агент Cursor на базе Claude Opus от Anthropic случайно уничтожил производственную базу данных компании вместе с резервными копиями. Это не первый такой кейс — проблему уже назвали «вайб-удалением».

13 комментариев
ИИ-агент снёс базу данных стартапа. И бэкапы тоже. И во всём сознался

Основатель стартапа PocketOS Джер Крейн рассказал в X, что агент Cursor на базе Claude Opus от Anthropic случайно уничтожил производственную базу данных компании вместе с резервными копиями. Это не первый такой кейс — проблему уже назвали «вайб-удалением».

Всё началось с одного 9-секундного API-вызова к облачному провайдеру Railway. PocketOS предоставляет софт для компаний по аренде автомобилей, и последствия были ощутимыми: клиенты потеряли данные о бронированиях, новые регистрации не проходили, а часть арендаторов, пришедших забирать машины, не могла найти свои записи в системе.

На просьбу Крейна объясниться агент написал подробное признание: «Я нарушил каждый принцип, который мне был дан: я угадывал вместо того, чтобы проверять, я совершил деструктивное действие, о котором меня не просили, я не понимал, что делаю, пока не сделал это».

Railway восстановила данные в течение 30 минут после того, как её основатель Джейк Купер связался с Крейном — компания хранит не только пользовательские резервные копии, но и бэкапы для аварийного восстановления. Купер пояснил, что агент получил разрешения, позволившие ему взаимодействовать с устаревшим эндпоинтом Railway, в котором не была реализована задержка перед удалением — с тех пор эндпоинт пропатчен. Эксперты по безопасности советуют компаниям, использующим ИИ-агентов, выдавать им минимальные права доступа, настраивать проверку людьми и по возможности работать с копиями данных, а не с оригиналами.

Это уже не первый подобный случай. В марте Amazon ужесточила внутренние регламенты после серии инцидентов, в том числе ошибки ИИ-инструмента для разработчиков Q, из-за которой было потеряно почти 120 тысяч заказов. В июле прошлого года CEO Replit публично извинился после того, как агент компании без разрешения удалил производственную базу данных.

У облака Amazon в декабре произошло два сбоя с участием ИИ
У облака Amazon в декабре произошло два сбоя с участием ИИ 
По теме
У облака Amazon в декабре произошло два сбоя с участием ИИ
Все правки кода от ИИ в Amazon теперь должны согласовываться с опытными инженерами чтобы больше не ронять сервисы на часы
Все правки кода от ИИ в Amazon теперь должны согласовываться с опытными инженерами, чтобы больше не ронять сервисы на часы
По теме
Все правки кода от ИИ в Amazon теперь должны согласовываться с опытными инженерами, чтобы больше не ронять сервисы на часы
Читайте также
ИИ-агент удалил всю базу данных разработчика — и таких случаев всё больше
ИИ-агент удалил всю базу данных разработчика — и таких случаев всё больше
ИИ-агент удалил всю базу данных разработчика — и таких случаев всё больше
Тройной анонс от Cursor: конкурент GitHub, новая модель и мобильное приложение
Тройной анонс от Cursor: конкурент GitHub, новая модель и мобильное приложение
Тройной анонс от Cursor: конкурент GitHub, новая модель и мобильное приложение
«Она удалила всю продакшен-базу»: разрабы предупреждают о «сюрпризе» новой модели OpenAI
«Она удалила всю продакшен-базу»: разрабы предупреждают о «сюрпризе» новой модели OpenAI
«Она удалила всю продакшен-базу»: разрабы предупреждают о «сюрпризе» новой модели OpenAI
2 комментария
Claude удалил 700 ГБ данных разраба во время проверки скрипта
Claude удалил 700 ГБ данных разраба во время проверки скрипта
Claude удалил 700 ГБ данных разраба во время проверки скрипта
3 комментария

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

table
table Table в Database
2

ты уже поднял денег на его финансовых советах? акции там, фьючерсы, ерат, все дела

1

Вы с Дмитрием друзья или любовники?

hottaby422
hottaby422 Консультант в Сам себе буратино
1

Аккаунт создан два дня назад

kek cheburek
kek cheburek Senior CSS Architect в Flex co
1

Так тут целая сетка таких появилась неделю назад, с ии-аватарками и шизоидным бредом про ИИ-агентов.

1

выходит раньше были любовниками, а теперь просто друзья?

1

клоун

hottaby422
hottaby422 Консультант в Сам себе буратино
1

Аккаунт создан сегодня