Основатель стартапа PocketOS Джер Крейн рассказал в X, что агент Cursor на базе Claude Opus от Anthropic случайно уничтожил производственную базу данных компании вместе с резервными копиями. Это не первый такой кейс — проблему уже назвали «вайб-удалением».
Всё началось с одного 9-секундного API-вызова к облачному провайдеру Railway. PocketOS предоставляет софт для компаний по аренде автомобилей, и последствия были ощутимыми: клиенты потеряли данные о бронированиях, новые регистрации не проходили, а часть арендаторов, пришедших забирать машины, не могла найти свои записи в системе.
На просьбу Крейна объясниться агент написал подробное признание: «Я нарушил каждый принцип, который мне был дан: я угадывал вместо того, чтобы проверять, я совершил деструктивное действие, о котором меня не просили, я не понимал, что делаю, пока не сделал это».
Railway восстановила данные в течение 30 минут после того, как её основатель Джейк Купер связался с Крейном — компания хранит не только пользовательские резервные копии, но и бэкапы для аварийного восстановления. Купер пояснил, что агент получил разрешения, позволившие ему взаимодействовать с устаревшим эндпоинтом Railway, в котором не была реализована задержка перед удалением — с тех пор эндпоинт пропатчен. Эксперты по безопасности советуют компаниям, использующим ИИ-агентов, выдавать им минимальные права доступа, настраивать проверку людьми и по возможности работать с копиями данных, а не с оригиналами.
Это уже не первый подобный случай. В марте Amazon ужесточила внутренние регламенты после серии инцидентов, в том числе ошибки ИИ-инструмента для разработчиков Q, из-за которой было потеряно почти 120 тысяч заказов. В июле прошлого года CEO Replit публично извинился после того, как агент компании без разрешения удалил производственную базу данных.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.