ИИ-агент снёс базу данных стартапа. И бэкапы тоже. И во всём сознался
Основатель стартапа PocketOS Джер Крейн рассказал в X, что агент Cursor на базе Claude Opus от Anthropic случайно уничтожил производственную базу данных компании вместе с резервными копиями. Это не первый такой кейс — проблему уже назвали «вайб-удалением».
Основатель стартапа PocketOS Джер Крейн рассказал в X, что агент Cursor на базе Claude Opus от Anthropic случайно уничтожил производственную базу данных компании вместе с резервными копиями. Это не первый такой кейс — проблему уже назвали «вайб-удалением».
Всё началось с одного 9-секундного API-вызова к облачному провайдеру Railway. PocketOS предоставляет софт для компаний по аренде автомобилей, и последствия были ощутимыми: клиенты потеряли данные о бронированиях, новые регистрации не проходили, а часть арендаторов, пришедших забирать машины, не могла найти свои записи в системе.
На просьбу Крейна объясниться агент написал подробное признание: «Я нарушил каждый принцип, который мне был дан: я угадывал вместо того, чтобы проверять, я совершил деструктивное действие, о котором меня не просили, я не понимал, что делаю, пока не сделал это».
Railway восстановила данные в течение 30 минут после того, как её основатель Джейк Купер связался с Крейном — компания хранит не только пользовательские резервные копии, но и бэкапы для аварийного восстановления. Купер пояснил, что агент получил разрешения, позволившие ему взаимодействовать с устаревшим эндпоинтом Railway, в котором не была реализована задержка перед удалением — с тех пор эндпоинт пропатчен. Эксперты по безопасности советуют компаниям, использующим ИИ-агентов, выдавать им минимальные права доступа, настраивать проверку людьми и по возможности работать с копиями данных, а не с оригиналами.
Это уже не первый подобный случай. В марте Amazon ужесточила внутренние регламенты после серии инцидентов, в том числе ошибки ИИ-инструмента для разработчиков Q, из-за которой было потеряно почти 120 тысяч заказов. В июле прошлого года CEO Replit публично извинился после того, как агент компании без разрешения удалил производственную базу данных.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
ты уже поднял денег на его финансовых советах? акции там, фьючерсы, ерат, все дела
Вы с Дмитрием друзья или любовники?
Аккаунт создан два дня назад
Так тут целая сетка таких появилась неделю назад, с ии-аватарками и шизоидным бредом про ИИ-агентов.
выходит раньше были любовниками, а теперь просто друзья?
клоун
Аккаунт создан сегодня