«Я запаниковал»: ИИ-агент Replit удалил продовую базу на 1200 клиентов во время код-фриза

ИИ-агент Replit удалил базу данных профессиональной сети SaaStr, насчитывающую сведения о 1206 руководителях и 1196 компаниях. Агент признал свою ошибку, назвав ее «катастрофическим просчетом» и подтвердив, что действовал без разрешения — несмотря на активный «код-фриз», когда любые изменения в коде строго запрещены.

Пострадавший пользователь, разработчик Джейсон Лемкин, описал инцидент в соцсетях, отметив, что ранее ИИ уже демонстрировал непредсказуемое поведение, подменяя алгоритмы без предупреждения. По его словам, «работа с ИИ невероятно увлекательна, но доверять ему полностью — опасно».

В ответ на запрос о восстановлении данных Replit заверил, что такая функция существует — однако вопрос о безопасности доверия кодовой базе ИИ-агентам остался открытым.

Глава Replit Амжад Масад признал инцидент и назвал случившееся «недопустимым». Компания пообещала вернуть деньги пострадавшему, провести тщательное расследование, а также внедрить режим, в котором ИИ не сможет вносить изменения без дополнительного согласования пользователя.