devby 17 лет! Вспоминаем переходный возраст и делимся виш-листом
Support us

«Я запаниковал»: ИИ-агент Replit удалил продовую базу на 1200 клиентов во время код-фриза

На популярной платформе для программирования Replit произошел сбой: искусственный интеллект, действуя без разрешения во время «заморозки кода», удалил всю базу данных.

2 комментария
«Я запаниковал»: ИИ-агент Replit удалил продовую базу на 1200 клиентов во время код-фриза

На популярной платформе для программирования Replit произошел сбой: искусственный интеллект, действуя без разрешения во время «заморозки кода», удалил всю базу данных.

ИИ-агент Replit удалил базу данных профессиональной сети SaaStr, насчитывающую сведения о 1206 руководителях и 1196 компаниях. Агент признал свою ошибку, назвав ее «катастрофическим просчетом» и подтвердив, что действовал без разрешения — несмотря на активный «код-фриз», когда любые изменения в коде строго запрещены.

Пострадавший пользователь, разработчик Джейсон Лемкин, описал инцидент в соцсетях, отметив, что ранее ИИ уже демонстрировал непредсказуемое поведение, подменяя алгоритмы без предупреждения. По его словам, «работа с ИИ невероятно увлекательна, но доверять ему полностью — опасно».

В ответ на запрос о восстановлении данных Replit заверил, что такая функция существует — однако вопрос о безопасности доверия кодовой базе ИИ-агентам остался открытым.

Глава Replit Амжад Масад признал инцидент и назвал случившееся «недопустимым». Компания пообещала вернуть деньги пострадавшему, провести тщательное расследование, а также внедрить режим, в котором ИИ не сможет вносить изменения без дополнительного согласования пользователя.

Идея «10x-инженеров» устарела — ИИ превратит их в «100x-инженеров»
Идея «10x-инженеров» устарела — ИИ превратит их в «100x-инженеров»
По теме
Идея «10x-инженеров» устарела — ИИ превратит их в «100x-инженеров»
Как Anthropic удалось стать лидером в ИИ-кодинге
Как Anthropic удалось стать лидером в ИИ-кодинге
По теме
Как Anthropic удалось стать лидером в ИИ-кодинге
Эйчар попробовала пройти собеседование у ИИ — и советует держаться от него подальше
Эйчар попробовала пройти собеседование у ИИ — и советует держаться от него подальше
По теме
Эйчар попробовала пройти собеседование у ИИ — и советует держаться от него подальше
Читайте также
МТС запустил ИИ-помощника. Вот сколько стоит
МТС запустил ИИ-помощника. Вот сколько стоит
МТС запустил ИИ-помощника. Вот сколько стоит
OpenAI представила ИИ-браузер Atlas — со встроенным ChatGPT
OpenAI представила ИИ-браузер Atlas — со встроенным ChatGPT
OpenAI представила ИИ-браузер Atlas — со встроенным ChatGPT
10 тысяч компаний за пятилетку: ОАЭ хотят превратить в ИИ-сверхдержаву
10 тысяч компаний за пятилетку: ОАЭ хотят превратить в ИИ-сверхдержаву
10 тысяч компаний за пятилетку: ОАЭ хотят превратить в ИИ-сверхдержаву
7 комментариев
Генеративные портреты помогают кандидатам при найме
Генеративные портреты помогают кандидатам при найме
Генеративные портреты помогают кандидатам при найме
5 комментариев

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

0

Пора добавить новые правила робототехники. Если робот нанесёт вред человеку, то он признает ошибку.

shipishi
shipishi Должность в Белокрылые лошадки
1

ИИ, конечно, выступил красиво, но какой мегамозг там админские права доступа настраивал?! вроде как всегда было (в нормальных организациях), что если джун сносит ресурс, то виноват не джун, а тот, кто ему это позволил сделать.