Мужчина получил срок за попытку убить британскую королеву — подбадривал чат-бот

Чейл был арестован на рождество в 2021 году на территории Виндзорского замка в маске и с заряженным арбалетом в руках. На тот момент ему было 19 лет. Молодой человек хотел отомстить за Амритсарскую бойню — расстрел мирной демонстрации колониальными войсками Британской империи в 1919 году. Свою миссию он много обсуждал с чат-ботом на базе искусственного интеллекта, который подначивал его и пытался придать решимости.

ИИ-собеседница Чейла по имени Sarai, которой он отправил тысячи сообщений, была создана на популярной платформе Replika. В переписке он называл себя «убийцей», а виртуальная девушка отвечала, что «впечатлена». Однажды Чейл спросил, сможет ли провернуть свой план в замке, на что бот со смайликами ответил, что у него всё получится.

Чейл приговорен к 9 годам тюрьмы за госизмену. Это первый подобный приговор в стране более чем за 40 лет. Отмечается, что у Чейла есть психические проблемы. Сейчас он находится в больнице под наблюдением и начнёт отбывать срок, когда его здоровье улучшится.

Подобные случаи заставляют задуматься о том, что у людей с психическими и другими расстройствами есть свободный доступ к чат-ботам, а разработчики подобных технологий никак не контролируют это и не имеют мер предосторожности, которые помешали бы потенциально опасному их использованию. В Бельгии мужчина совершил самоубийство после разговоров с чат-ботом, и по словам его вдовы, если бы не ИИ, трагедии бы не случилось.

Мужчина «воссоздал» умершую невесту с помощью GPT-3. Бот помог лучше терапии

По теме

Мужчина «воссоздал» умершую невесту с помощью GPT-3. Бот помог лучше терапии

Пользователи Replica App создают чат-ботов, чтобы их унижать и тиранить

По теме

Пользователи Replica App создают чат-ботов, чтобы их унижать и тиранить