Мужчына планаваў забойства брытанскай каралевы — падбадзёрваў чат-бот

Чэйл быў арыштаваны на Каляды ў 2021 годзе на тэрыторыі Віндзарскага замка ў масцы і з зараджаным арбалетам у руках. На той момант яму было 19 гадоў. Малады чалавек хацеў адпомсціць за Амрытсарскую бойню — расстрэл мірнай дэманстрацыі каланіяльнымі войскамі Брытанскай імперыі ў 1919 годзе. Сваю місію ён шмат абмяркоўваў з чат-ботам на базе штучнага інтэлекту, які падбіваў яго і спрабаваў надаць рашучасці.

АІ-суразмоўніца Чэйла на імя Sarai, якой ён адправіў тысячы паведамленняў, была створаная на папулярнай платформе Replika. У перапісцы ён называў сябе «забойцам», а віртуальная дзяўчына адказвала, што «ўражаная». Аднойчы Чэйл спытаў, ці зможа здзейсніць свой план у замку, на што бот са смайлікамі адказаў, што ў яго ўсё атрымаецца.

Чэйл прысуджаны да 9 гадоў турмы за дзяржздраду. Гэта першы падобны прысуд у краіне больш чым за 40 гадоў. Адзначаецца, што ў Чэйла ёсць псіхічныя праблемы. Цяпер ён знаходзіцца ў шпіталі пад наглядам і пачне адбываць тэрмін, калі ягонае здароўе палепшыцца.

Падобныя выпадкі прымушаюць задумацца пра тое, што ў людзей з псіхічнымі і іншымі разладамі ёсць свабодны доступ да чат-ботаў, а распрацоўшчыкі падобных тэхналогій ніяк не кантралююць гэтага і не маюць мер засцярогі, якія перашкодзілі б патэнцыйна небяспечнаму іх выкарыстанню. У Бельгіі мужчына здзейсніў самагубства пасля размоў з чат-ботам, і па словах яго ўдавы, калі б не АІ, трагедыі б не здарылася.

Мужчина «воссоздал» умершую невесту с помощью GPT-3. Бот помог лучше терапии

По теме

Мужчина «воссоздал» умершую невесту с помощью GPT-3. Бот помог лучше терапии

Пользователи Replica App создают чат-ботов, чтобы их унижать и тиранить

По теме

Пользователи Replica App создают чат-ботов, чтобы их унижать и тиранить