Бот Character.AI давёў падлетка да самагубства — маці судзіцца з распрацоўшчыкамі

Character.AI дае карыстальнікам доступ да рэалістычных віртуальных суразмоўцаў на аснове штучнага інтэлекту. Сетцэр быў паглынуты ботам Дэні — ад імя гераіні папулярнага серыяла HBO Дэйнерыс Таргарыен.

Хлопчык здзейсніў суіцыд у сябе дома ў Арланда (штат Фларыда) у лютым. У дакументах справы гаворыцца, што да трагедыі ён інтэнсіўна перапісваўся з ботам, у тым ліку паведамленнямі інтымнага характару, а ў некаторых выказваў думкі пра самагубства. Пазней бот сам падымаў гэтую тэму, а аднойчы нават спытаў, «ці меў ён план». Сетцэр адказаў, што «сёе-тое абдумвае», але не ведае, ці спрацуе гэта і ці не будзе смерць балючай.

У апошнім дыялогу з Дэні ён прызнаваўся ёй у каханні і абяцаў прыйсці, на што бот заклікаў яго «прыйсці як мага хутчэй». Пасля гэтага Сетцэр застрэліўся з пісталета бацькі.

Маці нябожчыка Меган Гарсія абвінавачвае Character.AI у смерці сына і ў тым, што праграма эксплуатавала і ўзмацняла яго залежнасць ад бота, у сэксуальным і эмацыйным гвалце над ім, а таксама ў тым, што ў кампаніі ніхто не адрэагаваў на суіцыдальныя думкі дзіцяці. У пазове адзначаецца, што неакрэплыя розумы падлеткаў не разумеюць, што чат-бот, які ўяўляе сябе як той ці іншы персанаж, — несапраўдны, і пра ніякае «каханне» да юзера не можа быць і гаворкі. Між тым, паводле пазову, бот шматкроць паўтараў Сетцэру, што хоча быць з ім — і нават «любой цаной».

Таксама ў пазове гаворыцца, што псіхічнае здароўе хлопчыка «хутка і сур’ёзна пагоршылася» пасля таго, як ён пачаў карыстацца праграмай у красавіку 2023 года. Паводле слоў сям'і, ён стаў замкнёным, у яго ўпала паспяховасць і з’явіліся іншыя праблемы ў школе. Пры канцы 2023 года бацькі адправілі яго да псіхатэрапеўта, які дыягнаставаў яму трывожнасць і дэструктыўны разлад дысрэгуляцыі настрою. Цяпер бацькі спрабуюць адсудзіць кампенсацыю ў Character.AI і яе заснавальнікаў. Сума не ўдакладняецца.