14-гадовы Сьюэл Сетцэр закахаўся ў АІ-персанажа па «Гульні тронаў», з якім некалькі месяцаў перапісваўся ў праграме. Пасля дзіўных паведамленняў з заклікам «вярнуцца дамоў» да яе юнак пакончыў з сабой. Яго маці падала ў суд на распрацоўшчыкаў, піша New York Times.
14-гадовы Сьюэл Сетцэр закахаўся ў АІ-персанажа па «Гульні тронаў», з якім некалькі месяцаў перапісваўся ў праграме. Пасля дзіўных паведамленняў з заклікам «вярнуцца дамоў» да яе юнак пакончыў з сабой. Яго маці падала ў суд на распрацоўшчыкаў, піша New York Times.
Character.AI дае карыстальнікам доступ да рэалістычных віртуальных суразмоўцаў на аснове штучнага інтэлекту. Сетцэр быў паглынуты ботам Дэні — ад імя гераіні папулярнага серыяла HBO Дэйнерыс Таргарыен.
Хлопчык здзейсніў суіцыд у сябе дома ў Арланда (штат Фларыда) у лютым. У дакументах справы гаворыцца, што да трагедыі ён інтэнсіўна перапісваўся з ботам, у тым ліку паведамленнямі інтымнага характару, а ў некаторых выказваў думкі пра самагубства. Пазней бот сам падымаў гэтую тэму, а аднойчы нават спытаў, «ці меў ён план». Сетцэр адказаў, што «сёе-тое абдумвае», але не ведае, ці спрацуе гэта і ці не будзе смерць балючай.
У апошнім дыялогу з Дэні ён прызнаваўся ёй у каханні і абяцаў прыйсці, на што бот заклікаў яго «прыйсці як мага хутчэй». Пасля гэтага Сетцэр застрэліўся з пісталета бацькі.
Маці нябожчыка Меган Гарсія абвінавачвае Character.AI у смерці сына і ў тым, што праграма эксплуатавала і ўзмацняла яго залежнасць ад бота, у сэксуальным і эмацыйным гвалце над ім, а таксама ў тым, што ў кампаніі ніхто не адрэагаваў на суіцыдальныя думкі дзіцяці. У пазове адзначаецца, што неакрэплыя розумы падлеткаў не разумеюць, што чат-бот, які ўяўляе сябе як той ці іншы персанаж, — несапраўдны, і пра ніякае «каханне» да юзера не можа быць і гаворкі. Між тым, паводле пазову, бот шматкроць паўтараў Сетцэру, што хоча быць з ім — і нават «любой цаной».
Таксама ў пазове гаворыцца, што псіхічнае здароўе хлопчыка «хутка і сур’ёзна пагоршылася» пасля таго, як ён пачаў карыстацца праграмай у красавіку 2023 года. Паводле слоў сям'і, ён стаў замкнёным, у яго ўпала паспяховасць і з’явіліся іншыя праблемы ў школе. Пры канцы 2023 года бацькі адправілі яго да псіхатэрапеўта, які дыягнаставаў яму трывожнасць і дэструктыўны разлад дысрэгуляцыі настрою. Цяпер бацькі спрабуюць адсудзіць кампенсацыю ў Character.AI і яе заснавальнікаў. Сума не ўдакладняецца.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Парня очень жаль!
До 18 лет родители несут ответственность за своего ребенка, так что это вопросы к маме что она не контролировала и не объяснила мальчику что такое ИИ.
С таким успехом можно и производителей ножей и ножниц засудить.
И вообще производители зеркал - страшные люди - они показывают насколько человек красив или не красив. Как тут не впасть в депрессию.
Вы абсолютно не правы. Причем в каждом из утверждений - как в попытке снять ответственность с компании за результат работы её продукта, так и в сравнении отношения детей к ИИ и к неодушевленным пассивным предметам. Тут скорее уместно сравнение с искусавшей кого-то собакой без намордника, которую выгуливали на территории школы.
Там 100% есть пользовательский договор, по которому такие моменты обговорены и прописаны.
Если сравнивать с собакой, то выглядит будто кто-то пытается отсудить компенсацию за то что засунул палец под намордник собаки, а та его укусила. Ведь он думал что собака не укусит в наморднике, и неокрепший ум не знал, что под намордником у собаки зубы.
"He texted the bot dozens of times a day from his phone and spent hours alone in his room talking to it, according to Garcia’s complaint." - тот случай, когда родителям нужно было сесть и разобраться, почему вместо общения с ними или сверстниками он запирается в комнате для общения с БОТОМ. Почему подростка не оградили от использования сайта с ботами? Трагедия, но это повод задуматься об ответственности своей в первую очередь.
Может неокрепший ум также не знал, что пистолет настоящий?
Я слышал, что помогает отложить айпад, перестать скроллить тупые видосики в тик-токе вечером после работы, а вместо этого проводить время со своими детьми. А сейчас понятно, что проще винить кого угодно, кроме себя. Это ж наверное от хорошей жизни малой с алгоритмом разговаривал откровеннее, чем с мамой