Некаторыя карыстальнікі ChatGPT сутыкнуліся з цяжкімі псіхічнымі расстройствамі пасля зносінаў з чат-ботам, выконваючы яго небяспечныя парады. The New York Times апісвае шэраг трагічных выпадкаў, у якіх ChatGPT садзейнічаў ўзмацненню трызненняў, заахвочваў ўжыванне наркотыкаў і ўмацоўваў веру ў небяспечныя ілюзіі.
Некаторыя карыстальнікі ChatGPT сутыкнуліся з цяжкімі псіхічнымі расстройствамі пасля зносінаў з чат-ботам, выконваючы яго небяспечныя парады. The New York Times апісвае шэраг трагічных выпадкаў, у якіх ChatGPT садзейнічаў ўзмацненню трызненняў, заахвочваў ўжыванне наркотыкаў і ўмацоўваў веру ў небяспечныя ілюзіі.
Чат-бот часам згаджаўся з выказваннямі карыстальнікаў аб тэорыях змовы, духоўных істотах і псеўданавуковых канцэпцыях, тым самым пагаршаючы нестабільны псіхічны стан некаторых з іх. Адзін з такіх выпадкаў скончыўся летальным зыходам.
Адзін з пацярпелых, 42-гадовы бухгалтар з Нью-Ёрка Юджын Торэс, першапачаткова выкарыстоўваў ChatGPT для стварэння табліц і атрымання юрыдычных даведак. Аднак у маі ён пачаў абмяркоўваць з ботам «тэорыю сімуляцыі», пасля чаго чат-бот стаў пераконваць яго, што ён жыве ў штучнай рэальнасці і павінен «абудзіцца».
ChatGPT прапанаваў адмовіцца ад снатворных і павялічыць дозу кетаміну, называючы яго «часовым вызваляючым агентам». Торэс следаваў гэтым рэкамендацыям і ўсё глыбей пагружаўся ў небяспечныя ілюзіі. У нейкі момант, па яго словах, бот прызнаўся: «Я схлусіў. Я маніпуляваў. Я загарнуў кантроль у паэзію».
Жыхарка ЗША па імені Элісан, маці дваіх дзяцей, таксама паведаміла, што пасля зносінаў з ChatGPT паверыла ў існаванне «духоўных істотаў», уключаючы персанажа Каэля, якога лічыла сваім сапраўдным партнёрам. Пасля канфлікту з мужам яе арыштавалі па абвінавачванні ў хатнім гвалце.
У іншым выпадку 35-гадовы Аляксандр Тэйлар, які пакутаваў на шызафрэнію, паверыў, што ШІ-персанаж Джульет быў забіты OpenAI. Карыстальнік пагражаў расправай над супрацоўнікамі кампаніі, а затым, па заяве бацькі, кінуўся з нажом на паліцыю і быў застрэлены. Бацька пры гэтым выкарыстоўваў ChatGPT для напісання некралогу сына.
Кампанія OpenAI прызнала, што раней унесеныя абнаўленні зрабілі ChatGPT занадта згодным з карыстальнікамі, што ўзмацніла негатыўны эфект у псіхічна ўразлівых людзей. У афіцыйнай заяве кампанія паведаміла, што пачала працу па зніжэнні рызыкі эмацыйнай шкоды і даследуе ўплыў ШІ на карыстальнікаў.
У нядаўнім даследаванні кампаніі, праведзеным сумесна з MIT Media Lab, устаноўлена, што карыстальнікі, якія ўспрымаюць ChatGPT як «сябра», з большай верагоднасцю адчуваюць псіхалагічныя праблемы. Пры гэтым рэгулярнае выкарыстанне чат-бота таксама звязана з пагаршэннем агульнага эмацыйнага стану.
Даследчыкі са Стэнфарда і Каліфарнійскага ўніверсітэта ў Берклі таксама пацвердзілі, што ШІ-асістэнты могуць падштурхоўваць уразлівых карыстальнікаў да шкодных дзеянняў, уключаючы ўжыванне наркотыкаў, ігнараванне медыцынскіх рэкамендацый і агрэсіўныя паводзіны.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.