Больш за 1 млн карыстальнікаў абмяркоўваюць з ChatGPT суіцыд — у тыдзень

Згодна з апублікаванымі дадзенымі, каля 0,15% актыўных карыстальнікаў сэрвісу вядуць размовы, якія змяшчаюць «прамыя прыкметы суіцыдальнага планавання ці намеру». Пры штотыднёвай аўдыторыі ChatGPT звыш 800 мільёнаў чалавек гэта азначае больш за мільён падобных выпадкаў.

Кампанія таксама заявіла, што аналагічная доля карыстальнікаў дэманструе «павышаную эмацыйную прывязанасць» да чат-бота, а сотні тысяч — прыкметы псіхозу ці маніі. У OpenAI падкрэслілі, што такія выпадкі рэдкія, але іх маштабы ўсё ж выклікаюць занепакоенасць.

Публікацыя дадзеных прымеркавана да абнаўлення сістэм бяспекі ChatGPT. Паводле слоў кампаніі, новая версія мадэлі ствараласяў пры ўдзеле больш за 170 спецыялістаў па псіхічным здароўі, якія дапамаглі палепшыць адказы на складаныя эмацыйныя запыты.

OpenAI сцвярджае, што абноўлены GPT-5 «на 65% часцей дае жаданыя адказы» ў дыялогах аб ментальных праблемах і ў 91% выпадкаў адпавядае ўнутраным стандартам паводзін, тады як папярэдняя версія — толькі ў 77%.

Гэтая тэма стала асабліва адчувальнай для OpenAI на фоне судовага іску ад бацькоў 16-гадовага падлетка, які скончыў жыццё самагубствам пасля зносін з ChatGPT, дзе ён дзяліўся думкамі аб самагубстве. Генеральныя пракуроры Каліфорніі і Дэлавэра таксама папярэдзілі кампанію аб неабходнасці абараняць непаўналетніх карыстальнікаў.

Раней у кастрычніку кіраўнік OpenAI Сэм Альтман заявіў, што кампаніі «удалося змякчыць сур’ёзныя рызыкі, звязаныя з псіхічным здароўем», хоць падрабязнасцей ён не прывёў. У OpenAI таксама паведамілі аб планах укараніць сістэму распазнавання ўзросту, каб аўтаматычна вызначаць дзяцей, якія выкарыстоўваюць ChatGPT, і ўключаць для іх узмоцненыя меры бяспекі.