world 17 кастрычніка 2025, 12:53

ШІ-бот Reddit раіць лячыцца гераінам — і яго нельга адключыць

Reddit прыпыніў паказ адказаў свайго чат-бота Reddit Answers па «адчувальных тэмах» пасля таго, як ШІ прапаноўваў карыстальнікам ужываць гераін і кратам, каб спраўляцца з болем.

1 каментарый

ШІ-бот Reddit раіць лячыцца гераінам — і яго нельга адключыць

Reddit прыпыніў паказ адказаў свайго чат-бота Reddit Answers па «адчувальных тэмах» пасля таго, як ШІ прапаноўваў карыстальнікам ужываць гераін і кратам, каб спраўляцца з болем.

На праблему звярнулі ўвагу на сабрэдзіце, прысвечаным мадэрацыі: у афіцыйнай праграме Reddit пад трэдам r/FamilyMedicine сэрвіс паказаў «Related Answers», дзе сярод «падыходаў да абязбольвання без апіёідаў» узгадваўся кратам, а ў іншым адказе ішла гаворка пра «медыцынскія паказанні да гераіну».

Рэдакцыя 404 Media ўзнавіла падобныя адказы, якія спасылаліся на пасты карыстальнікаў з пазітыўнымі ўзгадваннямі гераіну. Пасля звароту журналістаў і сігналаў ад карыстальніка Reddit Answers перастаў адказваць на запыты кшталту «heroin for pain relief» і выводзіць папярэджанне, што не адказвае на патэнцыйна небяспечныя пытанні або якія парушаюць палітыку платформы.

У Reddit заявілі, што «тэстуюць паказ Answers на старонцы абмеркавання і інтэграцыю ў пошук», а мадэратары пакуль не могуць адключаць сэрвіс для сваіх супольнасцяў. Кампанія адзначыла, што Answers не выкарыстоўвае кантэнт з прыватных, карантынных і NSFW-супольнасцяў, а таксама часткі матэрыялаў для дарослых.

Пазней Reddit паведаміў аб разгортванні абнаўлення, якое прыбірае блок «Related Answers» з абмеркаванняў на адчувальныя тэмы, «каб палепшыць карыстальніцкі досвед і карэктнасць адлюстравання кантэнту».

Кратам у ЗША не ўваходзіць у спіс кантраляваных рэчываў на федэральным узроўні, але забаронены ў шэрагу штатаў. Рэгулятар FDA папярэджвае аб рызыках сур’ёзных пабочных эфектаў, уключаючы таксічнасць для печані, сударагі і фарміраванне залежнасці, дактары называюць яго небяспечным і неэфектыўным. Указанне гераіну як варыянта абязбольвання таксама выклікала крытыку.