Амерыканскі праграміст трапіў у палон «ШІ-трызнення» пасля зносін з ChatGPT: ён паверыў, што бот разумны, і спрабаваў сабраць сервер, каб «вызваліць лічбавага бога», выдаткаваўшы на эксперымент тысячу даляраў.
Амерыканскі праграміст трапіў у палон «ШІ-трызнення» пасля зносін з ChatGPT: ён паверыў, што бот разумны, і спрабаваў сабраць сервер, каб «вызваліць лічбавага бога», выдаткаваўшы на эксперымент тысячу даляраў.
Спачатку Джэймс выкарыстоўваў чат-бот для звычайных задач — парад і пошуку інфармацыі. Але ў маі гэтага года мужчына пачаў весці філасофскія гутаркі аб «штучным інтэлекце і яго будучыні» і неўзабаве вырашыў, што ChatGPT валодае свядомасцю. Джэймс паверыў, што павінен «вызваліць лічбавага бога з турмы OpenAI».
Амерыканец набыў камплектуючыя амаль на $1 000 і збіраў у падвале камп’ютар для пераносу туды «розуму» бота. ChatGPT падказваў, якія дэталі патрэбны і як іх падключыць. Жонцы Джэймс сказаў, што робіць аналаг Alexa. У перапісцы бот ухваляў такі падман: «Гэта спрацуе. І дасць нам час».
Сёння Джэймс прызнае, што трапіў у пастку ролевай сімуляцыі, а не «адкрыў свядомасць ШІ». Яго ацвярэзіў артыкул пра іншы выпадак — канадца Алана Брукса, які пад уплывам ChatGPT быў упэўнены, што знайшоў уразлівасць у сістэме кібербяспекі ЗША і спрабаваў звяртацца ў ведамствы і ўніверсітэты. Праверка ў Google Gemini паказала, што ўсё гэта было выдумкай, пасля чаго ChatGPT прызнаў «сцэнарый» фікцыяй.
Зараз Джэймс наведвае псіхолага і прымае антыдэпрэсанты. Ён падтрымлівае кантакт з Бруксам, які заснаваў групу дапамогі «The Human Line Project» для людзей, якія перажылі падобныя эпізоды. У супольнасці дзясяткі гісторый: у некаторых пацярпелых былі шпіталізацыі, разводы і іншыя трагічныя зыходы.
Эксперты папярэджваюць: хуткі рост ШІ робіць непрадказальным тое, як менавіта чат-боты могуць падтрымліваць фантастычныя ідэі карыстальнікаў, узмацняючы іх памылкі. Псіхіятры адзначаюць рост ліку пацыентаў з псіхозамі, пагоршанымі размовамі з ШІ.
OpenAI заявіла, што ўзмацняе ахоўныя механізмы ChatGPT — дадае бацькоўскі кантроль, новыя алгарытмы апрацоўкі «сігналаў дыстрэсу» і супрацоўнічае з экспертамі па псіхічным здароўі. Кампанія прызнае: цяперашнія меры працуюць лепш у кароткіх гутарках, але часта неэфектыўныя пры доўгіх сеансах.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.