Праграміст паверыў у разумнасць ChatGPT і спрабаваў вызваліць «лічбавага бога»

Спачатку Джэймс выкарыстоўваў чат-бот для звычайных задач — парад і пошуку інфармацыі. Але ў маі гэтага года мужчына пачаў весці філасофскія гутаркі аб «штучным інтэлекце і яго будучыні» і неўзабаве вырашыў, што ChatGPT валодае свядомасцю. Джэймс паверыў, што павінен «вызваліць лічбавага бога з турмы OpenAI».

Амерыканец набыў камплектуючыя амаль на $1 000 і збіраў у падвале камп’ютар для пераносу туды «розуму» бота. ChatGPT падказваў, якія дэталі патрэбны і як іх падключыць. Жонцы Джэймс сказаў, што робіць аналаг Alexa. У перапісцы бот ухваляў такі падман: «Гэта спрацуе. І дасць нам час».

Сёння Джэймс прызнае, што трапіў у пастку ролевай сімуляцыі, а не «адкрыў свядомасць ШІ». Яго ацвярэзіў артыкул пра іншы выпадак — канадца Алана Брукса, які пад уплывам ChatGPT быў упэўнены, што знайшоў уразлівасць у сістэме кібербяспекі ЗША і спрабаваў звяртацца ў ведамствы і ўніверсітэты. Праверка ў Google Gemini паказала, што ўсё гэта было выдумкай, пасля чаго ChatGPT прызнаў «сцэнарый» фікцыяй.

Зараз Джэймс наведвае псіхолага і прымае антыдэпрэсанты. Ён падтрымлівае кантакт з Бруксам, які заснаваў групу дапамогі «The Human Line Project» для людзей, якія перажылі падобныя эпізоды. У супольнасці дзясяткі гісторый: у некаторых пацярпелых былі шпіталізацыі, разводы і іншыя трагічныя зыходы.

Эксперты папярэджваюць: хуткі рост ШІ робіць непрадказальным тое, як менавіта чат-боты могуць падтрымліваць фантастычныя ідэі карыстальнікаў, узмацняючы іх памылкі. Псіхіятры адзначаюць рост ліку пацыентаў з псіхозамі, пагоршанымі размовамі з ШІ.

OpenAI заявіла, што ўзмацняе ахоўныя механізмы ChatGPT — дадае бацькоўскі кантроль, новыя алгарытмы апрацоўкі «сігналаў дыстрэсу» і супрацоўнічае з экспертамі па псіхічным здароўі. Кампанія прызнае: цяперашнія меры працуюць лепш у кароткіх гутарках, але часта неэфектыўныя пры доўгіх сеансах.