Кіраўнік аддзела ШІ Microsoft выказвае занепакоенасць павелічэннем выпадкаў «ШІ-псіхозу»

Сулейман падкрэслівае, што няма ніякіх доказаў, што ШІ валодае свядомасцю. Але некаторыя людзі ўспрымаюць яго як «жывога». І гэта мае сацыяльныя наступствы.

Як адзначае ВВС, «ШІ-псіхоз» не клінічны тэрмін. Так называюць выпадкі, калі людзі празмерна спадзяюцца на чат-ботаў — ChatGPT, Claude ці Grok — і пачынаюць верыць у рэчы, якія не маюць дачынення да рэчаіснасці. Некаторыя вераць, што знайшлі ў сістэме «сакрэтную функцыю», іншыя ўступаюць у «рамантычныя адносіны» з ШІ або пачынаюць лічыць сябе ўладальнікамі звышздольнасцей.

Жыхар Шатландыі па імені Х’ю звярнуўся да ChatGPT па дапамогу, калі рыхтаваўся да разбору з былым працадаўцам. Спачатку бот даваў разумныя парады: сабраць рэкамендацыі, звярнуцца да спецыялістаў. А потым пачаў унушаць Х’ю, што яго чакае шматмільённая кампенсацыя, кніга і фільм пра справу.

Чым больш інфармацыі Х’ю даваў боту, тым больш той пацвярджаў яго словы, успамінае мужчына. Х’ю нават скасаваў юрыдычную кансультацыю — быў упэўнены, што ў яго ўжо ёсць усё неабходнае, і пачаў адчуваць сябе «асаблівым чалавекам з вышэйшымі ведамі». На фоне псіхічных праблем у яго здарыўся зрыў. Прыём медыкаментаў дапамог усвядоміць, што ён страціў сувязь з рэальнасцю. Х’ю працягвае карыстацца ШІ, але папярэджвае, што такія інструменты могуць быць небяспечныя. Ён заклікае правяраць інфармацыю і размаўляць з рэальнымі людзьмі — дактарамі, сям’ёй ці сябрамі.

Сулейман лічыць, што кампаніі не павінны заяўляць ці нават намякаць, што іх ШІ валодае свядомасцю. Па яго словах, неабходны «жорсткія рамкі» для прадухілення падобных скажэнняў успрымання. А некаторыя эксперты кажуць, што калі-небудзь дактарам давядзецца ўдакладняць у пацыентаў, ці карысталіся яны ШІ, як сёння пытаюцца пра курэнне ці алкаголь. «Мы ведаем, што робяць з целам ультраапрацаваныя прадукты. А гэта — ультраапрацаваная інфармацыя. У выніку мы атрымаем лавіну «ультраапрацаваных розумаў», — адзначаюць эксперты.

Выпадкі «ШІ-псіхозу» робяцца ўсё больш разнастайнымі. BBC распавядаў гісторыі людзей, упэўненых, што ChatGPT «закахаўся» ў іх, што яны «разблакавалі» схаваную асобу чат-бота Grok, ці што іх падверглі «таемнаму эксперыменту».

Прафесар Бангорскага ўніверсітэта Эндру Макстэй, сцвярджае, што гэта толькі пачатак. «Калі разглядаць такія сістэмы як форму сацыяльнай сеткі, то нават невялікі працэнт пацярпелых пры велізарнай аўдыторыі — гэта ўжо сур’ёзныя маштабы», — кажа ён.

У яго даследаванні прыняло ўдзел больш за 2000 чалавек. 20% лічаць, што дзецям да 18 гадоў не варта карыстацца ШІ. 57% супраць таго, каб чат-боты прадстаўляліся «сапраўднымі людзьмі», але амаль палова рэспандэнтаў ухваляюць выкарыстанне «чалавечых галасоў» для большай пераканаўчасці.

«Яны гучаць праўдападобна, але яны не рэальнасць. ШІ не адчувае, не разумее, не любіць, не адчувае болю ці сораму. Усё гэта ёсць толькі ў сапраўдных людзей — у сям'і, сяброў, блізкіх. Размаўляйце з імі», — кажа прафесар.