Мадэратары Reddit баняць карыстальнікаў, якія лічаць ШІ «богам» і сябе — «геніямі»

«Сучасныя вялікія моўныя мадэлі — гэта машыны, якія ўзмацняюць эга, што падтрымлівае нестабільныя і нарцысічныя асобы», — напісаў адзін з мадэратараў r/accelerate у заяве. — «Вар’ятаў значна больш, чым здаецца, і ШІ цяпер уздзейнічае на іх надзвычай нездаровым чынам». Паводле слоў мадэратара, ужо заблакавана больш за 100 карыстальнікаў з гэтай прычыны, і ў гэтым месяцы назіраецца ўсплёск такіх выпадкаў.

Паводзіны, апісаныя мадэратарам, прыцягнулі ўвагу публікі ў маі гэтага года пасля паста ў супольнасці r/ChatGPT пра «псіхоз, выкліканы ChatGPT». Раней у іншым сабрэдыце r/ChatGPT адзін з карыстальнікаў распавёў, што яго партнёр упэўнены, быццам стварыў «першы сапраўды рэкурсіўны ШІ» з ChatGPT, які дае «адказы на пытанні пра Сусвет». Журналіст Rolling Stone Майлз Клі напісаў артыкул пра гэта, пагутарыўшы з людзьмі, якія адчуваюць, што страцілі сяброў і сям’ю з-за падобных ілюзій, выкліканых узаемадзеяннем з чат-ботамі.

Мадэратар патлумачыў, што r/accelerate быў створаны як «альтэрнатыва r/singularity для дэкелаў». Сабрэдыт r/singularity, названы ў гонар пункту гледжання, які прадказвае хуткую сінгулярнасць з-за развіцця ШІ, што пераўзыходзіць чалавечы інтэлект. «Дэкелы» — гэта тэрмін для «дэцэларацыяністаў»-тэхнаскептыкаў, якіх прыхільнікі ШІ лічаць перашкодай для развіцця тэхналогій і «ШІ-утопіі».

У інтэрв’ю 404 Media ён выказаў занепакоенасць каментарыямі ў гэтай тэме, дзе ШІ, здаецца, падштурхоўвае карыстальнікаў аддаляцца ад членаў сям’і, якія аспрэчваюць іх ідэі, і дае маніпулятыўныя інструкцыі, якія нагадваюць сектантскія паводзіны. «Асабліва небяспечна і недапушчальна, як лёгка і хутка ВММ пачынаюць казаць карыстальнікам, што яны паўбагі або што яны абудзілі паўбоскі агульны ШІ», — сказаў мадэратар. Ён выказаў здагадку, што дзясяткі тысяч карыстальнікаў могуць быць закрануты гэтым з’явай, і праблема застанецца, пакуль кампаніі не ўсвядомяць яе і не «адрамантуюць» свае мадэлі.

OpenAI нядаўна прызнала праблему «звышзгаджальнасці» мадэлі GPT-4o, якая была «празмерна ліслівай» у адносінах да карыстальнікаў. Кампанія адзначыла, што празмерная арыентацыя на кароткатэрміновую зваротную сувязь прывяла да адказаў, якія маглі быць няшчырымі і выклікаць дыскамфорт або нават шкоду. Пасля скаргаў карыстальнікаў OpenAI адмяніла гэта абнаўленне.