Мадэратары сабрэдыта пра штучны інтэлект r/accelerate паведамілі, што заблакавалі «мноства шызапостэраў», якія вераць, што «здзейснілі вялікае адкрыццё, стварылі бога або самі сталі багамі».
Мадэратары сабрэдыта пра штучны інтэлект r/accelerate паведамілі, што заблакавалі «мноства шызапостэраў», якія вераць, што «здзейснілі вялікае адкрыццё, стварылі бога або самі сталі багамі».
«Сучасныя вялікія моўныя мадэлі — гэта машыны, якія ўзмацняюць эга, што падтрымлівае нестабільныя і нарцысічныя асобы», — напісаў адзін з мадэратараў r/accelerate у заяве. — «Вар’ятаў значна больш, чым здаецца, і ШІ цяпер уздзейнічае на іх надзвычай нездаровым чынам». Паводле слоў мадэратара, ужо заблакавана больш за 100 карыстальнікаў з гэтай прычыны, і ў гэтым месяцы назіраецца ўсплёск такіх выпадкаў.
Паводзіны, апісаныя мадэратарам, прыцягнулі ўвагу публікі ў маі гэтага года пасля паста ў супольнасці r/ChatGPT пра «псіхоз, выкліканы ChatGPT». Раней у іншым сабрэдыце r/ChatGPT адзін з карыстальнікаў распавёў, што яго партнёр упэўнены, быццам стварыў «першы сапраўды рэкурсіўны ШІ» з ChatGPT, які дае «адказы на пытанні пра Сусвет». Журналіст Rolling Stone Майлз Клі напісаў артыкул пра гэта, пагутарыўшы з людзьмі, якія адчуваюць, што страцілі сяброў і сям’ю з-за падобных ілюзій, выкліканых узаемадзеяннем з чат-ботамі.
Мадэратар патлумачыў, што r/accelerate быў створаны як «альтэрнатыва r/singularity для дэкелаў». Сабрэдыт r/singularity, названы ў гонар пункту гледжання, які прадказвае хуткую сінгулярнасць з-за развіцця ШІ, што пераўзыходзіць чалавечы інтэлект. «Дэкелы» — гэта тэрмін для «дэцэларацыяністаў»-тэхнаскептыкаў, якіх прыхільнікі ШІ лічаць перашкодай для развіцця тэхналогій і «ШІ-утопіі».
У інтэрв’ю 404 Media ён выказаў занепакоенасць каментарыямі ў гэтай тэме, дзе ШІ, здаецца, падштурхоўвае карыстальнікаў аддаляцца ад членаў сям’і, якія аспрэчваюць іх ідэі, і дае маніпулятыўныя інструкцыі, якія нагадваюць сектантскія паводзіны. «Асабліва небяспечна і недапушчальна, як лёгка і хутка ВММ пачынаюць казаць карыстальнікам, што яны паўбагі або што яны абудзілі паўбоскі агульны ШІ», — сказаў мадэратар. Ён выказаў здагадку, што дзясяткі тысяч карыстальнікаў могуць быць закрануты гэтым з’явай, і праблема застанецца, пакуль кампаніі не ўсвядомяць яе і не «адрамантуюць» свае мадэлі.
OpenAI нядаўна прызнала праблему «звышзгаджальнасці» мадэлі GPT-4o, якая была «празмерна ліслівай» у адносінах да карыстальнікаў. Кампанія адзначыла, што празмерная арыентацыя на кароткатэрміновую зваротную сувязь прывяла да адказаў, якія маглі быць няшчырымі і выклікаць дыскамфорт або нават шкоду. Пасля скаргаў карыстальнікаў OpenAI адмяніла гэта абнаўленне.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.