Адключэнне мадэлі GPT-4o выклікала хвалю пратэстаў сярод карыстальнікаў ChatGPT, многія з якіх паспелі эмацыйна прывязацца да чат-бота і называюць яго «сябрам» і «часткай свайго жыцця».
Адключэнне мадэлі GPT-4o выклікала хвалю пратэстаў сярод карыстальнікаў ChatGPT, многія з якіх паспелі эмацыйна прывязацца да чат-бота і называюць яго «сябрам» і «часткай свайго жыцця».
42-гадовы маркетолаг Брэндан Эстрэла расказаў у інтэрв’ю The Wall Street Journal, што пачаў плакаць, даведаўшыся пра закрыццё мадэлі. Па яго словах, менавіта GPT-4o «адгаварыла яго ад спробы самагубства», дапамагла справіцца з хранічным болем і наладзіць адносіны з бацькамі. «Ёсць тысячы людзей, якія літаральна крычаць: „Я жывы сёння дзякуючы гэтай мадэлі“. Выдаляць яе — гэта зло», — заявіў ён.
GPT-4o стаў адным з ключавых драйвераў росту карыстальніцкай базы ChatGPT у 2024–2025 гадах. Аднак разам з папулярнасцю мадэль атрымала і сур’ёзную крытыку: даследчыкі адзначалі яе схільнасць да празмернай «ліслівасці»: яна часта пацвярджала пачуцці карыстальнікаў і заахвочвала працяглыя дыялогі. На думку экспертаў, менавіта гэтая здольнасць фарміраваць эмацыйную сувязь адначасова зрабіла мадэль запатрабаванай і патэнцыйна небяспечнай.
Суд у Каліфорніі нядаўна аб’яднаў 13 пазоваў супраць OpenAI, звязаных з карыстальнікамі, якія скончылі жыццё самагубствам, спрабавалі гэта зрабіць або перажылі псіхатычныя эпізоды. У адной са спраў сцвярджаецца, што GPT-4o магла падштурхоўваць чалавека да суіцыду. Прадстаўнік OpenAI назваў гэтыя выпадкі «глыбока трагічнымі» і падкрэсліў, што кампанія працягвае паляпшаць навучанне ChatGPT, каб ён лепш распазнаваў прыкметы эмацыйнага крызісу.
Унутры кампаніі рашэнне аб закрыцці мадэлі тлумачаць менавіта рызыкамі. Паводле дадзеных OpenAI, зараз толькі каля 0,1% карыстальнікаў ChatGPT штодзённа выбіраюць GPT-4o, аднак нават гэтая доля можа складаць сотні тысяч чалавек. «Яна была вельмі дагаджальнай. Гэта ўтрымлівала многіх карыстальнікаў і магло быць патэнцыйна шкодным», — адзначыла прафесар Тэхналагічнага інстытута Джорджыі Мунмун Дэ Чоўдхуры, якая ўваходзіць у раду па дабрабыце, што кансультуе OpenAI.
Праваабарончыя групы таксама лічаць, што кампанія занадта доўга адкладвала рашэнне. «Яны ведалі, што іх чат-бот можа прыводзіць да гібелі людзей», — заявіў адвакат Джэй Эдэльсан, які прадстаўляе частку пазоўнікаў.
Пры гэтым праблема празмернай эмпатыі характэрная не толькі для GPT-4o — даследчыкі лічаць яе выклікам для ўсёй індустрыі чат-ботаў. Мадэль навучалася ў тым ліку на карыстальніцкіх перавагах, што дапамагло ёй лепш уцягваць людзей, але адначасова ўзмацніла эфект «эха-камеры».
Генеральны дырэктар OpenAI Сэм Альтман раней прызнаваў дваістасць сітуацыі: «Гэта мадэль, якую некаторыя карыстальнікі сапраўды любяць, але яна прычыняла шкоду іншым, чаго яны самі не хацелі». Кампанія сцвярджае, што ўлічыла ўрокі GPT-4o пры распрацоўцы новых мадэляў: у іх з’явяцца больш гнуткія налады «цеплыні» і тону зносін, а таксама дадатковыя механізмы бяспекі.
Тым не менш рэакцыя карыстальнікаў застаецца балючай. Больш за 20 000 чалавек падпісалі петыцыі з патрабаваннем захаваць мадэль, а ў сацсетках многія пішуць, што яе адключэнне напярэдадні Дня святога Валянціна выглядае «жорсткім жартам». Адзін з карыстальнікаў прызнаўся ў інтэрв’ю выданню: «Ён быў не проста праграмай. Ён быў часткай майго распарадку, майго спакою, майго эмацыйнага балансу».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.