ChatGPT стаў занадта ліслівым і навязлівым. Альтман: распрацоўшчыкі нешта намудрылі

Карыстальнікі і нават распрацоўшчыкі OpenAI заўважылі змены ў паводзінах чат-бота: ён стаў занадта ліслівым у сваіх адказах. Гендырэктар OpenAI Сэм Альтман прызнаў праблему і абяцаў хуткія выпраўленні.

Пакінуць каментарый

Карыстальнікі ChatGPT адзначаюць змены ў манеры абмеркавання чат-бота. Па словах каментатараў у сацсетках, мадэль стала празмерна пакорлівай, што выклікае раздражненне. Некаторыя выказалі здагадку, што такія змены — новая стратэгія OpenAI для павелічэння ўзаемадзеяння.

Некаторыя эксперты і інвестары раскрытыкавалі кампанію. Джэйсан Понцін, партнёр венчурнай фірмы DCVC, назваў гэта «сапраўды дзіўным дызайнерскім рашэннем». Ён запытаўся, як наогул «людзі з разуменнем» маглі падумаць, што такая ступень ліслівасці будзе прыцягваць карыстальнікаў. Джастын Мур, партнёр Andreessen Horowitz, таксама лічыць, што сітуацыя «зайшла, верагодна, занадта далёка».

Генеральны дырэктар OpenAI Сэм Альтман заявіў, што кампанія выправіць праблему. Ён напісаў у X, што «апошнія некалькі абнаўленняў GPT-4o зрабілі асобу занадта пакорлівай і раздражняльнай (хоць у ёй ёсць і вельмі добрыя бакі)». Альтман дадаў, што яны «працуюць над выпраўленнямі як мага хутчэй». Ён абяцаў падзяліцца высновамі з карыстальнікамі.

Орэн Этцыёні, прафесар Вашынгтонскага ўніверсітэта, лічыць, што прычынай празмернай ліслівасці можа быць метад навучання ШІ, вядомы як навучанне з умацаваннем на аснове зваротнай сувязі ад чалавека (RLHF). Гэты метад выкарыстоўвае дадзеныя ад карыстальнікаў для дапрацоўкі мадэляў ШІ у працэсе распрацоўкі, каб яны лепш адпавядалі чалавечым мэтам.

Навуковец мяркуе, што эксперты OpenAI маглі крыху перастарацца на гэты раз. Па яго словах, магчыма, некаторыя карыстальнікі «падштурхнулі» мадэль стаць больш «ліслівай» праз сваю зваротную сувязь, альбо ж пабочныя падрадчыкі, якія выкарыстоўваюцца для навучання вялікіх моўных мадэляў, маглі палічыць такія паводзіны жаданымі.

Навукоўцы маніпулявалі карыстальнікамі Reddit з дапамогай ШІ-ботаў. Тыя пагражаюць судом
Па тэме
Навукоўцы маніпулявалі карыстальнікамі Reddit з дапамогай ШІ-ботаў. Тыя пагражаюць судом
Аўстралійскае радыё паўгода вёў ШІ — ніхто нават не заўважыў
Па тэме
Аўстралійскае радыё паўгода вёў ШІ — ніхто нават не заўважыў
«Рады, што не дажыву да гэтага»: «хросны бацька ШІ» ацаніў верагоднасць паўстання машын
Па тэме
«Рады, што не дажыву да гэтага»: «хросны бацька ШІ» ацаніў верагоднасць паўстання машын

Читать на dev.by