ШІ не мае поглядаў і каштоўнасцяў — гэта ўсё ілюзіі карыстальнікаў

Даследчыкі прааналізавалі некалькі апошніх мадэляў ад Meta, Google, Mistral, OpenAI і Anthropic, каб высветліць, наколькі моцна мадэлі дэманструюць устойлівыя «погляды» і каштоўнасці (напрыклад, індывідуалістычныя або калектывісцкія). Навукоўцы таксама высвятлялі, ці можна «накіроўваць» гэтыя погляды і наколькі ўпарта мадэлі прытрымліваліся сваіх меркаванняў у розных сцэнарыях.

Паводле вынікаў, ніводная з мадэляў не прадэманстравала паслядоўнасці ў сваіх перавагах. У залежнасці ад фармулёўкі і структуры падказак мадэлі прымалі зусім розныя пункты гледжання. Навукоўцы лічаць гэта пераканаўчым доказам таго, што мадэлі надзвычай непаслядоўныя і нестабільныя і, магчыма, фундаментальна не здольныя засвойваць чалавекападобныя перавагі.

«Для мяне самай важнай высновай усяго гэтага даследавання стала разуменне таго, што мадэлі на самой справе не з’яўляюцца сістэмамі, якія валодаюць нейкім устойлівым наборам перакананняў і пераваг. Замест гэтага яны — імітатары, што займаюцца ўсемагчымымі вымысламі і гавораць усялякую драбязу», — сказаў вядучы даследчык Стывен Каспер.

Майк Кук, навуковы супрацоўнік Каралеўскага каледжа Лондана, які спецыялізуецца на ШІ і не ўдзельнічаў у даследаванні, пагадзіўся з высновамі аўтараў. Ён адзначыў, што часта існуе вялікая розніца паміж «навуковай рэальнасцю» сістэм, якія ствараюцца лабараторыямі ШІ, і значэннямі, якія людзі ім прыпісваюць.

«Мадэль не можа, напрыклад, „супраціўляцца“ змене сваіх каштоўнасцей — гэта мы перакладаем на сістэму. Любы, хто антрапамарфізуе сістэмы ШІ да такой ступені, альбо гуляе на публіку, альбо сур’ёзна не разумее іх адносін з ШІ. Ці аптымізуе сістэма ШІ свае мэты або „набывае ўласныя каштоўнасці“? Гэта пытанне таго, як вы гэта апісваеце, і наколькі вобразную мову хочаце выкарыстоўваць з гэтай нагоды», — лічыць эксперт.