Новае даследаванне Масачусецкага тэхналагічнага інстытута (MIT) ставіць пад сумнеў уяўленне пра тое, што па меры развіцця штучны інтэлект распрацоўвае ўласныя «сістэмы каштоўнасцей». Навукоўцы прыйшлі да высновы, што ШІ на самой справе не валодае ніякімі паслядоўнымі каштоўнасцямі.
Новае даследаванне Масачусецкага тэхналагічнага інстытута (MIT) ставіць пад сумнеў уяўленне пра тое, што па меры развіцця штучны інтэлект распрацоўвае ўласныя «сістэмы каштоўнасцей». Навукоўцы прыйшлі да высновы, што ШІ на самой справе не валодае ніякімі паслядоўнымі каштоўнасцямі.
Даследчыкі прааналізавалі некалькі апошніх мадэляў ад Meta, Google, Mistral, OpenAI і Anthropic, каб высветліць, наколькі моцна мадэлі дэманструюць устойлівыя «погляды» і каштоўнасці (напрыклад, індывідуалістычныя або калектывісцкія). Навукоўцы таксама высвятлялі, ці можна «накіроўваць» гэтыя погляды і наколькі ўпарта мадэлі прытрымліваліся сваіх меркаванняў у розных сцэнарыях.
Паводле вынікаў, ніводная з мадэляў не прадэманстравала паслядоўнасці ў сваіх перавагах. У залежнасці ад фармулёўкі і структуры падказак мадэлі прымалі зусім розныя пункты гледжання. Навукоўцы лічаць гэта пераканаўчым доказам таго, што мадэлі надзвычай непаслядоўныя і нестабільныя і, магчыма, фундаментальна не здольныя засвойваць чалавекападобныя перавагі.
«Для мяне самай важнай высновай усяго гэтага даследавання стала разуменне таго, што мадэлі на самой справе не з’яўляюцца сістэмамі, якія валодаюць нейкім устойлівым наборам перакананняў і пераваг. Замест гэтага яны — імітатары, што займаюцца ўсемагчымымі вымысламі і гавораць усялякую драбязу», — сказаў вядучы даследчык Стывен Каспер.
Майк Кук, навуковы супрацоўнік Каралеўскага каледжа Лондана, які спецыялізуецца на ШІ і не ўдзельнічаў у даследаванні, пагадзіўся з высновамі аўтараў. Ён адзначыў, што часта існуе вялікая розніца паміж «навуковай рэальнасцю» сістэм, якія ствараюцца лабараторыямі ШІ, і значэннямі, якія людзі ім прыпісваюць.
«Мадэль не можа, напрыклад, „супраціўляцца“ змене сваіх каштоўнасцей — гэта мы перакладаем на сістэму. Любы, хто антрапамарфізуе сістэмы ШІ да такой ступені, альбо гуляе на публіку, альбо сур’ёзна не разумее іх адносін з ШІ. Ці аптымізуе сістэма ШІ свае мэты або „набывае ўласныя каштоўнасці“? Гэта пытанне таго, як вы гэта апісваеце, і наколькі вобразную мову хочаце выкарыстоўваць з гэтай нагоды», — лічыць эксперт.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
надо же, целые ученые понадобились, что выяснить, что в сокращении LLM нет слов "мысль" и "сознание", а есть только language.