На апрацоўку і генерацыю тэкстаў на любых мовах, акрамя англійскай, генератыўны ШІ спальвае істотна больш энергіі. Пры гэтым якасць адказаў нярэдка аказваецца ніжэйшай. Да такой высновы прыйшлі даследчыкі з Мічыганскага ўніверсітэта: яны папярэджваюць, што гэтая падвойная дыскрымінацыя пагаршае глабальную лічбавую няроўнасць.
На апрацоўку і генерацыю тэкстаў на любых мовах, акрамя англійскай, генератыўны ШІ спальвае істотна больш энергіі. Пры гэтым якасць адказаў нярэдка аказваецца ніжэйшай. Да такой высновы прыйшлі даследчыкі з Мічыганскага ўніверсітэта: яны папярэджваюць, што гэтая падвойная дыскрымінацыя пагаршае глабальную лічбавую няроўнасць.
Найбольшы разрыў назіраецца ў моваў з нелацінскай графікай і невялікім аб’ёмам навучальных дадзеных у сетцы. На генерацыю адказу не па-англійску мадэлі могуць траціць ад 1,4 да 180 разоў больш энергіі. Для большасці заходнееўрапейскіх моў апетыт ШІ вырастае прыблізна ўдвая, а вось для хіндзі і бенгальскай, на якіх гавораць сотні мільёнаў чалавек, расход энергіі скача ў 7,9 і 15,3 раза адпаведна ў параўнанні з аналагічным промптам на англійскай.
«На мовах, якія патрабуюць больш энергіі, мадэлі, як правіла, даюць і менш дакладныя адказы», — адзначае першы аўтар даследавання Найхао Дэн з AI Lab Мічыганскага ўніверсітэта. Паводле разлікаў аўтараў працы, каля 5,2 млрд чалавек сёння вымушаныя ўскосна расходваць як мінімум удвая больш рэсурсаў толькі таму, што зносяцца з нейрасеткамі на роднай мове.
Даследчыкі замералі энергаспажыванне трох адкрытых мадэляў — Alibaba Qwen 3, Google Gemma 3 і Meta Llama 3.1 — з дапамогай фрэймворка ML.Energy на заданнях з датасета Belebele (ахоплівае 122 мовы), а таксама на школьных матэматычных задачах і адкрытых запытах. Перакос на карысць англійскай прасочваецца ва ўсіх мадэлях, незалежна ад іх памеру або тыпу выкарыстоўваных працэсараў.
Галоўная прычына пражэрлівасці — такенізацыя. Токен — гэта базавая адзінка дадзеных для ШІ, якой можа быць як цэлае слова, так і асобны склад ці сімвал. Мовы са складаным пісьмом разбіваюцца на значна большую колькасць токенаў. Напрыклад, у пісьменстве дэванагары (хіндзі, непальская, маратхі) або бенгальскім пісьменстве базавыя знакі камбінуюцца з галоснымі знакамі, утвараючы мільёны унікальных сімвалаў.
Раздутая колькасць токенаў хутка забівае памяць, праз што нейрасетка апрацоўвае дадзеныя драбнейшымі порцыямі, спальваючы яшчэ больш энергіі на кожны токен. Для карыстальнікаў і бізнесу гэта абарочваецца прамымі фінансавымі стратамі, бо доступ да API большасці мадэляў тарыфікуецца менавіта ў колькасці токенаў.
Каб згладзіць гэты разрыў, даследчыкі прапануюць распрацоўшчыкам аптымізаваць архітэктуру пад розныя мовы: напрыклад, аўтаматычна перанакіроўваць запыты на спецыялізаваныя моўныя мадэлі або акуратна перакладаць промпты на англійскую перад падачай у асноўную мадэль. Кіраўнік лабараторыі Рада Міхалча падкрэслівае, што стваральнікам ШІ ўжо час актыўна прыцягваць носьбітаў моваў і ствараць якасныя датасеты, інакш вялікая частка насельніцтва планеты папросту апынецца за бортам новых тэхналогій праз высокую цану і нізкай якасці сервісу.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.