Павелічэнне памераў ШІ-мадэляў робіць іх магутнейшымі, але адначасова вядзе да рэзкага росту выдаткаў на іх выкарыстанне. Гэтая эканамічная праблема можа паставіць пад пагрозу акупнасць мнагамільярдных укладанняў у штучны інтэлект.
Павелічэнне памераў ШІ-мадэляў робіць іх магутнейшымі, але адначасова вядзе да рэзкага росту выдаткаў на іх выкарыстанне. Гэтая эканамічная праблема можа паставіць пад пагрозу акупнасць мнагамільярдных укладанняў у штучны інтэлект.
Як піша The Atlantic, на працягу некалькіх гадоў ШІ-кампаніі пераконвалі інвестараў, што маштабаванне мадэляў з’яўляецца галоўнай умовай іх развіцця. Аднак па меры росту сістэм аддача ад дадатковых вылічальных рэсурсаў зніжаецца, тады як кошт інферэнсу — апрацоўкі карыстальніцкіх запытаў ужо навучанай мадэллю — павялічваецца.
«Фактычна адбываецца адваротнае таму, што звычайна хочуць бачыць інвестары: выдаткі на абслугоўванне аднаго карыстальніка не зніжаюцца, а растуць», — адзначае выданне.
Гэта стварае рызыкі для галіны, якая ўкладае мільярды долараў у будаўніцтва датацэнтраў, пакуль не маючы відавочнага шляху да ўстойлівага прыбытку. Аналітыкі не могуць прадказаць, калі асцярогі наконт ШІ-бурбалкі дасягнуць крытычнай кропкі, але лічаць яе схлопванне цалкам верагодным.
Дадатковай праблемай становіцца запаволенне прагрэсу ў вытворчасці працэсараў. Для далейшага маштабавання мадэляў спатрэбяцца сур’ёзныя тэхналагічныя прарывы, аднак дасягнуць ранейшых тэмпаў павелічэння вылічальнай магутнасці становіцца ўсё цяжэй праз набліжэнне фізічных абмежаванняў закона Мура.
У выніку найбольш магутныя мадэлі адначасова становяцца даражэйшымі і дэманструюць усё меншы прырост эфектыўнасці. Калі выдаткі будуць і надалей расці хутчэй за даходы, кампаніі могуць сутыкнуцца з неабходнасцю перагледзець стратэгію развіцця ШІ і скараціць інвестыцыі ў інфраструктуру.
Адзін з найбольш вядомых крытыкаў цяперашняга падыходу — былы галоўны навуковы супрацоўнік Meta па ШІ Ян Лекун. Ён неаднаразова называў вялікія моўныя мадэлі «тупіковым шляхам» і сцвярджаў, што аднаго іх маштабавання недастаткова для стварэння інтэлекту чалавечага ўзроўню.
Аднак найбуйнейшыя тэхналагічныя кампаніі ўжо ўклалі велізарныя сродкі ў развіццё LLM і будаўніцтва неабходнай інфраструктуры. Таму верагоднасць таго, што яны адмовяцца ад выбранага курсу ў бліжэйшы час, застаецца невысокай, заключае выданне.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.