Кампаніі ўсё актыўней шукаюць спосабы скараціць выдаткі на ШІ, і кансультанты прапануюць просты падыход: выкарыстоўваць самыя магутныя мадэлі гэтак жа, як і сябе — толькі там, дзе яны сапраўды патрэбны.
Кампаніі ўсё актыўней шукаюць спосабы скараціць выдаткі на ШІ, і кансультанты прапануюць просты падыход: выкарыстоўваць самыя магутныя мадэлі гэтак жа, як і сябе — толькі там, дзе яны сапраўды патрэбны.
«Вы ж не сталі б даручаць самаму дарагому юрысту афармляць рутынныя дакументы, калі з гэтым справіцца менш дарагі спецыяліст», — растлумачыў Business Insider тэхдырэктар платформы Larridin Амэя Каніткар.
На ягоную думку, флагманскія мадэлі накшталт Fable 5 павінны займацца складанымі, стратэгічнымі задачамі: будаваць план працы, разбіваць комплексныя задачы на этапы і вызначаць агульны падыход. Выкананне асобных падзадач можна перадаваць больш танным мадэлям.
З гэтым згодны партнёр кансалтынгавай кампаніі Adaptovate Майкл Мёрфі. Ён лічыць нерацыянальным выкарыстоўваць самыя дарагія мадэлі для задач накшталт расшыфроўкі сустрэч, падрыхтоўкі кароткіх дакументаў або пошуку інфармацыі, з якімі справяцца больш лёгкія мадэлі. На ягоную думку, флагманскі ШІ варта задзейнічаць для распрацоўкі стратэгіі, праектавання новых прадуктаў ды іншых задач, якія патрабуюць складанага аналізу.
Падобную ідэю раней агучыў кіраўнік Coinbase Браян Армстранг. Ён лічыць, што ў бліжэйшыя 12–18 месяцаў 80% працоўных нагрузак будуць выконвацца мадэлямі, якія апынуцца на 99% танней, а самыя магутныя сістэмы застануцца для задач, якія патрабуюць максімальнага ўзроўню «інтэлекту», напрыклад навуковых даследаванняў або каардынацыі ШІ-агентаў.
Цікавасць да такіх падыходаў расце, паколькі кампаніі ўсё часцей задумваюцца пра акупнасць інвестыцый у ШІ. На змену палітыцы яго максімальнага выкарыстання, якую называлі «токенмаксінгам», прыходзіць больш асцярожны падыход: бізнес імкнецца атрымліваць максімум карысці ад кожнага патрачанага токена.
На гэтым фоне імкліва развіваецца рынак стартапаў, якія дапамагаюць кампаніям аўтаматычна выбіраць найбольш прыдатную ШІ-мадэль для кожнай задачы і сачыць за выдаткамі. Напрыклад, OpenRouter у траўні прыцягнуў $113 млн інвестыцый пры ацэнцы $1,3 млрд, а яго канкурэнт Concentrate AI нядаўна атрымаў больш за $5 млн фінансавання.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.