Хваля бездумнага самахвальства вялікімі рахункамі за ШІ-токены адыходзіць у мінулае: на змену трэнду на токенмаксінг прыходзіць жорсткая аптымізацыя. Генеральны дырэктар Coinbase Браян Армстранг падзяліўся стратэгіяй, якая дазваляе крыптабіржы наладжваць выкарыстанне нейрасетак, не раздзімаючы ІТ-бюджэты за кошт разумнай маршрутызацыі запытаў.
Хваля бездумнага самахвальства вялікімі рахункамі за ШІ-токены адыходзіць у мінулае: на змену трэнду на токенмаксінг прыходзіць жорсткая аптымізацыя. Генеральны дырэктар Coinbase Браян Армстранг падзяліўся стратэгіяй, якая дазваляе крыптабіржы наладжваць выкарыстанне нейрасетак, не раздзімаючы ІТ-бюджэты за кошт разумнай маршрутызацыі запытаў.
«Мы перанакіроўваем промты на больш танныя мадэлі там, дзе гэта мэтазгодна. У некаторых выпадках нам удаецца ўтрымліваць выдаткі прыблізна на адным узроўні, у той час як выкарыстанне токенаў працягвае расці ў геаметрычнай прагрэсіі», — адзначыў ён.
Найноўшыя флагманскія нейрасеткі накшталт Opus 4.8 або GPT-5.5 прапануюць перадавыя магчымасці, але паглынаюць каласальную колькасць токенаў і хутка ўпіраюцца ў ліміты. Армстранг упэўнены, што ў бліжэйшай будучыні індустрыю чакае жорсткі падзел працы.
«80% працоўных нагрузак будуць выконвацца на мадэлях, якія на 99% танней, ужо на працягу 12-18 месяцаў», — прагназуе кіраўнік Coinbase.
На ягоную думку, выкарыстоўваць самыя дарагія і прасунутыя мадэлі карыстальнікі будуць толькі тады, калі ім спатрэбіцца экстрэмальны «IQ-максінг» — напрыклад, для навуковых прарываў або аркестроўкі складаных аўтаномных ШІ-агентаў.
«Гэта наводзіць мяне на думку, што абмяжоўваючым фактарам стануць энергія і вылічальныя магутнасці, а не стварэнне больш дасканалых мадэляў», — дадаў Армстронг.
Меркаванні ІТ-лідараў адносна прагнозу Армстранга падзяліліся. Венчурны капіталіст Марк Андрыесэн назваў ідэю цікавай, а сузаснавальнік Hugging Face Жульен Шамон пацвердзіў, што «маршрутызацыя мадэляў цяпер імкліва набірае абароты». Генеральны дырэктар Box Аарон Леві назваў лічбы калегі «крыху экстрэмальнымі», хоць пагадзіўся з тым, што ШІ-нагрузкі размяркуюцца: высокакласная праца застанецца за лідарамі рынку, а масавая і аб’ёмная адыдзе танным аналагам.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.