5 спосабаў зэканоміць выдаткі на токенах — ад CEO Coinbase
Генеральны дырэктар Coinbase Браян Армстранг распавёў, як крыптабіржа скарачае выдаткі на штучны інтэлект, не абмяжоўваючы распрацоўнікаў у выкарыстанні токенаў.
Генеральны дырэктар Coinbase Браян Армстранг распавёў, як крыптабіржа скарачае выдаткі на штучны інтэлект, не абмяжоўваючы распрацоўнікаў у выкарыстанні токенаў.
Генеральны дырэктар Coinbase Браян Армстранг распавёў, як крыптабіржа скарачае выдаткі на штучны інтэлект, не абмяжоўваючы распрацоўнікаў у выкарыстанні токенаў.
Армстранг лічыць, што найбольш эфектыўны падыход — гэта выбраць больш танныя мадэлі па змоўчванню. Coinbase пачала тэставаць кітайскія мадэлі GLM 5.2 і Kimi 2.7 у якасці стандартных для часткі ўнутраных задач ШІ.
Абедзве мадэлі даступныя з адкрытымі вагамі і абыходзяцца танней за сістэмы амерыканскіх лабараторый, уключаючы OpenAI і Anthropic. Паводле Армстранга, стратэгія дазволіла прыкметна знізіць выдаткі на ШІ, хаця выкарыстанне токенаў працягвае расці.
Другі спосаб — аўтаматычная маршрутызацыя запытаў. Сістэма павінна сама вызначаць, якой мадэлі даручыць задачу з улікам яе складанасці, кошту і даступнага кэшу. Армстранг адзначыў, што перадавыя мадэлі могуць быць патрэбны для планавання, але для тыпавых задач выканання яны нярэдка залішнія.
Трэці спосаб — больш агрэсіўна выкарыстоўваць кэшаванне, каб не плаціць паўторна за апрацоўку ўжо перададзенага кантэксту. Чацвёрты — не перагружаць запыты лішняй інфармацыяй: пры пераходзе да новай задачы распрацоўнікам рэкамендуюць пачынаць асобную сесію, а не пераносіць увесь папярэдні кантэкст.
Пятая мера — зрабіць выкарыстанне ШІ празрыстым унутры кампаніі. Coinbase не ўводзіць ліміты на токены, але паказвае супрацоўнікам іх выдаткі. Чым больш распрацоўнік выдае на ШІ, тым большага эфекту ад ягонай працы чакаюць. «Мэта не ў тым, каб стрымліваць выкарыстанне. Мэта — пабудаваць інфраструктуру, якая зробіць экспанентны рост устойлівым», — напісаў Армстранг.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.