Дапамажыце dev.by 🤍
Падтрымаць

5 спосабаў зэканоміць выдаткі на токенах — ад CEO Coinbase

Генеральны дырэктар Coinbase Браян Армстранг распавёў, як крыптабіржа скарачае выдаткі на штучны інтэлект, не абмяжоўваючы распрацоўнікаў у выкарыстанні токенаў.

Пакінуць каментарый
5 спосабаў зэканоміць выдаткі на токенах — ад CEO Coinbase

Генеральны дырэктар Coinbase Браян Армстранг распавёў, як крыптабіржа скарачае выдаткі на штучны інтэлект, не абмяжоўваючы распрацоўнікаў у выкарыстанні токенаў.

Армстранг лічыць, што найбольш эфектыўны падыход — гэта выбраць больш танныя мадэлі па змоўчванню. Coinbase пачала тэставаць кітайскія мадэлі GLM 5.2 і Kimi 2.7 у якасці стандартных для часткі ўнутраных задач ШІ.

Абедзве мадэлі даступныя з адкрытымі вагамі і абыходзяцца танней за сістэмы амерыканскіх лабараторый, уключаючы OpenAI і Anthropic. Паводле Армстранга, стратэгія дазволіла прыкметна знізіць выдаткі на ШІ, хаця выкарыстанне токенаў працягвае расці.

Другі спосаб — аўтаматычная маршрутызацыя запытаў. Сістэма павінна сама вызначаць, якой мадэлі даручыць задачу з улікам яе складанасці, кошту і даступнага кэшу. Армстранг адзначыў, што перадавыя мадэлі могуць быць патрэбны для планавання, але для тыпавых задач выканання яны нярэдка залішнія.

Трэці спосаб — больш агрэсіўна выкарыстоўваць кэшаванне, каб не плаціць паўторна за апрацоўку ўжо перададзенага кантэксту. Чацвёрты — не перагружаць запыты лішняй інфармацыяй: пры пераходзе да новай задачы распрацоўнікам рэкамендуюць пачынаць асобную сесію, а не пераносіць увесь папярэдні кантэкст.

Пятая мера — зрабіць выкарыстанне ШІ празрыстым унутры кампаніі. Coinbase не ўводзіць ліміты на токены, але паказвае супрацоўнікам іх выдаткі. Чым больш распрацоўнік выдае на ШІ, тым большага эфекту ад ягонай працы чакаюць. «Мэта не ў тым, каб стрымліваць выкарыстанне. Мэта — пабудаваць інфраструктуру, якая зробіць экспанентны рост устойлівым», — напісаў Армстранг.

Coinbase перавяла частку задач ШІ на кітайскія мадэлі і знізіла выдаткі ў 2 разы
Coinbase перавяла частку задач ШІ на кітайскія мадэлі і знізіла выдаткі ў 2 разы
Па тэме
Coinbase перавяла частку задач ШІ на кітайскія мадэлі і знізіла выдаткі ў 2 разы
Codex напартачыў з лімітамі токенаў — OpenAI скінула квоты пасля скаргаў
Codex напартачыў з лімітамі токенаў — OpenAI скінула квоты пасля скаргаў
Па тэме
Codex напартачыў з лімітамі токенаў — OpenAI скінула квоты пасля скаргаў
DeepSeek выпусціла DSpark: памочнік паскарае адказы ШІ да 85%
DeepSeek выпусціла DSpark: памочнік паскарае адказы ШІ да 85%
Па тэме
DeepSeek выпусціла DSpark: памочнік паскарае адказы ШІ да 85%

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.