Дапамажыце dev.by 🤍
Падтрымаць

Coinbase перанесла частку задач ШІ на кітайскія мадэлі і скараціла выдаткі ўдвая

Кампанія задумалася пра эканомію і пачала выкарыстоўваць кітайскія ШІ-мадэлі GLM 5.2 і Kimi 2.7 у якасці стандартнага варыянту для часткі ўнутраных задач.

Пакінуць каментарый
Coinbase перанесла частку задач ШІ на кітайскія мадэлі і скараціла выдаткі ўдвая

Кампанія задумалася пра эканомію і пачала выкарыстоўваць кітайскія ШІ-мадэлі GLM 5.2 і Kimi 2.7 у якасці стандартнага варыянту для часткі ўнутраных задач.

Па словах генеральнага дырэктара крыптабіржы Браяна Армстранга, такі падыход дазволіў кампаніі амаль удвая скараціць выдаткі на ШІ, хаця спажыванне токенаў працягвае імкліва расці.

Распрацоўшчыкі Coinbase па-ранейшаму могуць самастойна выбіраць мадэль для працы. Аднак, як сцвярджае Армстронг, 91% з іх і раней не выкарыстоўвалі папярэднія ліміты, таму кампанія вырашыла зрабіць больш танныя мадэлі стандартным варыянтам, не ўводзячы дадатковых абмежаванняў.

«Як утрымліваць выдаткі на ШІ на ранейшым узроўні, пакуль спажыванне токенаў расце экспанентна? Не з дапамогай абмежаванняў і папярэджанняў пра траты, а дзякуючы лепшым наладам па замоўчванні, маршрутызацыі і кэшаванні», — напісаў Армстранг у X.

У Coinbase таксама запусцілі аўтаматычную маршрутызацыю запытаў. Сістэма выбірае мадэль у залежнасці ад складанасці задачы, цаны і магчымасці паўторна выкарыстоўваць ужо апрацаваны кантэкст. Напрыклад, больш магутную мадэль можна задзейнічаць для планавання, а больш танную — для выканання тыповых аперацый.

OpenAI представила GPT-5.6 — свой ответ Claude Mythos и Fable 5
OpenAI прадставіла GPT-5.6 — свой адказ Claude Mythos і Fable 5
Па тэме
OpenAI прадставіла GPT-5.6 — свой адказ Claude Mythos і Fable 5

Асобную ролю адыгрывае кэшаванне. Па словах Армстранга, пасля аптымізацыі кэшавання доля запытаў, для якіх сістэма змагла паўторна выкарыстаць ужо апрацаваны кантэкст, вырасла з 5% да 60%. Гэта дазваляе не адпраўляць мадэлі адны і тыя ж дадзеныя нанова і зніжае кошт запытаў.

Coinbase не абмяжоўвае супрацоўнікаў у расходаванні токенаў, але робіць гэтыя выдаткі празрыстымі ўнутры кампаніі. Пры гэтым дзейнічае правіла: чым больш распрацоўшчык трацiць на ШІ, тым большага выніку ад яго чакаюць.

Пераход буйных кампаній на больш даступныя кітайскія мадэлі ўзмацняе ціск на OpenAI і Anthropic, чые перадавыя сістэмы значна даражэйшыя. Акрамя Coinbase, кітайскія мадэлі тэстуе Snowflake, а стартап Lindy нядаўна перайшоў на DeepSeek V4. На гэтым фоне заходнія лабараторыі вымушаны даводзіць, што больш дарагія мадэлі апраўдваюць цану за кошт якасці, надзейнасці і эфектыўнасці ў складаных агентных задачах.

Тест показал ChatGPT и Claude «леваками». OpenAI и Anthropic не согласились
Тэст паказаў ChatGPT і Claude «леўнымі». OpenAI і Anthropic не пагадзіліся
Па тэме
Тэст паказаў ChatGPT і Claude «леўнымі». OpenAI і Anthropic не пагадзіліся
В Claude Code заметили лазейку для доступа к заблокированной Fable 5
У Claude Code заўважылі лазейку для доступу да заблакаванай Fable 5
Па тэме
У Claude Code заўважылі лазейку для доступу да заблакаванай Fable 5
США частично разблокировали Claude Mythos — Китай уже показал альтернативу
ЗША часткова разблакавалі Claude Mythos — Кітай ужо паказаў альтэрнатыву
Па тэме
ЗША часткова разблакавалі Claude Mythos — Кітай ужо паказаў альтэрнатыву
Чытайце таксама
Токены з'ядаюць бюджэты: кампаніі шукаюць спосабы скараціць выдаткі на ШІ
Токены з'ядаюць бюджэты: кампаніі шукаюць спосабы скараціць выдаткі на ШІ
Токены з'ядаюць бюджэты: кампаніі шукаюць спосабы скараціць выдаткі на ШІ
Кіраўнік Coinbase расказаў, як стрымлівае выдаткі на ШІ пры выбуховым росце трафіку
Кіраўнік Coinbase расказаў, як стрымлівае выдаткі на ШІ пры выбуховым росце трафіку
Кіраўнік Coinbase расказаў, як стрымлівае выдаткі на ШІ пры выбуховым росце трафіку
Кітайскі канкурэнт Anthropic выпусціў адкрыты ШІ — ён танней Claude у 10 разоў
Кітайскі канкурэнт Anthropic выпусціў адкрыты ШІ — ён танней Claude у 10 разоў
Кітайскі канкурэнт Anthropic выпусціў адкрыты ШІ — ён танней Claude у 10 разоў
2 каментарыя
Coinbase перанесла частку задач ШІ на кітайскія мадэлі і скараціла выдаткі ўдвая
Coinbase перанесла частку задач ШІ на кітайскія мадэлі і скараціла выдаткі ўдвая
Coinbase перанесла частку задач ШІ на кітайскія мадэлі і скараціла выдаткі ўдвая

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.