Support us

5 способов сократить расходы на токены — от CEO Coinbase

Гендиректор Coinbase Брайан Армстронг рассказал, как криптобиржа снижает расходы на искусственный интеллект, не ограничивая разработчиков в использовании токенов.

Оставить комментарий
5 способов сократить расходы на токены — от CEO Coinbase

Гендиректор Coinbase Брайан Армстронг рассказал, как криптобиржа снижает расходы на искусственный интеллект, не ограничивая разработчиков в использовании токенов.

Армстронг считает, что самый эффективный подход — это выбрать более дешевые модели по умолчанию. Coinbase начала тестировать китайские модели GLM 5.2 и Kimi 2.7 в качестве стандартных для части внутренних ИИ-задач.

Обе модели доступны с открытыми весами и обходятся дешевле систем американских лабораторий, включая OpenAI и Anthropic. По словам Армстронга, стратегия позволила заметно снизить расходы на ИИ, хотя использование токенов продолжает расти.

Второй — автоматическая маршрутизация запросов. Система должна сама определять, какой модели поручить задачу с учетом ее сложности, цены и доступного кеша. Армстронг отметил, что передовые модели могут быть нужны для планирования, но для типовых задач исполнения они часто избыточны.

Третий способ — агрессивнее использовать кеширование, чтобы не платить повторно за обработку уже переданного контекста. Четвертый — не перегружать запросы лишней информацией: при переходе к новой задаче разработчикам рекомендуют начинать отдельную сессию, а не переносить весь предыдущий контекст.

Пятая мера — сделать использование ИИ прозрачным внутри компании. Coinbase не вводит лимиты на токены, но показывает сотрудникам их расходы. Чем больше разработчик тратит на ИИ, тем большего эффекта от его работы ожидают. «Цель не в том, чтобы подавлять использование. Цель — построить инфраструктуру, которая сделает экспоненциальный рост устойчивым», — написал Армстронг.

Coinbase перевела часть ИИ-задач на китайские модели и снизила расходы в 2 раза
Coinbase перевела часть ИИ-задач на китайские модели и снизила расходы в 2 раза
По теме
Coinbase перевела часть ИИ-задач на китайские модели и снизила расходы в 2 раза
Codex намудрил с лимитами токенов — OpenAI сбросила квоты после жалоб
Codex намудрил с лимитами токенов — OpenAI сбросила квоты после жалоб
По теме
Codex намудрил с лимитами токенов — OpenAI сбросила квоты после жалоб
DeepSeek выпустила DSpark: помощник ускоряет ответы ИИ до 85%
DeepSeek выпустила DSpark: помощник ускоряет ответы ИИ до 85%
По теме
DeepSeek выпустила DSpark: помощник ускоряет ответы ИИ до 85%
Читайте также
Coinbase сокращает 14% штата из-за ИИ —  минус 700 человек
Coinbase сокращает 14% штата из-за ИИ —  минус 700 человек
Coinbase сокращает 14% штата из-за ИИ —  минус 700 человек
Глава Coinbase рассказал, как сдерживает расходы на ИИ при взрывном росте трафика
Глава Coinbase рассказал, как сдерживает расходы на ИИ при взрывном росте трафика
Глава Coinbase рассказал, как сдерживает расходы на ИИ при взрывном росте трафика
Coinbase перевела часть ИИ-задач на китайские модели и снизила расходы в 2 раза
Coinbase перевела часть ИИ-задач на китайские модели и снизила расходы в 2 раза
Coinbase перевела часть ИИ-задач на китайские модели и снизила расходы в 2 раза
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.