5 способов сократить расходы на токены — от CEO Coinbase
Гендиректор Coinbase Брайан Армстронг рассказал, как криптобиржа снижает расходы на искусственный интеллект, не ограничивая разработчиков в использовании токенов.
Гендиректор Coinbase Брайан Армстронг рассказал, как криптобиржа снижает расходы на искусственный интеллект, не ограничивая разработчиков в использовании токенов.
Гендиректор Coinbase Брайан Армстронг рассказал, как криптобиржа снижает расходы на искусственный интеллект, не ограничивая разработчиков в использовании токенов.
Армстронг считает, что самый эффективный подход — это выбрать более дешевые модели по умолчанию. Coinbase начала тестировать китайские модели GLM 5.2 и Kimi 2.7 в качестве стандартных для части внутренних ИИ-задач.
Обе модели доступны с открытыми весами и обходятся дешевле систем американских лабораторий, включая OpenAI и Anthropic. По словам Армстронга, стратегия позволила заметно снизить расходы на ИИ, хотя использование токенов продолжает расти.
Второй — автоматическая маршрутизация запросов. Система должна сама определять, какой модели поручить задачу с учетом ее сложности, цены и доступного кеша. Армстронг отметил, что передовые модели могут быть нужны для планирования, но для типовых задач исполнения они часто избыточны.
Третий способ — агрессивнее использовать кеширование, чтобы не платить повторно за обработку уже переданного контекста. Четвертый — не перегружать запросы лишней информацией: при переходе к новой задаче разработчикам рекомендуют начинать отдельную сессию, а не переносить весь предыдущий контекст.
Пятая мера — сделать использование ИИ прозрачным внутри компании. Coinbase не вводит лимиты на токены, но показывает сотрудникам их расходы. Чем больше разработчик тратит на ИИ, тем большего эффекта от его работы ожидают. «Цель не в том, чтобы подавлять использование. Цель — построить инфраструктуру, которая сделает экспоненциальный рост устойчивым», — написал Армстронг.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.