🎁 Нам 18! Сделайте devby подарок на день рождения
Support us

Uber научилась экономить на «мышлении» ИИ. Стоимость сессий упала на 52%

Компания ограничила ИИ-агентам контекст и снизила уровень рассуждений, чтобы сэкономить на токенах. В результате стоимость одной сессии сократилась на 52%.

Оставить комментарий
Добавь в Google
Uber научилась экономить на «мышлении» ИИ. Стоимость сессий упала на 52%

Компания ограничила ИИ-агентам контекст и снизила уровень рассуждений, чтобы сэкономить на токенах. В результате стоимость одной сессии сократилась на 52%.

Как пишет VentureBeat, изменения появились после того, как Uber израсходовала годовой бюджет на ИИ-инструменты для программирования уже в первые месяцы 2026 года. О новых правилах рассказал ведущий инженер Uber Удай Киран Медисетти на конференции VentureBeat Agentic Infrastructure Stack Summit.

Компания централизованно устанавливает настройки Claude Code и других инструментов для разработчиков. Их эффективность проверяют с помощью A/B-тестов на разных группах сотрудников. Uber использует четыре основных способа экономии:

  • Ограничение контекста до 400 000 токенов. Даже если модель поддерживает миллион токенов, после достижения порога длинная история разговора автоматически сжимается. Это позволяет не платить за повторную обработку огромного объема данных.

  • Средний уровень рассуждений вместо высокого. ИИ тратит меньше токенов на обдумывание задач. По словам Медисетти, для многих сценариев это оптимальное соотношение стоимости и качества. Более того, некоторые новые модели при высоком уровне рассуждений работают даже хуже.

  • Разное время хранения кеша. Для основного агента — один час, для вспомогательных — пять минут. Так Uber избегает повторной оплаты контекста, когда разработчик ненадолго отвлекается от работы.

  • Отказ от предварительной загрузки инструментов MCP. Раньше описания более чем 100 инструментов могли занимать 50–70 тысяч токенов еще до первого запроса. Теперь ИИ загружает нужные инструменты по мере необходимости через командную строку.

По данным Uber, совокупная оптимизация позволила снизить стоимость тысячи запросов почти на 34% относительно пиковых значений. Стоимость одной сессии сократилась на 52% по сравнению с июньским максимумом.

При этом с февраля по август количество еженедельных запросов к ИИ-агентам выросло в 9,4 раза, а общие расходы компании оставались примерно на одном уровне с апреля.

Разработчик устал управлять 20 чатами ИИ-агентов и придумал как с этим бороться
Разработчик устал управлять 20 чатами ИИ-агентов и придумал, как с этим бороться
По теме
Разработчик устал управлять 20 чатами ИИ-агентов и придумал, как с этим бороться

Uber также старается давать агентам только необходимую информацию. Вместо загрузки всей внутренней документации компания использует граф связей между сервисами, командами, данными и кодом.

По словам Медисетти, к концу октября граф содержал около 200 миллионов узлов и связей. В одном из тестов агент с его помощью нашел нужную таблицу данных за 38 секунд. Без графа тот же агент потратил более 20 минут и ошибочно решил, что получить данные невозможно.

При этом Uber оценивает не только экономию. Компания отслеживает количество пулл-реквестов, релизов и технических документов, а также ошибки, откаты кода и время проверки изменений.

Тысяча ИИ-агентов написала чат-бота без нейросетей. Получилось 640 000 строк Python
Тысяча ИИ-агентов написала чат-бота без нейросетей. Получилось 640 000 строк Python
По теме
Тысяча ИИ-агентов написала чат-бота без нейросетей. Получилось 640 000 строк Python
Разрабам — $1000 продавцам — $100: Salesforce посадила сотрудников на лимиты токенов
Разрабам — $1000, продавцам — $100: Salesforce посадила сотрудников на лимиты токенов
По теме
Разрабам — $1000, продавцам — $100: Salesforce посадила сотрудников на лимиты токенов
«90% кода пишет и ревьюит сам ИИ»: в команде Claude Code рассказали как проверяют работу ИИ-агентов
«90% кода пишет и ревьюит сам ИИ»: в команде Claude Code рассказали, как проверяют работу ИИ-агентов
По теме
«90% кода пишет и ревьюит сам ИИ»: в команде Claude Code рассказали, как проверяют работу ИИ-агентов
Читайте также
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Uber уже потратила годовой бюджет на ИИ и ввела лимиты для сотрудников
Uber уже потратила годовой бюджет на ИИ и ввела лимиты для сотрудников
Uber уже потратила годовой бюджет на ИИ и ввела лимиты для сотрудников
2 комментария
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
1 комментарий

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.