Uber научилась экономить на «мышлении» ИИ. Стоимость сессий упала на 52%
Компания ограничила ИИ-агентам контекст и снизила уровень рассуждений, чтобы сэкономить на токенах. В результате стоимость одной сессии сократилась на 52%.
Компания ограничила ИИ-агентам контекст и снизила уровень рассуждений, чтобы сэкономить на токенах. В результате стоимость одной сессии сократилась на 52%.
Компания ограничила ИИ-агентам контекст и снизила уровень рассуждений, чтобы сэкономить на токенах. В результате стоимость одной сессии сократилась на 52%.
Как пишет VentureBeat, изменения появились после того, как Uber израсходовала годовой бюджет на ИИ-инструменты для программирования уже в первые месяцы 2026 года. О новых правилах рассказал ведущий инженер Uber Удай Киран Медисетти на конференции VentureBeat Agentic Infrastructure Stack Summit.
Компания централизованно устанавливает настройки Claude Code и других инструментов для разработчиков. Их эффективность проверяют с помощью A/B-тестов на разных группах сотрудников. Uber использует четыре основных способа экономии:
Ограничение контекста до 400 000 токенов. Даже если модель поддерживает миллион токенов, после достижения порога длинная история разговора автоматически сжимается. Это позволяет не платить за повторную обработку огромного объема данных.
Средний уровень рассуждений вместо высокого. ИИ тратит меньше токенов на обдумывание задач. По словам Медисетти, для многих сценариев это оптимальное соотношение стоимости и качества. Более того, некоторые новые модели при высоком уровне рассуждений работают даже хуже.
Разное время хранения кеша. Для основного агента — один час, для вспомогательных — пять минут. Так Uber избегает повторной оплаты контекста, когда разработчик ненадолго отвлекается от работы.
Отказ от предварительной загрузки инструментов MCP. Раньше описания более чем 100 инструментов могли занимать 50–70 тысяч токенов еще до первого запроса. Теперь ИИ загружает нужные инструменты по мере необходимости через командную строку.
По данным Uber, совокупная оптимизация позволила снизить стоимость тысячи запросов почти на 34% относительно пиковых значений. Стоимость одной сессии сократилась на 52% по сравнению с июньским максимумом.
При этом с февраля по август количество еженедельных запросов к ИИ-агентам выросло в 9,4 раза, а общие расходы компании оставались примерно на одном уровне с апреля.

Uber также старается давать агентам только необходимую информацию. Вместо загрузки всей внутренней документации компания использует граф связей между сервисами, командами, данными и кодом.
По словам Медисетти, к концу октября граф содержал около 200 миллионов узлов и связей. В одном из тестов агент с его помощью нашел нужную таблицу данных за 38 секунд. Без графа тот же агент потратил более 20 минут и ошибочно решил, что получить данные невозможно.
При этом Uber оценивает не только экономию. Компания отслеживает количество пулл-реквестов, релизов и технических документов, а также ошибки, откаты кода и время проверки изменений.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.