Support us

«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены

Компании, которые еще недавно призывали сотрудников активнее пользоваться ИИ, теперь пытаются взять расходы под контроль. Бизнес все чаще сталкивается с резким ростом счетов за токены из-за массового внедрения ИИ-агентов и кодинг-инструментов.

Оставить комментарий
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены

Компании, которые еще недавно призывали сотрудников активнее пользоваться ИИ, теперь пытаются взять расходы под контроль. Бизнес все чаще сталкивается с резким ростом счетов за токены из-за массового внедрения ИИ-агентов и кодинг-инструментов.

Опрошенные TechCrunch эксперты указывают, что при снижении стоимости токенов их общее потребление значительно растет. Чем больше компании внедряют ИИ в разработку, аналитику, поддержку и другие процессы, тем больше запросов делают сотрудники и автономные агенты. В итоге расходы могут быстро выходить за пределы бюджета.

Например, Uber израсходовала годовой бюджет на ИИ-инструменты для программирования уже к апрелю. Microsoft через несколько месяцев после выдачи разработчикам лицензий Claude Code начала их отзывать. Сотрудник Priceline рассказал, что продление контракта с Cursor оказалось в 4–5 раз дороже, чем раньше.

«Шесть месяцев назад разговоры с клиентами были о том, что ИИ может делать и достаточно ли он хорош. Сейчас разговоры уже не об этом. Теперь спрашивают: мы тратим так много, какую видимость расходов вы даете, какие есть механизмы аудита, контроля токенов и эффективности моделей?» — рассказал глава enterprise-направления OpenAI Александр Эмбирикос.

На этом фоне Linux Foundation объявила о создании Tokenomics Foundation — организации, которая должна разработать стандарты для учета и управления расходами на ИИ-токены. Идея в том, чтобы к токенам применить похожую метрику, какую применяют к облачным расходам.

По данным FinOps Foundation, некоммерческой организациипри Linux Foundation, еще весной компании начали жаловаться, что уже в апреле превышают годовой бюджет на токены в несколько раз. Разговор резко сменился с «используйте ИИ быстрее и больше» на «нам нужны ограничения и правила контроля».

«Вы обязаны использовать ИИ? У нас такого нет»: президент Anthropic — о токенмаксинге
«Вы обязаны использовать ИИ? У нас такого нет»: президент Anthropic — о токенмаксинге
По теме
«Вы обязаны использовать ИИ? У нас такого нет»: президент Anthropic — о токенмаксинге

Реальная отдача от таких расходов пока не всегда очевидна. Исследование Faros AI среди 20 тысяч разработчиков показало, что продуктивность растет, но вместе с ней увеличивается число багов и исправлений. Jellyfish также обнаружила, что инженеры, которые активнее всего используют ИИ, примерно вдвое продуктивнее остальных, но тратят в 10 раз больше токенов.

По словам главы исследований платформы  для анализа работы разработчиков Jellyfish Николаса Арколано, главный вопрос в том, окупается ли экстремальное потребление ИИ через реальную бизнес-ценность написанного кода. Большинство компаний пока не умеют это точно измерять.

На рынке уже появляются инструменты для контроля таких расходов. Стартапы вроде Pay-i и Paid помогают отслеживать стоимость и эффективность ИИ-инвестиций. Jellyfish, Waydev и Faros AI предлагают мониторинг ИИ-агентов и оценку ROI для таких инструментов. Datadog, New Relic и Ramp также добавляют функции для наблюдения за расходами на токены, GPU и ИИ-инфраструктуру.

Один из возможных трендов — автоматический выбор более дешевой модели для конкретной задачи. Вместо того чтобы всегда использовать самый мощный и дорогой вариант, системы смогут направлять часть запросов к более дешевым моделям, если их возможностей достаточно.

Рынки перешли в режим «жадности» на фоне ИИ-бума — CEO Goldman Sachs
Рынки перешли в режим «жадности» на фоне ИИ-бума — CEO Goldman Sachs
По теме
Рынки перешли в режим «жадности» на фоне ИИ-бума — CEO Goldman Sachs
Стартап тратит на ИИ больше чем на сотрудников — CEO считает что так будут делать все
Стартап тратит на ИИ больше, чем на сотрудников — CEO считает, что так будут делать все
По теме
Стартап тратит на ИИ больше, чем на сотрудников — CEO считает, что так будут делать все
Инженер придумал как платить за ИИ меньше: его инструмент удаляет до 90% лишних токенов
Инженер придумал, как платить за ИИ меньше: его инструмент удаляет до 90% лишних токенов
По теме
Инженер придумал, как платить за ИИ меньше: его инструмент удаляет до 90% лишних токенов
Читайте также
Компании начинают считать «токены» сотрудников — оказалось, ИИ тоже стоит денег
Компании начинают считать «токены» сотрудников — оказалось, ИИ тоже стоит денег
Компании начинают считать «токены» сотрудников — оказалось, ИИ тоже стоит денег
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Компании перекраивают наём, бюджеты и использование ИИ-токенов — они слишком дорогие
Компании перекраивают наём, бюджеты и использование ИИ-токенов — они слишком дорогие
Компании перекраивают наём, бюджеты и использование ИИ-токенов — они слишком дорогие
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.