Support us

В McKinsey рассказали, как защищают бюджет от расходов на ИИ, особо не ограничивая сотрудников

Консалтинговые гиганты быстро внедряют ИИ в повседневную работу сотрудников, но это влетает во много копеечек. В McKinsey одной из главных стратегий по контролю растущих затрат стало не введение жёстких лимитов, а информирование сотрудников о перерасходе ресурсов, пишет Business Insider.

Оставить комментарий
В McKinsey рассказали, как защищают бюджет от расходов на ИИ, особо не ограничивая сотрудников

Консалтинговые гиганты быстро внедряют ИИ в повседневную работу сотрудников, но это влетает во много копеечек. В McKinsey одной из главных стратегий по контролю растущих затрат стало не введение жёстких лимитов, а информирование сотрудников о перерасходе ресурсов, пишет Business Insider.

Руководитель QuantumBlack — подразделения McKinsey по ИИ и аналитике — в Великобритании Дебасиш Патнайк рассказал, что фирма отслеживает потребление по каждому пользователю. Летом по всей компании запустили систему уведомлений: если сотрудник начинает использовать слишком много ИИ-ресурсов, ему приходит письмо. «Это похоже на контроль мобильного трафика на рабочем телефоне. Мы просто объясняем, как выполнить задачу с меньшими затратами для компании», — отметил Патнайк.

Эпоха бессистемного использования ИИ подошла к концу тогда, когда разработчики LLM перешли от подписок к оплате за фактическое потребление токенов. Это сделало фактор эффективности критически важным. Для понимания масштабов: в сентябре OpenAI сообщила, что её самые активные пользователи ИИ-агентов для написания кода расходуют токенов более чем на $7000 в день.

McKinsey к этому маю расходовала около 5 трлн токенов в месяц. При этом потребление было крайне неравномерным: всего 10% сотрудников генерировали порядка 65% всего объёма. Чаще всего нейросетями активно пользовались консультанты и инженеры. В McKinsey подчёркивают, что предупреждения не запрещают работать с ИИ, их цель — научить консультантов действовать эффективнее. По словам Патнайка, когда сотрудники получили наглядную статистику своих действий, их подход к работе с ИИ начал меняться.

Пока внутренние расходы на ИИ не стали для компании проблемой, поскольку технологии применяются в основном для личной продуктивности и ускорения проектов, где выгода всё ещё перевешивает затраты. Тем не менее McKinsey заложила фундамент для контроля:

  • внутренний ИИ-шлюз оптимизирует запросы до того, как они отправляются моделям,
  • автоматические «предохранители» временно приостанавливают доступ при аномальных всплесках расхода токенов, чтобы проверить, оправданы ли такие траты,
  • кэширование позволяет повторно использовать ответы на типичные вопросы и распределять затраты на всю компанию, вместо того чтобы запирать неиспользованные токены в индивидуальных лимитах.

Другие компании отрасли внедряют похожие методы. Например, в аудиторской фирме EY создали специальный офис по оценке эффективности ИИ и установили маршрутизатор, который перенаправляет запросы сотрудников к наиболее подходящей и выгодной модели. Это помогло снизить потребление токенов на 60% с апреля.

Сайчас McKinsey активно продаёт этот опыт своим клиентам, которые за последние месяцы столкнулись со скрытыми расходами на нейросети. Патнайк советует топ-менеджерам оценивать стоимость токенов не в расчёте на одного сотрудника, а относительно финального результата. По его мнению, слепая гонка за экономией токенов может лишить бизнес реальной пользы от технологий, поэтому нужно стремиться к грамотному обучению сотрудников, а не к строгим запретам.

Хакеры крадут токены у платных пользователей Claude
Хакеры крадут токены у платных пользователей Claude
По теме
Хакеры крадут токены у платных пользователей Claude
OpenAI рассказала сколько её исследователи тратят на ИИ-программирование
OpenAI рассказала, сколько её исследователи тратят на ИИ-программирование
По теме
OpenAI рассказала, сколько её исследователи тратят на ИИ-программирование
Читайте также
В McKinsey 60+ тысяч сотрудников. Из них больше трети — ИИ-агенты
В McKinsey 60+ тысяч сотрудников. Из них больше трети — ИИ-агенты
В McKinsey 60+ тысяч сотрудников. Из них больше трети — ИИ-агенты
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод
Компании упираются в «стену расходов» на ИИ. Как её преодолеть
Компании упираются в «стену расходов» на ИИ. Как её преодолеть
Компании упираются в «стену расходов» на ИИ. Как её преодолеть
1 комментарий

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.