В McKinsey рассказали, как защищают бюджет от расходов на ИИ, особо не ограничивая сотрудников
Консалтинговые гиганты быстро внедряют ИИ в повседневную работу сотрудников, но это влетает во много копеечек. В McKinsey одной из главных стратегий по контролю растущих затрат стало не введение жёстких лимитов, а информирование сотрудников о перерасходе ресурсов, пишет Business Insider.
Консалтинговые гиганты быстро внедряют ИИ в повседневную работу сотрудников, но это влетает во много копеечек. В McKinsey одной из главных стратегий по контролю растущих затрат стало не введение жёстких лимитов, а информирование сотрудников о перерасходе ресурсов, пишет Business Insider.
Руководитель QuantumBlack — подразделения McKinsey по ИИ и аналитике — в Великобритании Дебасиш Патнайк рассказал, что фирма отслеживает потребление по каждому пользователю. Летом по всей компании запустили систему уведомлений: если сотрудник начинает использовать слишком много ИИ-ресурсов, ему приходит письмо. «Это похоже на контроль мобильного трафика на рабочем телефоне. Мы просто объясняем, как выполнить задачу с меньшими затратами для компании», — отметил Патнайк.
Эпоха бессистемного использования ИИ подошла к концу тогда, когда разработчики LLM перешли от подписок к оплате за фактическое потребление токенов. Это сделало фактор эффективности критически важным. Для понимания масштабов: в сентябре OpenAI сообщила, что её самые активные пользователи ИИ-агентов для написания кода расходуют токенов более чем на $7000 в день.
McKinsey к этому маю расходовала около 5 трлн токенов в месяц. При этом потребление было крайне неравномерным: всего 10% сотрудников генерировали порядка 65% всего объёма. Чаще всего нейросетями активно пользовались консультанты и инженеры. В McKinsey подчёркивают, что предупреждения не запрещают работать с ИИ, их цель — научить консультантов действовать эффективнее. По словам Патнайка, когда сотрудники получили наглядную статистику своих действий, их подход к работе с ИИ начал меняться.
Пока внутренние расходы на ИИ не стали для компании проблемой, поскольку технологии применяются в основном для личной продуктивности и ускорения проектов, где выгода всё ещё перевешивает затраты. Тем не менее McKinsey заложила фундамент для контроля:
внутренний ИИ-шлюз оптимизирует запросы до того, как они отправляются моделям,
автоматические «предохранители» временно приостанавливают доступ при аномальных всплесках расхода токенов, чтобы проверить, оправданы ли такие траты,
кэширование позволяет повторно использовать ответы на типичные вопросы и распределять затраты на всю компанию, вместо того чтобы запирать неиспользованные токены в индивидуальных лимитах.
Другие компании отрасли внедряют похожие методы. Например, в аудиторской фирме EY создали специальный офис по оценке эффективности ИИ и установили маршрутизатор, который перенаправляет запросы сотрудников к наиболее подходящей и выгодной модели. Это помогло снизить потребление токенов на 60% с апреля.
Сайчас McKinsey активно продаёт этот опыт своим клиентам, которые за последние месяцы столкнулись со скрытыми расходами на нейросети. Патнайк советует топ-менеджерам оценивать стоимость токенов не в расчёте на одного сотрудника, а относительно финального результата. По его мнению, слепая гонка за экономией токенов может лишить бизнес реальной пользы от технологий, поэтому нужно стремиться к грамотному обучению сотрудников, а не к строгим запретам.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.