Расходы на использование ИИ быстро растут, а многие финансовые директора не понимают, какие сотрудники, продукты и ИИ-агенты потребляют больше всего токенов. В результате при масштабировании технологии компании сталкиваются с неожиданно высокими счетами.
Расходы на использование ИИ быстро растут, а многие финансовые директора не понимают, какие сотрудники, продукты и ИИ-агенты потребляют больше всего токенов. В результате при масштабировании технологии компании сталкиваются с неожиданно высокими счетами.
«Затраты на токены для облачного кода стремительно растут — я постоянно обсуждаю это с финансовыми директорами. Клиенты готовы масштабировать ИИ, но затем упираются в неожиданную стену расходов», — рассказала Fortune директор Accenture по ИИ и данным Лань Гуань.
По словам эксперта, финансовые директора крупных компаний зачастую видят только общий счет за облачные сервисы. При этом они не знают, кто использует токены, какие подразделения создают ИИ-агентов и на какие продукты приходится основная часть расходов.
В качестве примера она привела ретейлера, который запустил рекомендательную систему на базе ИИ в нескольких пилотных магазинах. Продажи выросли, однако ежемесячный счет за облачные сервисы достиг нескольких миллионов долларов — главным образом из-за потребления токенов. «Рост продаж был, но такой структуры расходов никто не ожидал», — отметила Гуань.
В Accenture предлагают компаниям внедрять «токеномику» — систему, которая связывает расходы на ИИ с полученной бизнес-ценностью. Каждый запрос, ответ и действие автономного агента требует токенов, поэтому по мере распространения ИИ их потребление может вырасти с тысяч до миллионов.
Согласно опросу Accenture, только 23% руководителей высшего звена заявили, что ИИ уже приносит устойчивую пользу всей организации. При этом, по данным Goldman Sachs, мировые расходы на технологию в 2026 году могут превысить $800 миллиардов.
Сама Accenture обрабатывает на одной из внутренних платформ около 8,7 триллиона токенов в неделю. Чтобы снизить расходы, компания разработала систему AI Token Navigator. Она направляет запросы к разным моделям в зависимости от сложности и важности задачи: передовым, более простым или системам с открытыми весами.
По оценке Accenture, только 10–20% корпоративных задач требуют возможностей наиболее мощных моделей. Распределение остальных запросов между более дешевыми системами позволяет сократить расходы примерно в шесть раз по сравнению с использованием только передовых моделей.
Гуань предложила финансовым директорам трехэтапный подход. Сначала компаниям необходимо определить, кто и для каких задач расходует токены. Затем — подобрать для каждой задачи подходящую модель и устранить неэффективные сценарии. После этого контроль расходов следует сделать постоянной частью управления ИИ.
Во время одного внутреннего исследования Accenture выяснила, что использование отдельного ИИ-инструмента за десять недель выросло в 113 раз. При этом на 19% пользователей приходилось около 80% расходов.
Однако одного технического контроля недостаточно. По словам спикера, по мере удешевления и распространения ИИ сотрудники начинают использовать его чаще и по привычке выбирают самые мощные и дорогие модели даже для простых задач. «Если умножить такое поведение на всю компанию, расходы незаметно раздуваются», — объяснила она.
Управлять затратами на ИИ должны совместно финансовые, технические подразделения и специалисты по кибербезопасности. «Масштабирование ИИ необязательно должно приводить к неконтролируемым расходам. Но для этого вокруг технологии необходимо выстроить систему управления», — заключила Гуань.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Большой вопрос зачем для рекомендаций товаров использовать general-purpose LLM? Разве не эффективнее обучить специализированную модель, которая будет заниматься только этим и уметь только это? И поместить её инхаус.