Новый подход к экономии: дорогие ИИ-модели предлагают использовать как дорогих консультантов
Компании всё активнее ищут способы сократить расходы на ИИ, и консультанты предлагают простой подход: использовать самые мощные модели так же, как и себя — только там, где они действительно нужны.
Компании всё активнее ищут способы сократить расходы на ИИ, и консультанты предлагают простой подход: использовать самые мощные модели так же, как и себя — только там, где они действительно нужны.
«Вы же не стали бы поручать самому дорогому юристу оформлять рутинные документы, если с этим справится менее дорогой специалист», — объяснил Business Insider техдиректор платформы Larridin Амейя Каниткар.
По его словам, флагманские модели вроде Fable 5 должны заниматься сложными, стратегическими проблемами: строить план работы, разбивать сложные задачи на этапы и определять общий подход. Выполнение отдельных подзадач можно передавать более дешёвым моделям.
С этим согласен партнёр консалтинговой компании Adaptovate Майкл Мёрфи. Он считает нерациональным использовать самые дорогие модели для задач вроде расшифровки встреч, подготовки кратких документов или поиска информации, с которыми справятся модели полегче. По его мнению, флагманский ИИ стоит задействовать для разработки стратегии, проектирования новых продуктов и других задач, требующих сложного анализа.
Похожую идею ранее озвучил глава Coinbase Брайан Армстронг. Он считает, что в ближайшие 12-18 месяцев 80% рабочих нагрузок будут выполняться моделями, которые окажутся на 99% дешевле, а самые мощные системы останутся для задач, требующих максимального уровня «интеллекта», например научных исследований или координации ИИ-агентов.
Интерес к таким подходам растёт, поскольку компании всё чаще задумываются об окупаемости инвестиций в ИИ. На смену политике его максимального использования, которую называли «токенмаксингом», приходит более осторожный подход: бизнес стремится получать максимум пользы от каждого потраченного токена.
На этом фоне быстро развивается рынок стартапов, которые помогают компаниям автоматически выбирать наиболее подходящую ИИ-модель для каждой задачи и следить за расходами. Например, OpenRouter в мае привлек $113 млн инвестиций при оценке $1,3 млрд, а его конкурент Concentrate AI недавно получил более $5 млн финансирования.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.