Польша стремительно богатеет? Смотрите в новом выпуске подкаста Złoty Dzik
Support us

Новый подход к экономии: дорогие ИИ-модели предлагают использовать как дорогих консультантов

Компании всё активнее ищут способы сократить расходы на ИИ, и консультанты предлагают простой подход: использовать самые мощные модели так же, как и себя — только там, где они действительно нужны.

Оставить комментарий
Новый подход к экономии: дорогие ИИ-модели предлагают использовать как дорогих консультантов

Компании всё активнее ищут способы сократить расходы на ИИ, и консультанты предлагают простой подход: использовать самые мощные модели так же, как и себя — только там, где они действительно нужны.

«Вы же не стали бы поручать самому дорогому юристу оформлять рутинные документы, если с этим справится менее дорогой специалист», — объяснил Business Insider техдиректор платформы Larridin Амейя Каниткар.

По его словам, флагманские модели вроде Fable 5 должны заниматься сложными, стратегическими проблемами: строить план работы, разбивать сложные задачи на этапы и определять общий подход. Выполнение отдельных подзадач можно передавать более дешёвым моделям.

С этим согласен партнёр консалтинговой компании Adaptovate Майкл Мёрфи. Он считает нерациональным использовать самые дорогие модели для задач вроде расшифровки встреч, подготовки кратких документов или поиска информации, с которыми справятся модели полегче. По его мнению, флагманский ИИ стоит задействовать для разработки стратегии, проектирования новых продуктов и других задач, требующих сложного анализа.

Похожую идею ранее озвучил глава Coinbase Брайан Армстронг. Он считает, что в ближайшие 12-18 месяцев 80% рабочих нагрузок будут выполняться моделями, которые окажутся на 99% дешевле, а самые мощные системы останутся для задач, требующих максимального уровня «интеллекта», например научных исследований или координации ИИ-агентов.

Интерес к таким подходам растёт, поскольку компании всё чаще задумываются об окупаемости инвестиций в ИИ. На смену политике его максимального использования, которую называли «токенмаксингом», приходит более осторожный подход: бизнес стремится получать максимум пользы от каждого потраченного токена.

На этом фоне быстро развивается рынок стартапов, которые помогают компаниям автоматически выбирать наиболее подходящую ИИ-модель для каждой задачи и следить за расходами. Например, OpenRouter в мае привлек $113 млн инвестиций при оценке $1,3 млрд, а его конкурент Concentrate AI недавно получил более $5 млн финансирования.

Microsoft ввела новые лимиты на использование ИИ сотрудниками
Microsoft ввела новые лимиты на использование ИИ сотрудниками
По теме
Microsoft ввела новые лимиты на использование ИИ сотрудниками
Компании переходят на дешёвые ИИ-модели чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
По теме
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Читайте также
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
В индустрии ИИ началась ценовая война — это давит на OpenAI и Anthropic
В индустрии ИИ началась ценовая война — это давит на OpenAI и Anthropic
В индустрии ИИ началась ценовая война — это давит на OpenAI и Anthropic
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
1 комментарий
Все экономят на ИИ: компании переходят к «модельмаксингу»
Все экономят на ИИ: компании переходят к «модельмаксингу»
Все экономят на ИИ: компании переходят к «модельмаксингу»

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.