Американский бизнес все активнее использует открытые ИИ-модели вместо дорогих систем OpenAI и Anthropic. Главная причина — быстро растущие расходы на ИИ, пишет Financial Times.
Американский бизнес все активнее использует открытые ИИ-модели вместо дорогих систем OpenAI и Anthropic. Главная причина — быстро растущие расходы на ИИ, пишет Financial Times.
По данным AlphaSense, упоминания открытых моделей руководителями компаний на конференциях и звонках с инвесторами в августе–сентябре выросли в шесть раз по сравнению с тем же периодом прошлого года. Такие модели обсуждают уже не только технологические компании, но и PNC Financial Services, логистическая CH Robinson и Siemens.
Open-weight модели позволяют компаниям скачивать их, запускать на собственной инфраструктуре и дообучать под свои задачи. Это часто обходится значительно дешевле, чем постоянная оплата запросов к закрытым моделям OpenAI или Anthropic.
Рынок таких моделей сейчас во многом контролируют китайские разработчики. На OpenRouter модели китайских лабораторий занимают значительную часть топ-10 по объему обработанных токенов. На платформе Vercel AI Gateway доля open-weight моделей выросла с 7% в декабре до 56% в августе.
Особенно показателен пример AT&T. Сейчас около 40% ИИ-нагрузки компании приходится на открытые модели, а в течение года оператор хочет увеличить их долю до 70%.
«Мы обрабатываем 45 миллиардов токенов в день. При таком масштабе стоимость становится чрезвычайно важной», — заявил директор AT&T по данным и ИИ Энди Маркус. По его словам, если открытую модель можно настроить так, чтобы она обеспечивала ту же точность за небольшую долю стоимости закрытой, компания выберет ее.
Похожая проблема возникла у Tinder. Технический директор приложения Винай Курувила рассказал, что в январе расходы на ИИ соответствовали примерно $1 миллион в год, а к июлю этот показатель вырос до $10 миллионов. «Я не хочу еще одного десятикратного роста», — сказал он.
По его словам, передовые модели OpenAI и Anthropic уже обладают достаточными возможностями для 90% задач Tinder. Но если более дешевые открытые системы догонят их по качеству, потребность в дорогих закрытых моделях может сократиться.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.