Support us

ИТ-гиганты заставляют передовые нейросети разговаривать как неандертальцы, чтобы не обанкротиться

Расходы компаний на ИИ-токены стали настолько огромными и непредсказуемыми, что разработчики по всему миру начали массово внедрять плагин под названием Caveman — «пещерный человек», пишет 404 Media. Этот инструмент отключает у больших языковых моделей вроде Claude Code или Gemini привычную вежливость и пространные рассуждения, заставляя их отвечать максимально коротко и грубо.

Оставить комментарий
ИТ-гиганты заставляют передовые нейросети разговаривать как неандертальцы, чтобы не обанкротиться

Расходы компаний на ИИ-токены стали настолько огромными и непредсказуемыми, что разработчики по всему миру начали массово внедрять плагин под названием Caveman — «пещерный человек», пишет 404 Media. Этот инструмент отключает у больших языковых моделей вроде Claude Code или Gemini привычную вежливость и пространные рассуждения, заставляя их отвечать максимально коротко и грубо.

Создатель плагина Юлиус Брусси запустил проект в начале апреля после того, как заметил, сколько денег уходит на пустые приветствия и переходные фразы ИИ внутри рабочих циклов. По его замерам, Caveman сокращает количество выходных токенов на 65-75%, полностью сохраняя суть. При этом плагин сжимает только окружающий текст, не трогая важные технические детали: сам код, пути, ссылки или команды. У плагина есть разные уровни сжатия: от «лёгкого» до режима Wenyan, который переводит ответы на древнекитайский язык, отличающийся экстремальной лаконичностью. Среди пользователей плагина — разработчики из OpenAI, Nvidia и GitHub.

Проблема стоимости ИИ сегодня стоит как никогда остро. GitHub недавно отменил фиксированную подписку и перешёл на оплату за каждый токен, Uber полностью израсходовал свой годовой ИИ-бюджет всего за четыре месяца, а Walmart и инфраструктурный гигант Legrand ввели жёсткие лимиты для сотрудников. Legrand прямо призывает инженеров использовать режим «пещерного человека», чтобы беречь бюджет. Доходит до абсурда: консалтинговый гигант Accenture, который ещё недавно агрессивно призывал всех внедрять ИИ, теперь зарабатывает на продаже услуги по «экономике токенов».

Caveman стал настолько популярен, что его код на GitHub помогают дорабатывать топовые специалисты индустрии. Например, директор по инженерии OpenAI Шейн Суини лично добавил в плагин поддержку инструмента Codex. Сами разработчики признают, что ситуация выглядит комично, но проблема абсолютно реальна. Ещё в прошлом году глава OpenAI Сэм Альтман заявлял, что банальная вежливость пользователей, которые пишут роботам «пожалуйста» и «спасибо», обходится компании в десятки миллионов долларов из-за лишних затрат электроэнергии.

Компании переходят на дешёвые ИИ-модели чтобы не разориться
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
По теме
Компании переходят на дешёвые ИИ-модели, чтобы не разориться
5 способов сократить расходы на токены — от CEO Coinbase
5 способов сократить расходы на токены — от CEO Coinbase
По теме
5 способов сократить расходы на токены — от CEO Coinbase
Читайте также
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
Токены съедают бюджеты: компании ищут способы снизить расходы на ИИ
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены
«Мы тратим слишком много»: компании учатся контролировать расходы на ИИ-токены
Компании перекраивают наём, бюджеты и использование ИИ-токенов — они слишком дорогие
Компании перекраивают наём, бюджеты и использование ИИ-токенов — они слишком дорогие
Компании перекраивают наём, бюджеты и использование ИИ-токенов — они слишком дорогие

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.