Support us

Разраб научился «прятать» промпты в PNG и экономить до 70% токенов

Разработчик Стивен Чонг выпустил open-source-инструмент, который превращает длинные текстовые инструкции для ИИ в изображения PNG. По его словам, такой подход позволяет сократить расходы на токены в Claude Code и Fable 5 в среднем на 59–70%.

Оставить комментарий
Разраб научился «прятать» промпты в PNG и экономить до 70% токенов

Разработчик Стивен Чонг выпустил open-source-инструмент, который превращает длинные текстовые инструкции для ИИ в изображения PNG. По его словам, такой подход позволяет сократить расходы на токены в Claude Code и Fable 5 в среднем на 59–70%.

Инструмент pxpipe работает как локальный прокси: он перехватывает запросы к модели и заменяет наиболее объемные статичные части контекста — системные промпты, документацию инструментов и старую историю чата — компактными изображениями. Последние сообщения пользователя и ответы модели при этом передаются обычным текстом.

Идея основана на особенностях тарификации Anthropic. Текст обычно оплачивается по числу токенов, а изображения — в зависимости от их разрешения, а не количества символов внутри. Поэтому на одной плотной PNG-странице можно разместить большой объем кода, JSON или инструкций.

В одном из примеров pxpipe сжал около 48 тысяч символов системного промпта и документации инструментов в одно изображение. В текстовом виде такой контекст стоил бы примерно 25 тысяч токенов, а в формате PNG — около 2,7 тысячи.

По данным Чонга, в одной сессии с Fable 5 стоимость работы снизилась с $42,21 до $6,06. Он утверждает, что метод особенно выгоден при длинных сессиях Claude Code, где в контекст постоянно попадают старые сообщения, описания инструментов и большие фрагменты кода.

Однако у подхода есть и недостатки. Изображение передает текст с потерями: модель может неправильно прочитать точные строки, например хеши, идентификаторы или фрагменты кода. Кроме того, обработка становится медленнее, поскольку модели приходится сначала распознавать текст через визуальный энкодер, а не читать его напрямую.

По умолчанию pxpipe поддерживает Fable 5 и GPT 5.6. По тестам разработчика, Fable 5 показала 100% точность в задачах с математическими примерами и случайными числами. Opus 4.7 и Opus 4.8, как утверждает Чонг, ошибались при чтении изображений примерно в 7% случаев, а GPT 5.5 также хуже работала с визуальным контекстом. Поэтому эти модели отключены в pxpipe по умолчанию.

«И в чём разница?»: разрабы жалуются что Fable 5 после разблокировки работает хуже
«И в чём разница?»: разрабы жалуются, что Fable 5 после разблокировки работает хуже
По теме
«И в чём разница?»: разрабы жалуются, что Fable 5 после разблокировки работает хуже
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод
По теме
Как снизить расходы на токены? Компании вспомнили проверенный метод
Новая китайская модель догоняет OpenAI и Anthropic — и стоит в 6 раз дешевле
Новая китайская модель догоняет OpenAI и Anthropic — и стоит в 6 раз дешевле
По теме
Новая китайская модель догоняет OpenAI и Anthropic — и стоит в 6 раз дешевле
Читайте также
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Anthropic обновила Claude Design: теперь сервис учитывает брендбук и экономит токены
Anthropic обновила Claude Design: теперь сервис учитывает брендбук и экономит токены
Anthropic обновила Claude Design: теперь сервис учитывает брендбук и экономит токены
«Больше не пишу промпты». Создатель Claude Code о новом тренде про «инжиниринг циклов»
«Больше не пишу промпты». Создатель Claude Code о новом тренде про «инжиниринг циклов»
«Больше не пишу промпты». Создатель Claude Code о новом тренде про «инжиниринг циклов»
1 комментарий
ИТ-гиганты заставляют передовые нейросети разговаривать как неандертальцы, чтобы не обанкротиться
ИТ-гиганты заставляют передовые нейросети разговаривать как неандертальцы, чтобы не обанкротиться
ИТ-гиганты заставляют передовые нейросети разговаривать как неандертальцы, чтобы не обанкротиться

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.