Разраб научился «прятать» промпты в PNG и экономить до 70% токенов
Разработчик Стивен Чонг выпустил open-source-инструмент, который превращает длинные текстовые инструкции для ИИ в изображения PNG. По его словам, такой подход позволяет сократить расходы на токены в Claude Code и Fable 5 в среднем на 59–70%.
Разработчик Стивен Чонг выпустил open-source-инструмент, который превращает длинные текстовые инструкции для ИИ в изображения PNG. По его словам, такой подход позволяет сократить расходы на токены в Claude Code и Fable 5 в среднем на 59–70%.
Инструмент pxpipe работает как локальный прокси: он перехватывает запросы к модели и заменяет наиболее объемные статичные части контекста — системные промпты, документацию инструментов и старую историю чата — компактными изображениями. Последние сообщения пользователя и ответы модели при этом передаются обычным текстом.
Идея основана на особенностях тарификации Anthropic. Текст обычно оплачивается по числу токенов, а изображения — в зависимости от их разрешения, а не количества символов внутри. Поэтому на одной плотной PNG-странице можно разместить большой объем кода, JSON или инструкций.
В одном из примеров pxpipe сжал около 48 тысяч символов системного промпта и документации инструментов в одно изображение. В текстовом виде такой контекст стоил бы примерно 25 тысяч токенов, а в формате PNG — около 2,7 тысячи.
По данным Чонга, в одной сессии с Fable 5 стоимость работы снизилась с $42,21 до $6,06. Он утверждает, что метод особенно выгоден при длинных сессиях Claude Code, где в контекст постоянно попадают старые сообщения, описания инструментов и большие фрагменты кода.
Однако у подхода есть и недостатки. Изображение передает текст с потерями: модель может неправильно прочитать точные строки, например хеши, идентификаторы или фрагменты кода. Кроме того, обработка становится медленнее, поскольку модели приходится сначала распознавать текст через визуальный энкодер, а не читать его напрямую.
По умолчанию pxpipe поддерживает Fable 5 и GPT 5.6. По тестам разработчика, Fable 5 показала 100% точность в задачах с математическими примерами и случайными числами. Opus 4.7 и Opus 4.8, как утверждает Чонг, ошибались при чтении изображений примерно в 7% случаев, а GPT 5.5 также хуже работала с визуальным контекстом. Поэтому эти модели отключены в pxpipe по умолчанию.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.