Support us

Учёные придумали, как сократить расход токенов в 50 раз

Исследователи Google и Университета Пердью представили SKILL.state — архитектуру для ИИ-агентов, которая позволяет выполнять длинные последовательности действий без постоянного хранения всей истории работы.

Оставить комментарий
Учёные придумали, как сократить расход токенов в 50 раз

Исследователи Google и Университета Пердью представили SKILL.state — архитектуру для ИИ-агентов, которая позволяет выполнять длинные последовательности действий без постоянного хранения всей истории работы.

Обычно агент при каждом новом шаге получает все более длинный контекст: предыдущие команды, ответы инструментов, наблюдения и промежуточные рассуждения. Из-за этого расход токенов растет, а старые данные могут мешать модели принимать правильные решения.

SKILL.state вместо полной истории сохраняет только три элемента: постоянную инструкцию, структурированное текущее состояние задачи и последнее наблюдение. После каждого шага промежуточные рассуждения модели удаляются, а в памяти остаются только обновления, которые понадобятся дальше.

В тесте на 200 последовательных шагах агент на Gemini-3-Flash со стандартным механизмом суммаризации истории потратил около 6,18 миллиона токенов, тогда как SKILL.state — около 122 тысяч, то есть примерно в 50 раз меньше. Точность при этом выросла с 84% до 94%.

Однако 50-кратная экономия получилась при сравнении именно с архитектурой, которая периодически суммирует предыдущую историю. При сравнении с обычным ReAct-подходом расход на тех же 200 шагах снизился с 2,61 миллиона до 122 тысяч токенов — примерно в 21 раз.

В другом эксперименте, имитирующем работу с программным репозиторием, на 100 шагах обычный агент потратил около 1,85 миллиона токенов, а SKILL.state — около 90 тысяч, то есть примерно в 20 раз меньше. Точность выросла с 53% до 78%.

Исследователи также проверяли подход на открытых моделях Gemma и Qwen и на публичных задачах, включая работу в Linux-терминале и сценарии клиентского обслуживания. По словам авторов, преимущество архитектуры становится заметнее по мере увеличения числа последовательных действий.

При этом Claude Code и Codex в исследовании не тестировали. Авторы называют SKILL.state независимой от конкретной модели архитектурой, поэтому теоретически ее можно адаптировать и для других ИИ-агентов. Код готовой реализации пока не опубликован, но в работе авторы приводят устройство runtime и шаблоны промптов для воспроизведения подхода.

Новая работа программиста — не писать код а задавать границы для ИИ-агентов — мнение
Новая работа программиста — не писать код, а задавать границы для ИИ-агентов — мнение
По теме
Новая работа программиста — не писать код, а задавать границы для ИИ-агентов — мнение
«Сейчас пугающе легко разбогатеть»: 31-летний миллионер советует срочно запускать ИИ-бизнес
«Сейчас пугающе легко разбогатеть»: 31-летний миллионер советует срочно запускать ИИ-бизнес
По теме
«Сейчас пугающе легко разбогатеть»: 31-летний миллионер советует срочно запускать ИИ-бизнес
ИИ проник в 80% профессий но массового внедрения пока нет
ИИ проник в 80% профессий, но массового внедрения пока нет
По теме
ИИ проник в 80% профессий, но массового внедрения пока нет
Читайте также
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Разраб придумал способ снизить расходы на токены в разы
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод
Как снизить расходы на токены? Компании вспомнили проверенный метод
Скидки не спасают: ИИ-агенты сжигают токены быстрее, чем падают цены
Скидки не спасают: ИИ-агенты сжигают токены быстрее, чем падают цены
Скидки не спасают: ИИ-агенты сжигают токены быстрее, чем падают цены
Исследователи нашли способ экономить до 38% токенов без потери качества
Исследователи нашли способ экономить до 38% токенов без потери качества
Исследователи нашли способ экономить до 38% токенов без потери качества

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.