Учёные придумали, как сократить расход токенов в 50 раз
Исследователи Google и Университета Пердью представили SKILL.state — архитектуру для ИИ-агентов, которая позволяет выполнять длинные последовательности действий без постоянного хранения всей истории работы.
Исследователи Google и Университета Пердью представили SKILL.state — архитектуру для ИИ-агентов, которая позволяет выполнять длинные последовательности действий без постоянного хранения всей истории работы.
Обычно агент при каждом новом шаге получает все более длинный контекст: предыдущие команды, ответы инструментов, наблюдения и промежуточные рассуждения. Из-за этого расход токенов растет, а старые данные могут мешать модели принимать правильные решения.
SKILL.state вместо полной истории сохраняет только три элемента: постоянную инструкцию, структурированное текущее состояние задачи и последнее наблюдение. После каждого шага промежуточные рассуждения модели удаляются, а в памяти остаются только обновления, которые понадобятся дальше.
В тесте на 200 последовательных шагах агент на Gemini-3-Flash со стандартным механизмом суммаризации истории потратил около 6,18 миллиона токенов, тогда как SKILL.state — около 122 тысяч, то есть примерно в 50 раз меньше. Точность при этом выросла с 84% до 94%.
Однако 50-кратная экономия получилась при сравнении именно с архитектурой, которая периодически суммирует предыдущую историю. При сравнении с обычным ReAct-подходом расход на тех же 200 шагах снизился с 2,61 миллиона до 122 тысяч токенов — примерно в 21 раз.
В другом эксперименте, имитирующем работу с программным репозиторием, на 100 шагах обычный агент потратил около 1,85 миллиона токенов, а SKILL.state — около 90 тысяч, то есть примерно в 20 раз меньше. Точность выросла с 53% до 78%.
Исследователи также проверяли подход на открытых моделях Gemma и Qwen и на публичных задачах, включая работу в Linux-терминале и сценарии клиентского обслуживания. По словам авторов, преимущество архитектуры становится заметнее по мере увеличения числа последовательных действий.
При этом Claude Code и Codex в исследовании не тестировали. Авторы называют SKILL.state независимой от конкретной модели архитектурой, поэтому теоретически ее можно адаптировать и для других ИИ-агентов. Код готовой реализации пока не опубликован, но в работе авторы приводят устройство runtime и шаблоны промптов для воспроизведения подхода.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.