Распрацоўшчык прыдумаў спосаб зменшыць выдаткі на токены ў разы
У супольнасці распрацоўшчыкаў набірае папулярнасць незвычайны спосаб эканоміі пры працы з ШІ: карыстальнікі вучаць мадэль гаварыць «як пячорны чалавек», каб скараціць расход токенаў.
У супольнасці распрацоўшчыкаў набірае папулярнасць незвычайны спосаб эканоміі пры працы з ШІ: карыстальнікі вучаць мадэль гаварыць «як пячорны чалавек», каб скараціць расход токенаў.
У супольнасці распрацоўшчыкаў набірае папулярнасць незвычайны спосаб эканоміі пры працы з ШІ: карыстальнікі вучаць мадэль гаварыць «як пячорны чалавек», каб скараціць расход токенаў.
У трэдзе r/ClaudeAI на Reddit распрацоўшчык прапанаваў спрасціць стыль адказаў Claude без уводных фраз, тлумачэнняў і «ветлівых» канструкцый. Замест гэтага мадэль выдае кароткія, тэлеграфныя адказы: спачатку вынік, потым мінімум слоў. Па яго ацэнцы, гэта дазваляе знізіць расход выходных токенаў да 75%.
Пост набраў больш за 10 тысяч галасоў і сотні каментароў, а сама ідэя хутка разышлася па супольнасці. «Навошта марнаваць час на шмат слоў, калі спраўляюцца некалькі слоў?» — патлумачыў адзін з карыстальнікаў, апісваючы сутнасць падыходу.
Праведзеныя тэсты паказалі, што адказы ШІ становяцца значна карацейшымі. Напрыклад, тлумачэнне бага ў React скарацілася з 1180 да 159 токенаў (–87%), наладка PostgreSQL — з 2347 да 380 (–84%), а рэалізацыя error boundary — з 3454 да 456 токенаў (–87%). У сярэднім эканомія складае каля 60–65% у залежнасці ад задачы.
Распрацоўшчык Shawnchee аформіў «пячорны стыль» у асобны інструмент, які працуе з рознымі ШІ-сэрвісамі, уключаючы Claude Code і іншыя. Сутнасць простая: убраць лішнія словы, не рабіць уступаў і тлумачэнняў без неабходнасці, спачатку выконваць задачу, а не апісваць яе, і даваць максімальна кароткія адказы. Падобнае рашэнне зрабіў і распрацоўшчык Julius Brussee.
Аднак у падыходу ёсць абмежаванні. Як адзначаюць карыстальнікі, эканомія датычыцца толькі выходных токенаў, тады як асноўная нагрузка часта прыходзіцца на ўваходныя дадзеныя: кантэкст, файлы і гісторыю дыялогу. У рэальных сцэнарыях гэта зніжае агульны эфект прыкладна да 20–25%. Таксама абмяркоўваецца ўплыў падыходу на якасць адказаў. Некаторыя ўдзельнікі лічаць, што празмернае спрашчэнне мовы можа пагаршаць разважанне мадэлі і зніжаць дакладнасць у складаных задачах.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.