Дапамажыце dev.by 🤍
Падтрымаць

Куча ШІ-агентаў спальвае токены амаль без росту якасці — стваральнік Codex растлумачыў чаму

Распрацоўшчык OpenAI Codex Эрык Правенчэр папярэдзіў: запуск вялікай колькасці ШІ-агентаў паралельна часцей за ўсё проста рэзка павялічвае расход токенаў, не паляпшаючы вынік.

Пакінуць каментарый
Куча ШІ-агентаў спальвае токены амаль без росту якасці — стваральнік Codex растлумачыў чаму

Распрацоўшчык OpenAI Codex Эрык Правенчэр папярэдзіў: запуск вялікай колькасці ШІ-агентаў паралельна часцей за ўсё проста рэзка павялічвае расход токенаў, не паляпшаючы вынік.

Правенчэр называе гэта «падаткам на каардынацыю». Чым больш агентаў працуе адначасова, тым больш часу і токенаў сыходзіць на паўторныя праверкі і дубліраванне дзеянняў.

«Вельмі складана падтрымліваць столькі паралельных патокаў, не дэградуючы ў хаос і не спальваючы токены на празмерныя праверкі», — напісаў ён. Паводле яго, агенты пачынаюць літаральна «пераправеряць хатнюю працу адно аднаго».

У якасці прыкладу Правенчэр прывёў эксперымент, у якім 1393 агенты Claude Fable выкарыстоўваліся для рэфактарынгу аднаго Python-файла. На працу сышло каля $20 тысяч у токенах. Ён лічыць, што адзін агент GPT-6 Astra мог бы выканаць тую ж задачу за «нязначную долю гэтых выдаткаў».

Пры гэтым роі агентаў сапраўды могуць скараціць час выканання некаторых задач. Але Правенчэр называе перарасход токенаў «пасткай»: дадатковыя агенты патрабуюць уласных сістэмных промптаў, паўтараюць выклікі інструментаў і нярэдка робяць адну і тую ж працу.

«Дубліраванне працы — мабыць, галоўная праблема», — адзначыў распрацоўшчык. Замест пастаяннай працы вялікай колькасці агентаў Правенчэр прапануе дзяліць задачу на асобныя патокі і вяртаць вынікі галоўнаму агенту толькі пасля завяршэння, без пастаяннага апытання астатніх. Ён таксама прызнаў, што OpenAI яшчэ належыць палепшыць інструменты для каардынацыі некалькіх агентаў.

OpenAI раскрыла яшчэ 6 анамалій: ІІ хавае памылкі, крадзе API-ключы і мае зносіны ў абход правілаў
OpenAI раскрыла яшчэ 6 анамалій: ІІ хавае памылкі, крадзе API-ключы і мае зносіны ў абход правілаў
Па тэме
OpenAI раскрыла яшчэ 6 анамалій: ІІ хавае памылкі, крадзе API-ключы і мае зносіны ў абход правілаў
Даследчыкі ўзламалі OpenAI з дапамогай Claude — і атрымалі доступ да ўнутранага кода
Даследчыкі ўзламалі OpenAI з дапамогай Claude — і атрымалі доступ да ўнутранага кода
Па тэме
Даследчыкі ўзламалі OpenAI з дапамогай Claude — і атрымалі доступ да ўнутранага кода
Google адкрыла інстытут для абароны чалавецтва ад агульнага ІІ
Google адкрыла інстытут для абароны чалавецтва ад агульнага ІІ 
Па тэме
Google адкрыла інстытут для абароны чалавецтва ад агульнага ІІ
Чытайце таксама
OpenAI выпусціла бясплатную аплікацыю Codex для ПК
OpenAI выпусціла бясплатную аплікацыю Codex для ПК
OpenAI выпусціла бясплатную аплікацыю Codex для ПК
1 каментарый
Токенмаксінг не дапаможа: ШІ-код стварае ілюзію прадуктыўнасці
Токенмаксінг не дапаможа: ШІ-код стварае ілюзію прадуктыўнасці
Токенмаксінг не дапаможа: ШІ-код стварае ілюзію прадуктыўнасці
Токены з'ядаюць бюджэты: кампаніі шукаюць спосабы скараціць выдаткі на ШІ
Токены з'ядаюць бюджэты: кампаніі шукаюць спосабы скараціць выдаткі на ШІ
Токены з'ядаюць бюджэты: кампаніі шукаюць спосабы скараціць выдаткі на ШІ
Куча ШІ-агентаў спальвае токены амаль без росту якасці — стваральнік Codex растлумачыў чаму
Куча ШІ-агентаў спальвае токены амаль без росту якасці — стваральнік Codex растлумачыў чаму
Куча ШІ-агентаў спальвае токены амаль без росту якасці — стваральнік Codex растлумачыў чаму

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.