ШІ-агенты ў кампаніях часта памыляюцца не праз недахоп дадзеных, праз слабую памяць. Яны знаходзяць дакументы, але не заўсёды разумеюць, якія правілы актуальныя цяпер і якія рашэнні ўжо былі правераныя. Але ў гэтай праблемы ўжо ёсць рашэнне.
ШІ-агенты ў кампаніях часта памыляюцца не праз недахоп дадзеных, праз слабую памяць. Яны знаходзяць дакументы, але не заўсёды разумеюць, якія правілы актуальныя цяпер і якія рашэнні ўжо былі правераныя. Але ў гэтай праблемы ўжо ёсць рашэнне.
Сёння многія кампаніі будуюць ШІ-агентаў на базе RAG — падыходу, пры якім мадэль шукае рэлевантныя дакументы і дадае іх у запыт. Але ў RAG ёсць абмежаванне: ён дапамагае знайсці інфармацыю, але не тлумачыць агенту, якія правілы сапраўды прымяняльныя ў канкрэтнай сітуацыі, якія састарэлі, а якія маюць прыярытэт.
«Усе пачынаюць з RAG: дастаюць рэлевантныя дакументы, дадаюць іх у промпт і даюць мадэлі самой разабрацца», — кажа Уаят Мэйхэм з Northwest AI Consulting. Паводле яго, для чат-ботаў гэтага можа быць дастаткова, але для агентаў, якія павінны прымаць рашэнні і выконваць дзеянні, такі падыход хутка ламаецца.
Праблема асабліва заўважная ў карпаратыўным асяроддзі, дзе дадзеныя раскіданыя па ERP-сістэмах, логах, базах дадзеных, вектарных сховішчах і ўнутраных палітыках. Агент можа знайсці дакумент, але не зразумець, ці дзейнічае ён цяпер, ці не быў ён заменены новай версіяй і ці няма іншага важнейшага правіла. У выніку ШІ можа ўпэўнена прымяняць састарэлыя або супярэчлівыя інструкцыі.
Паводле Мэйхэма, агентам патрэбны не проста доступ да інфармацыі, а кантэкст для прыняцця рашэнняў. VentureBeat указвае, што вырашыць праблему можа падыход decision context graph — «граф кантэксту рашэнняў». У адрозненне ад RAG, які проста знаходзіць дакументы, такая сістэма захоўвае правілы, выключэнні, мінулыя рашэнні і ўмовы іх прымянення. Яна дапамагае агенту зразумець, які кантэкст актуальны цяпер і чаму.
Ключавая ідэя — non-regressivity, гэта значыць адсутнасць рэгрэсу. Калі агент ужо знайшоў правераную паслядоўнасць дзеянняў, сістэма фіксуе яе як надзейную базу. У наступны раз агент не пачынае з нуля, а абапіраецца на ўжо знойдзенае рашэнне.
Гэта важна для карпаратыўных працэсаў, дзе правілы часта мяняюцца. Агент павінен разумець, якія інструкцыі дзейнічаюць цяпер, якія састарэлі і якія выключэнні ўжо не прымяняльныя. Напрыклад, ён не павінен выкарыстоўваць старую палітыку кампаніі або цанавое выключэнне, тэрмін якога скончыўся.
Граф таксама захоўвае decision paths — шляхі прыняцця рашэнняў. Яны паказваюць, чаму агент выбраў адно правіла, праігнараваў іншае і на якія мінулыя выпадкі абапіраўся. Гэта робіць яго дзеянні больш прадказальнымі і прыдатнымі для аўдыту. Такі падыход асабліва важны ў банкінгу, страхаванні, медыцыне і карпаратыўнай падтрымцы, дзе нават невялікі працэнт памылак можа быць крытычным.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.