Агенты ў Залюстроўі: Google збудавала альтэрнатыўны інтэрнэт для трэніроўкі ШІ, каб ён не нашкодзіў рэальным кампаніям
Каманда Google Chrome стварыла маштабную копію інтэрнэту пад назвай Mirror Dimension («Люстранае вымярэнне»), каб бяспечна навучаць браўзерных ШІ-агентаў на базе мадэляў Gemini, паведамляе Wired. Унутры гэтай ізаляванай экасістэмы нейрасеткі вучацца арыентавацца на сайтах і адбівацца ад кібератак без рызыкі нашкодзіць у рэальнай сетцы.
Каманда Google Chrome стварыла маштабную копію інтэрнэту пад назвай Mirror Dimension («Люстранае вымярэнне»), каб бяспечна навучаць браўзерных ШІ-агентаў на базе мадэляў Gemini, паведамляе Wired. Унутры гэтай ізаляванай экасістэмы нейрасеткі вучацца арыентавацца на сайтах і адбівацца ад кібератак без рызыкі нашкодзіць у рэальнай сетцы.
Навучаць вэб-агентаў на вузкіх тэставых стэндах малаэфектыўна: сучасныя мадэлі ўмеюць распазнаваць, што знаходзяцца ў сімуляцыі (eval awareness), і пачынаюць паводзіць сябе інакш. Але і выпускаць «сырых» агентаў у адкрыты інтэрнэт небяспечна. Рашэннем стала поўнасцю падкантрольная Google альтэрнатыўная сетка, напоўненая рэалістычнымі сацсеткамі, інтэрнэт-крамамі і банкаўскімі асабістымі кабінетамі з усімі атрыбутамі сапраўдных пляцовак.
У гэтым «Залюстроўі» агенты выконваюць звычайныя карыстальніцкія задачы ў Chrome, але паралельна сутыкаюцца са стрэс-тэстамі — напрыклад, са схаванымі атакамі праз промпт-ін’екцыі, якія правяраюць іх абарону.
«Агенты не працуюць па жорсткай праграме, таму немагчыма загадзя прадбачыць усё, з чым яны сутыкнуцца, — прастора для вывучэння вялікая, а сам вэб поўны пагрозаў. Любы карыстальнік можа ўвесці любы запыт на любым сайце, таму нам трэба даследаваць гэтае асяроддзе максімальна дбайна. І мы ўжо бачым, што ў агента фарміруецца сталае разуменне таго, якая інфармацыя сапраўды патрэбна для задачы, а калі лепш вярнуць запыт карыстальніку для пацверджання», — тлумачыць інжынер у бяспецы ШІ ў камандзе Chrome Чарлз Цянь.
Каб хутка пабудаваць і напоўніць такое вялікае асяроддзе, распрацоўшчыкі задзейнічалі цэлую армію ШІ-агентаў для стварэння сайтаў і вэб-праграм. Пад кіраваннем спецыяльнай сістэмы яны згенеравалі праўдападобныя сервісы і патокі дадзеных — аж да дробязяў накшталт уводу промакодаў пры афармленні заказу ці напаўнення старонак у сацсетках.
Пры гэтым трэніраваць агентаў трэба было менавіта ў сапраўдным браўзеры Chrome, дзе ўбудавана мноства праверак сапраўднасці і механізмаў абароны карыстальнікаў. Каб нейрасеткі маглі працаваць у гэтым асяроддзі як звычайныя людзі, даследчыкам прыйшлося фактычна «ўзламаць» уласны браўзер і пайсці на складаныя хітрыкі накшталт выпуску падробленых вэб-сертыфікатаў. У Google падкрэсліваюць, што зрабіць такое ў рэальным інтэрнэце супраць звычайных карыстальнікаў немагчыма: гэта спрацавала толькі дзякуючы поўнаму кантролю каманды над усёй тэставай сеткай і інфраструктурай.
Хоць цяперашнія браўзерныя памочнікі цалкам бяскрыўдныя і не валодаюць навыкамі кібератак, Google плануе адкрыць доступ да Mirror Dimension і для іншых сваіх даследчых каманд. Паводле тэхдырэктара Google Дага Цёрнэра, кампанія дзеліцца гэтым вопытам, каб і ўнутраныя, і вонкавыя распрацоўшчыкі ўзялі такі падыход на ўзбраенне: па меры ўскладнення мадэляў гэтае віртуальнае асяроддзе давядзецца рабіць яшчэ больш рэалістычным.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.