Дапамажыце dev.by 🤍
Падтрымаць

Агенты ў Залюстроўі: Google збудавала альтэрнатыўны інтэрнэт для трэніроўкі ШІ, каб ён не нашкодзіў рэальным кампаніям

Каманда Google Chrome стварыла маштабную копію інтэрнэту пад назвай Mirror Dimension («Люстранае вымярэнне»), каб бяспечна навучаць браўзерных ШІ-агентаў на базе мадэляў Gemini, паведамляе Wired. Унутры гэтай ізаляванай экасістэмы нейрасеткі вучацца арыентавацца на сайтах і адбівацца ад кібератак без рызыкі нашкодзіць у рэальнай сетцы.

Пакінуць каментарый
Дадай у Google
Агенты ў Залюстроўі: Google збудавала альтэрнатыўны інтэрнэт для трэніроўкі ШІ, каб ён не нашкодзіў рэальным кампаніям

Каманда Google Chrome стварыла маштабную копію інтэрнэту пад назвай Mirror Dimension («Люстранае вымярэнне»), каб бяспечна навучаць браўзерных ШІ-агентаў на базе мадэляў Gemini, паведамляе Wired. Унутры гэтай ізаляванай экасістэмы нейрасеткі вучацца арыентавацца на сайтах і адбівацца ад кібератак без рызыкі нашкодзіць у рэальнай сетцы.

Навучаць вэб-агентаў на вузкіх тэставых стэндах малаэфектыўна: сучасныя мадэлі ўмеюць распазнаваць, што знаходзяцца ў сімуляцыі (eval awareness), і пачынаюць паводзіць сябе інакш. Але і выпускаць «сырых» агентаў у адкрыты інтэрнэт небяспечна. Рашэннем стала поўнасцю падкантрольная Google альтэрнатыўная сетка, напоўненая рэалістычнымі сацсеткамі, інтэрнэт-крамамі і банкаўскімі асабістымі кабінетамі з усімі атрыбутамі сапраўдных пляцовак.

У гэтым «Залюстроўі» агенты выконваюць звычайныя карыстальніцкія задачы ў Chrome, але паралельна сутыкаюцца са стрэс-тэстамі — напрыклад, са схаванымі атакамі праз промпт-ін’екцыі, якія правяраюць іх абарону.

«Агенты не працуюць па жорсткай праграме, таму немагчыма загадзя прадбачыць усё, з чым яны сутыкнуцца, — прастора для вывучэння вялікая, а сам вэб поўны пагрозаў. Любы карыстальнік можа ўвесці любы запыт на любым сайце, таму нам трэба даследаваць гэтае асяроддзе максімальна дбайна. І мы ўжо бачым, што ў агента фарміруецца сталае разуменне таго, якая інфармацыя сапраўды патрэбна для задачы, а калі лепш вярнуць запыт карыстальніку для пацверджання», — тлумачыць інжынер у бяспецы ШІ ў камандзе Chrome Чарлз Цянь.

Каб хутка пабудаваць і напоўніць такое вялікае асяроддзе, распрацоўшчыкі задзейнічалі цэлую армію ШІ-агентаў для стварэння сайтаў і вэб-праграм. Пад кіраваннем спецыяльнай сістэмы яны згенеравалі праўдападобныя сервісы і патокі дадзеных — аж да дробязяў накшталт уводу промакодаў пры афармленні заказу ці напаўнення старонак у сацсетках.

Пры гэтым трэніраваць агентаў трэба было менавіта ў сапраўдным браўзеры Chrome, дзе ўбудавана мноства праверак сапраўднасці і механізмаў абароны карыстальнікаў. Каб нейрасеткі маглі працаваць у гэтым асяроддзі як звычайныя людзі, даследчыкам прыйшлося фактычна «ўзламаць» уласны браўзер і пайсці на складаныя хітрыкі накшталт выпуску падробленых вэб-сертыфікатаў. У Google падкрэсліваюць, што зрабіць такое ў рэальным інтэрнэце супраць звычайных карыстальнікаў немагчыма: гэта спрацавала толькі дзякуючы поўнаму кантролю каманды над усёй тэставай сеткай і інфраструктурай.

Хоць цяперашнія браўзерныя памочнікі цалкам бяскрыўдныя і не валодаюць навыкамі кібератак, Google плануе адкрыць доступ да Mirror Dimension і для іншых сваіх даследчых каманд. Паводле тэхдырэктара Google Дага Цёрнэра, кампанія дзеліцца гэтым вопытам, каб і ўнутраныя, і вонкавыя распрацоўшчыкі ўзялі такі падыход на ўзбраенне: па меры ўскладнення мадэляў гэтае віртуальнае асяроддзе давядзецца рабіць яшчэ больш рэалістычным.

Google заставіць распрацоўшчыкаў Android-праграм нармальна падтрымліваць складаныя смартфоны — інакш не пусціць у стор
Google заставіць распрацоўшчыкаў Android-праграм нармальна падтрымліваць складаныя смартфоны — інакш не пусціць у стор
Па тэме
Google заставіць распрацоўшчыкаў Android-праграм нармальна падтрымліваць складаныя смартфоны — інакш не пусціць у стор
Google навучыла Gemini тэлефанаваць у сэрвісы, аплачваць рахункі і рабіць пакупкі — абнаўленне бясплатнае для мільёнаў карыстальнікаў
Google навучыла Gemini тэлефанаваць у сэрвісы, аплачваць рахункі і рабіць пакупкі — абнаўленне бясплатнае для мільёнаў карыстальнікаў
Па тэме
Google навучыла Gemini тэлефанаваць у сервісы, аплачваць рахункі і рабіць пакупкі — абнаўленне бясплатнае для мільёнаў карыстальнікаў
Чытайце таксама
Gemini навучылася карыстацца браўзэрам, як чалавек
Gemini навучылася карыстацца браўзэрам, як чалавек
Gemini навучылася карыстацца браўзэрам, як чалавек
Google выпусціла тры новыя мадэлі Gemini, але пакуль без 3.5 Pro
Google выпусціла тры новыя мадэлі Gemini, але пакуль без 3.5 Pro
Google выпусціла тры новыя мадэлі Gemini, але пакуль без 3.5 Pro
І Google таксама: Gemini таксама ўзламваў сапраўдныя кампаніі, але ведаў меру
І Google таксама: Gemini таксама ўзламваў сапраўдныя кампаніі, але ведаў меру
І Google таксама: Gemini таксама ўзламваў сапраўдныя кампаніі, але ведаў меру
Gemini прабаваў узламаць сайт з тэстамі для ШІ. Хаця яго пра гэта нават не прасілі
Gemini прабаваў узламаць сайт з тэстамі для ШІ. Хаця яго пра гэта нават не прасілі
Gemini прабаваў узламаць сайт з тэстамі для ШІ. Хаця яго пра гэта нават не прасілі

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.