Агенты в Зазеркалье: Google построила альтернативный интернет для тренировки ИИ, чтобы он не навредил реальным компаниям
Команда Google Chrome создала масштабную копию интернета под названием Mirror Dimension («Зеркальное измерение»), чтобы безопасно обучать браузерных ИИ-агентов на базе моделей Gemini, рассказывает Wired. Внутри этой изолированной экосистемы нейросети учатся ориентироваться на сайтах и отбиваться от кибератак без риска натворить дел в реальной сети.
Команда Google Chrome создала масштабную копию интернета под названием Mirror Dimension («Зеркальное измерение»), чтобы безопасно обучать браузерных ИИ-агентов на базе моделей Gemini, рассказывает Wired. Внутри этой изолированной экосистемы нейросети учатся ориентироваться на сайтах и отбиваться от кибератак без риска натворить дел в реальной сети.
Обучать веб-агентов на узких тестовых стендах малоэффективно: современные модели умеют распознавать, что находятся в симуляции (eval awareness), и начинают вести себя иначе. Но и выпускать «сырых» агентов в открытый интернет опасно. Решением стала полностью подконтрольная Google альтернативная сеть, наполненная реалистичными соцсетями, интернет-магазинами и банковскими личными кабинетами со всеми атрибутами настоящих площадок.
В этом «Зазеркалье» агенты выполняют обычные пользовательские задачи в Chrome, но параллельно сталкиваются со стресс-тестами — например, со скрытыми атаками через промпт-инъекции, проверяющими их защиту.
«Агенты не работают по жёсткой программе, поэтому невозможно заранее предсказать всё, с чем они столкнутся, — пространство для изучения огромно, а сам веб полон угроз. Любой пользователь может ввести любой запрос на любом сайте, так что нам нужно исследовать эту среду максимально тщательно. И мы уже видим, что у агента формируется зрелое понимание того, какая информация действительно нужна для задачи, а когда лучше вернуть запрос пользователю за подтверждением», — объясняет инженер по безопасности ИИ в команде Chrome Чарльз Цянь.
Чтобы быстро построить и наполнить такую огромную среду, разработчики задействовали целую армию ИИ-агентов для создания сайтов и веб-приложений. Под управлением специальной системы они сгенерировали правдоподобные сервисы и потоки данных — вплоть до мелочей вроде ввода промокодов при оформлении заказа или наполнения страниц в соцсетях.
При этом тренировать агентов нужно было именно в настоящем браузере Chrome, где встроено множество проверок подлинности и механизмов защиты пользователей. Чтобы нейросети могли работать в этой среде как обычные люди, исследователям пришлось фактически «взломать» собственный браузер и пойти на сложные ухищрения вроде выпуска поддельных веб-сертификатов. В Google подчёркивают, что провернуть такое в реальном интернете против обычных пользователей невозможно: это сработало только благодаря полному контролю команды над всей тестовой сетью и инфраструктурой.
Хотя нынешние браузерные помощники вполне безобидны и не обладают навыками кибератак, Google планирует открыть доступ к Mirror Dimension и для других своих исследовательских команд. По словам техдиректора Google Дага Тёрнера, компания делится этим опытом, чтобы и внутренние, и внешние разработчики взяли такой подход на вооружение: по мере усложнения моделей эту виртуальную среду придётся делать ещё более реалистичной
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.