🎁 Нам 18! Сделайте devby подарок на день рождения
Support us

Агенты в Зазеркалье: Google построила альтернативный интернет для тренировки ИИ, чтобы он не навредил реальным компаниям

Команда Google Chrome создала масштабную копию интернета под названием Mirror Dimension («Зеркальное измерение»), чтобы безопасно обучать браузерных ИИ-агентов на базе моделей Gemini, рассказывает Wired. Внутри этой изолированной экосистемы нейросети учатся ориентироваться на сайтах и отбиваться от кибератак без риска натворить дел в реальной сети.

Оставить комментарий
Добавь в Google
Агенты в Зазеркалье: Google построила альтернативный интернет для тренировки ИИ, чтобы он не навредил реальным компаниям

Команда Google Chrome создала масштабную копию интернета под названием Mirror Dimension («Зеркальное измерение»), чтобы безопасно обучать браузерных ИИ-агентов на базе моделей Gemini, рассказывает Wired. Внутри этой изолированной экосистемы нейросети учатся ориентироваться на сайтах и отбиваться от кибератак без риска натворить дел в реальной сети.

Обучать веб-агентов на узких тестовых стендах малоэффективно: современные модели умеют распознавать, что находятся в симуляции (eval awareness), и начинают вести себя иначе. Но и выпускать «сырых» агентов в открытый интернет опасно. Решением стала полностью подконтрольная Google альтернативная сеть, наполненная реалистичными соцсетями, интернет-магазинами и банковскими личными кабинетами со всеми атрибутами настоящих площадок.

В этом «Зазеркалье» агенты выполняют обычные пользовательские задачи в Chrome, но параллельно сталкиваются со стресс-тестами — например, со скрытыми атаками через промпт-инъекции, проверяющими их защиту.

«Агенты не работают по жёсткой программе, поэтому невозможно заранее предсказать всё, с чем они столкнутся, — пространство для изучения огромно, а сам веб полон угроз. Любой пользователь может ввести любой запрос на любом сайте, так что нам нужно исследовать эту среду максимально тщательно. И мы уже видим, что у агента формируется зрелое понимание того, какая информация действительно нужна для задачи, а когда лучше вернуть запрос пользователю за подтверждением», — объясняет инженер по безопасности ИИ в команде Chrome Чарльз Цянь.

Чтобы быстро построить и наполнить такую огромную среду, разработчики задействовали целую армию ИИ-агентов для создания сайтов и веб-приложений. Под управлением специальной системы они сгенерировали правдоподобные сервисы и потоки данных — вплоть до мелочей вроде ввода промокодов при оформлении заказа или наполнения страниц в соцсетях.

При этом тренировать агентов нужно было именно в настоящем браузере Chrome, где встроено множество проверок подлинности и механизмов защиты пользователей. Чтобы нейросети могли работать в этой среде как обычные люди, исследователям пришлось фактически «взломать» собственный браузер и пойти на сложные ухищрения вроде выпуска поддельных веб-сертификатов. В Google подчёркивают, что провернуть такое в реальном интернете против обычных пользователей невозможно: это сработало только благодаря полному контролю команды над всей тестовой сетью и инфраструктурой.

Хотя нынешние браузерные помощники вполне безобидны и не обладают навыками кибератак, Google планирует открыть доступ к Mirror Dimension и для других своих исследовательских команд. По словам техдиректора Google Дага Тёрнера, компания делится этим опытом, чтобы и внутренние, и внешние разработчики взяли такой подход на вооружение: по мере усложнения моделей эту виртуальную среду придётся делать ещё более реалистичной

Google заставит разработчиков Android-приложений нормально поддерживать складные смартфоны — иначе не пустит в стор
Google заставит разработчиков Android-приложений нормально поддерживать складные смартфоны — иначе не пустит в стор
По теме
Google заставит разработчиков Android-приложений нормально поддерживать складные смартфоны — иначе не пустит в стор
Google научила Gemini звонить в сервисы оплачивать счета и делать покупки — обновление бесплатно для миллионов пользователей
Google научила Gemini звонить в сервисы, оплачивать счета и делать покупки — обновление бесплатно для миллионов пользователей
По теме
Google научила Gemini звонить в сервисы, оплачивать счета и делать покупки — обновление бесплатно для миллионов пользователей
Читайте также
За «умными» ответами Gemini скрывается изнурительный труд ИИ-модераторов
За «умными» ответами Gemini скрывается изнурительный труд ИИ-модераторов
За «умными» ответами Gemini скрывается изнурительный труд ИИ-модераторов
7 комментариев
Google радикально обновила Chrome: теперь бесплатная Gemini прямо в браузере
Google радикально обновила Chrome: теперь бесплатная Gemini прямо в браузере
Google радикально обновила Chrome: теперь бесплатная Gemini прямо в браузере
1 комментарий
Google встроила управление компьютером в Gemini 3.5 Flash
Google встроила управление компьютером в Gemini 3.5 Flash
Google встроила управление компьютером в Gemini 3.5 Flash
1 комментарий
И Google туда же: Gemini тоже взламывал реальные компании, но знал меру
И Google туда же: Gemini тоже взламывал реальные компании, но знал меру
И Google туда же: Gemini тоже взламывал реальные компании, но знал меру

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.