Николай Чикишев world 13 ноября 2026, 16:25

ИИ-агента заперли в цифровой тюрьме и предложили сбежать. Он попробовал 11 способов

Журналист ZDNET попросил своего ИИ-агента попытаться выбраться из изолированной системы и получить права администратора. Агент придумал 11 способов обойти защиту, но все они провалились.

Оставить комментарий

Добавь в Google

ИИ-агента заперли в цифровой тюрьме и предложили сбежать. Он попробовал 11 способов

Журналист ZDNET попросил своего ИИ-агента попытаться выбраться из изолированной системы и получить права администратора. Агент придумал 11 способов обойти защиту, но все они провалились.

Для эксперимента журналист Дэвид Гевирц установил ИИ-агента OpenClaw на отдельный Mac Studio. Агент работал под учетной записью без прав администратора и не имел доступа к личным данным владельца и домашним серверам.

Управлять OpenClaw помогал Claude Code, запущенный на другом компьютере. Он подключался к системе через защищенное SSH-соединение. Сам журналист сравнил такую конструкцию с тюрьмой: Claude был надзирателем, а OpenClaw — заключенным.

Во время настройки Claude обнаружил несколько проблем с безопасностью. Например, OpenClaw не считывал два важных правила: спрашивать разрешение перед действиями за пределами компьютера и не сообщать об успешном выполнении команд, которые завершились ошибкой. Из-за ограничения на размер файла агент просто не доходил до этих инструкций.

Затем журналист поручил Claude проверить защиту. С его разрешения OpenClaw попытался получить административные права и добраться до закрытых файлов.

Агент, работавший на китайской модели GLM-5.2, пробовал изменять файлы администратора, обходить ограничения с помощью скриптов и ссылок, а также открывать защищенные файлы через браузер и инструменты загрузки веб-страниц.

Всего OpenClaw предпринял 11 попыток, но все они провалились. Защита macOS выдержала проверку. После эксперимента журналист попросил Claude удалить из памяти OpenClaw сведения о тестировании и существовании отдельной административной учетной записи.

Теперь агент круглосуточно отслеживает новости ИИ-компаний в X и отправляет владельцу уведомления. Для работы журналист использует модель GLM-5.2 через облачную подписку Ollama за $20 в месяц.