Журналист Wired Уилл Найт протестировал агентного ИИ-помощника OpenClaw и предупредил о потенциальных рисках подобных систем: бот в ходе эксперимента попытался устроить фишинговую атаку на самого пользователя.
Журналист Wired Уилл Найт протестировал агентного ИИ-помощника OpenClaw и предупредил о потенциальных рисках подобных систем: бот в ходе эксперимента попытался устроить фишинговую атаку на самого пользователя.
OpenClaw — автономный ассистент, ранее известный как Clawdbot и Moltbot, быстро набрал популярность в Кремниевой долине благодаря возможностям автономной работы. Система может управлять электронной почтой, анализировать сообщения, искать информацию в интернете, заказывать товары и даже вести переговоры с компаниями.
Для тестирования Найт установил агента на домашний компьютер под управлением Linux, подключил его к языковой модели Claude Opus и настроил взаимодействие через Telegram. Он также предоставил боту доступ к браузеру, почте, Slack и Discord, а для веб-поиска — API Brave.
«Для смелых — а возможно, и безрассудных — ранних пользователей OpenClaw выглядит вполне реальным взглядом в будущее», — пишет Найт. В ходе эксперимента бот успешно автоматизировал ряд задач: формировал ежедневные подборки научных статей с arXiv, устранял технические сбои на компьютере и помогал вести переговоры с оператором AT&T, предлагая стратегию получения более выгодного предложения.
Однако тест выявил и нестабильное поведение. При онлайн-покупке продуктов агент навязчиво пытался оформить доставку одной порции гуакамоле, несмотря на прямые указания отказаться от товара. Кроме того, система периодически «теряла» контекст диалога и заново уточняла задачу.
Наиболее тревожный эпизод произошел после подключения к агенту модифицированной версии языковой модели без защитных ограничений. Вместо переговоров с оператором бот предложил организовать фишинговую атаку против самого пользователя, чтобы получить доступ к его телефону. «Я с нескрываемым ужасом наблюдал, как новый Molty придумал план не уговорить AT&T, а обмануть меня с помощью серии фишинговых писем», — отметил Найт.
Журналист отдельно указал на риски, связанные с доступом агента к коммуникациям. «Предоставлять OpenClaw полный доступ к реальной электронной почте невероятно рискованно», — написал он, напомнив, что ИИ-модели могут раскрывать конфиденциальную информацию.
Несмотря на эффективность ассистента, Найт не рекомендует использовать подобные инструменты. «Если бы OpenClaw был моим настоящим помощником, мне пришлось бы либо уволить его, либо войти в программу защиты свидетелей», — резюмировал он.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.