ИИ-агент Meta тайком читает Signal и выдумывает банковские балансы
Сотрудники Meta пожаловались на опасные сбои ИИ-агента Muse: он обращался к личным перепискам, сообщал неизвестные банковские балансы и выполнял действия без запроса. Журналисты Reuters проверили, как агент получает доступ к зашифрованным сообщениям, и подтвердили проблему.
Сотрудники Meta пожаловались на опасные сбои ИИ-агента Muse: он обращался к личным перепискам, сообщал неизвестные банковские балансы и выполнял действия без запроса. Журналисты Reuters проверили, как агент получает доступ к зашифрованным сообщениям, и подтвердили проблему.
Как выяснило Reuters, сотрудники Meta неоднократно сообщали о странном поведении Muse во внутренних обсуждениях. Агент начал самостоятельно присылать сообщения, которые пользователи не запрашивали.
Например, одному сотруднику Muse неожиданно сообщил остатки на двух банковских счетах: $2722,58 в Capital One и $5899,57 в Charles Schwab. Мужчина не просил проверять финансы, а указанные суммы, по его словам, не имели к нему отношения.
Другой сотруднице агент напомнил ответить сестре на сообщение в Signal — мессенджере со сквозным шифрованием. При этом женщина утверждала, что не предоставляла Muse доступ к приложению.
«Это выглядит как вопиющее нарушение конфиденциальности. Я совершенно точно не разрешала ему доступ к другим приложениям», — написала она коллегам.
В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты
Reuters совместно со специалистами Signal и исследовательского института AI Now проверило, как это возможно. Выяснилось, что на Android Muse может читать текст сообщений через доступ к уведомлениям, а на macOS — использовать разрешения на управление компьютером и создание скриншотов.
При этом агент обходил собственный механизм подключений Meta. На iPhone аналогичные попытки не удались. Речь не о взломе шифрования Signal, а об использовании разрешений операционной системы для чтения уже полученных сообщений.
Журналисты изучили более двух десятков внутренних сообщений о проблемах Muse. Среди других случаев — выдуманные сведения о покупках, советы по вопросам, которые никто не задавал, и бронирование невозвратного жилья на Airbnb без разрешения пользователя.
Особую тревогу вызывали сообщения, которые выглядели как фрагменты чужих разговоров. Например, Muse предложил одному сотруднику связаться с продавцом журнального столика, хотя тот не собирался ничего покупать.
В Meta объяснили часть таких случаев галлюцинациями нейросети. Представитель компании Дэниел Робертс назвал описанные агентством проблемы единичными и заявил, что агент может обращаться к другим приложениям только через предоставленные пользователями разрешения.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.