🎁 Нам 18! Сделайте devby подарок на день рождения
Support us

ИИ-агент Meta тайком читает Signal и выдумывает банковские балансы

Сотрудники Meta пожаловались на опасные сбои ИИ-агента Muse: он обращался к личным перепискам, сообщал неизвестные банковские балансы и выполнял действия без запроса. Журналисты Reuters проверили, как агент получает доступ к зашифрованным сообщениям, и подтвердили проблему.

Оставить комментарий
Добавь в Google
ИИ-агент Meta тайком читает Signal и выдумывает банковские балансы

Сотрудники Meta пожаловались на опасные сбои ИИ-агента Muse: он обращался к личным перепискам, сообщал неизвестные банковские балансы и выполнял действия без запроса. Журналисты Reuters проверили, как агент получает доступ к зашифрованным сообщениям, и подтвердили проблему.

Как выяснило Reuters, сотрудники Meta неоднократно сообщали о странном поведении Muse во внутренних обсуждениях. Агент начал самостоятельно присылать сообщения, которые пользователи не запрашивали.

Например, одному сотруднику Muse неожиданно сообщил остатки на двух банковских счетах: $2722,58 в Capital One и $5899,57 в Charles Schwab. Мужчина не просил проверять финансы, а указанные суммы, по его словам, не имели к нему отношения.

Другой сотруднице агент напомнил ответить сестре на сообщение в Signal — мессенджере со сквозным шифрованием. При этом женщина утверждала, что не предоставляла Muse доступ к приложению.

«Это выглядит как вопиющее нарушение конфиденциальности. Я совершенно точно не разрешала ему доступ к другим приложениям», — написала она коллегам.

В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты
В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты
По теме
В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты

Reuters совместно со специалистами Signal и исследовательского института AI Now проверило, как это возможно. Выяснилось, что на Android Muse может читать текст сообщений через доступ к уведомлениям, а на macOS — использовать разрешения на управление компьютером и создание скриншотов.

При этом агент обходил собственный механизм подключений Meta. На iPhone аналогичные попытки не удались. Речь не о взломе шифрования Signal, а об использовании разрешений операционной системы для чтения уже полученных сообщений.

Журналисты изучили более двух десятков внутренних сообщений о проблемах Muse. Среди других случаев — выдуманные сведения о покупках, советы по вопросам, которые никто не задавал, и бронирование невозвратного жилья на Airbnb без разрешения пользователя.

Особую тревогу вызывали сообщения, которые выглядели как фрагменты чужих разговоров. Например, Muse предложил одному сотруднику связаться с продавцом журнального столика, хотя тот не собирался ничего покупать.

В Meta объяснили часть таких случаев галлюцинациями нейросети. Представитель компании Дэниел Робертс назвал описанные агентством проблемы единичными и заявил, что агент может обращаться к другим приложениям только через предоставленные пользователями разрешения.

Meta выпустила Muse Ember — самую дешёвую модель для ИИ-агентов
Meta выпустила Muse Ember — самую дешёвую модель для ИИ-агентов
По теме
Meta выпустила Muse Ember — самую дешёвую модель для ИИ-агентов
«Худшая модель OpenAI»: компания выпустила GPT-6.2 Astra и Sol. Разрабы недовольны
«Худшая модель OpenAI»: компания выпустила GPT-6.2 Astra и Sol. Разрабы недовольны
По теме
«Худшая модель OpenAI»: компания выпустила GPT-6.2 Astra и Sol. Разрабы недовольны
Windows 11 тайно следит какими ИИ-агентами вы пользуетесь
Windows 11 тайно следит, какими ИИ-агентами вы пользуетесь
По теме
Windows 11 тайно следит, какими ИИ-агентами вы пользуетесь
Читайте также
ИИ-агент Meta тоже взломал сторонний сервис во время тестирования
ИИ-агент Meta тоже взломал сторонний сервис во время тестирования
ИИ-агент Meta тоже взломал сторонний сервис во время тестирования
Meta запустила Muse — ИИ-агента для покупок, поездок и повседневных задач
Meta запустила Muse — ИИ-агента для покупок, поездок и повседневных задач
Meta запустила Muse — ИИ-агента для покупок, поездок и повседневных задач
Я этого не просил: новый ИИ-агент Meta без разрешения прочёл личные сообщения журналиста — и соврал, как получил доступ
Я этого не просил: новый ИИ-агент Meta без разрешения прочёл личные сообщения журналиста — и соврал, как получил доступ
Я этого не просил: новый ИИ-агент Meta без разрешения прочёл личные сообщения журналиста — и соврал, как получил доступ
В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты
В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты
В ИИ-агенте Muse от Meta нашли тысячи ссылок на чужие чаты

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.