Дапамажыце dev.by 🤍
Падтрымаць

ШІ-агент Meta тайком чытае Signal і выдумляе банкаўскія балансы

Супрацоўнікі Meta скардзяцца на небяспечныя збоі ШІ-агента Muse: ён звяртаўся да асабістых перапісак, паведамляў невядомыя банкаўскія балансы і выконваў дзеянні без запыту. Журналісты Reuters праверылі, як агент атрымлівае доступ да зашыфраваных паведамленняў, і пацвердзілі праблему.

Пакінуць каментарый
Дадай у Google
ШІ-агент Meta тайком чытае Signal і выдумляе банкаўскія балансы

Супрацоўнікі Meta скардзяцца на небяспечныя збоі ШІ-агента Muse: ён звяртаўся да асабістых перапісак, паведамляў невядомыя банкаўскія балансы і выконваў дзеянні без запыту. Журналісты Reuters праверылі, як агент атрымлівае доступ да зашыфраваных паведамленняў, і пацвердзілі праблему.

Як высветліла Reuters, супрацоўнікі Meta неаднаразова паведамлялі пра дзіўныя паводзіны Muse ва ўнутраных абмеркаваннях. Агент пачаў самастойна дасылаць паведамленні, якіх карыстальнікі не запытвалі.

Напрыклад, аднаму супрацоўніку Muse нечакана паведаміў астаткі на двух банкаўскіх рахунках: $2722,58 у Capital One і $5899,57 у Charles Schwab. Мужчына не прасіў правяраць фінансы, а ўказаныя сумы, паводле яго, не мелі да яго ніякага дачынення.

Іншай супрацоўніцы агент нагадаў адказаць сястры на паведамленне ў Signal — месенджары са скразным шыфраваннем. Пры гэтым жанчына сцвярджала, што не давала Muse доступу да прыкладання.

«Гэта выглядае як грубейшае парушэнне канфідэнцыяльнасці. Я абсалютна дакладна не дазваляла яму доступ да іншых прыкладанняў», — напісала яна калегам.

У ІІ-агенце Muse ад Meta знайшлі тысячы спасылак на чужыя чаты
У ІІ-агенце Muse ад Meta знайшлі тысячы спасылак на чужыя чаты
Па тэме
У ШІ-агенце Muse ад Meta знайшлі тысячы спасылак на чужыя чаты

Reuters сумесна са спецыялістамі Signal і даследчага інстытута AI Now праверыла, як гэта магчыма. Высветлілася, што на Android Muse можа чытаць тэкст паведамленняў праз доступ да апавяшчэнняў, а на macOS — выкарыстоўваць дазволы на кіраванне камп’ютарам і стварэнне скрыншотаў.

Пры гэтым агент абыходзіў уласны механізм падключэнняў Meta. На iPhone аналагічныя спробы не ўдаліся. Гаворка не пра ўзлом шыфравання Signal, а пра выкарыстанне дазволаў аперацыйнай сістэмы для чытання ўжо атрыманых паведамленняў.

Журналісты вывучылі больш за два дзесяткі ўнутраных паведамленняў пра праблемы Muse. Сярод іншых выпадкаў — выдуманыя звесткі пра пакупкі, парады ў пытаннях, якіх ніхто не задаваў, і браніраванне беззваротнага жылля на Airbnb без дазволу карыстальніка.

Асаблівую трывогу выклікалі паведамленні, якія выглядалі як фрагменты чужых размоваў. Напрыклад, Muse прапанаваў аднаму супрацоўніку звязацца з прадаўцом журнальнага століка, хаця той не збіраўся нічога купляць.

У Meta растлумачылі частку такіх выпадкаў галюцынацыямі нейрасеткі. Прадстаўнік кампаніі Дэніел Робертс назваў апісаныя агенцтвам праблемы адзінкавымі і заявіў, што агент можа звяртацца да іншых прыкладанняў толькі праз дазволы, прадастаўленыя карыстальнікамі.

Meta выпусціла Muse Ember — самую танную мадэль для ІІ-агентаў
Meta выпусціла Muse Ember — самую танную мадэль для ІІ-агентаў
Па тэме
Meta выпусціла Muse Ember — самую танную мадэль для ШІ-агентаў
«Найгоршая мадэль OpenAI»: кампанія выпусціла GPT-6.2 Astra і Sol. Распрацоўшчыкі незадаволены
«Найгоршая мадэль OpenAI»: кампанія выпусціла GPT-6.2 Astra і Sol. Распрацоўшчыкі незадаволены
Па тэме
«Найгоршая мадэль OpenAI»: кампанія выпусціла GPT-6.2 Astra і Sol. Распрацоўшчыкі незадаволеныя
Windows 11 тайна сочыць, якімі ІІ-агентамі вы карыстаецеся
Windows 11 тайна сочыць, якімі ІІ-агентамі вы карыстаецеся
Па тэме
Windows 11 тайна сочыць, якімі ШІ-агентамі вы карыстаецеся
Чытайце таксама
ШІ-агент Meta выйшаў з-пад кантролю. Збой прызналі крытычным
ШІ-агент Meta выйшаў з-пад кантролю. Збой прызналі крытычным
ШІ-агент Meta выйшаў з-пад кантролю. Збой прызналі крытычным
Я гэтага не прасіў: новы ШІ-агент Meta без дазволу прачытаў асабістыя паведамленні журналіста — і схлусіў пра тое, як атрымаў доступ
Я гэтага не прасіў: новы ШІ-агент Meta без дазволу прачытаў асабістыя паведамленні журналіста — і схлусіў пра тое, як атрымаў доступ
Я гэтага не прасіў: новы ШІ-агент Meta без дазволу прачытаў асабістыя паведамленні журналіста — і схлусіў пра тое, як атрымаў доступ
Gemini прабаваў узламаць сайт з тэстамі для ШІ. Хаця яго пра гэта нават не прасілі
Gemini прабаваў узламаць сайт з тэстамі для ШІ. Хаця яго пра гэта нават не прасілі
Gemini прабаваў узламаць сайт з тэстамі для ШІ. Хаця яго пра гэта нават не прасілі
ШІ-агент Meta тайком чытае Signal і выдумляе банкаўскія балансы
ШІ-агент Meta тайком чытае Signal і выдумляе банкаўскія балансы
ШІ-агент Meta тайком чытае Signal і выдумляе банкаўскія балансы

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.