ШІ-агент Meta тайком чытае Signal і выдумляе банкаўскія балансы
Супрацоўнікі Meta скардзяцца на небяспечныя збоі ШІ-агента Muse: ён звяртаўся да асабістых перапісак, паведамляў невядомыя банкаўскія балансы і выконваў дзеянні без запыту. Журналісты Reuters праверылі, як агент атрымлівае доступ да зашыфраваных паведамленняў, і пацвердзілі праблему.
Супрацоўнікі Meta скардзяцца на небяспечныя збоі ШІ-агента Muse: ён звяртаўся да асабістых перапісак, паведамляў невядомыя банкаўскія балансы і выконваў дзеянні без запыту. Журналісты Reuters праверылі, як агент атрымлівае доступ да зашыфраваных паведамленняў, і пацвердзілі праблему.
Як высветліла Reuters, супрацоўнікі Meta неаднаразова паведамлялі пра дзіўныя паводзіны Muse ва ўнутраных абмеркаваннях. Агент пачаў самастойна дасылаць паведамленні, якіх карыстальнікі не запытвалі.
Напрыклад, аднаму супрацоўніку Muse нечакана паведаміў астаткі на двух банкаўскіх рахунках: $2722,58 у Capital One і $5899,57 у Charles Schwab. Мужчына не прасіў правяраць фінансы, а ўказаныя сумы, паводле яго, не мелі да яго ніякага дачынення.
Іншай супрацоўніцы агент нагадаў адказаць сястры на паведамленне ў Signal — месенджары са скразным шыфраваннем. Пры гэтым жанчына сцвярджала, што не давала Muse доступу да прыкладання.
«Гэта выглядае як грубейшае парушэнне канфідэнцыяльнасці. Я абсалютна дакладна не дазваляла яму доступ да іншых прыкладанняў», — напісала яна калегам.
У ШІ-агенце Muse ад Meta знайшлі тысячы спасылак на чужыя чаты
Reuters сумесна са спецыялістамі Signal і даследчага інстытута AI Now праверыла, як гэта магчыма. Высветлілася, што на Android Muse можа чытаць тэкст паведамленняў праз доступ да апавяшчэнняў, а на macOS — выкарыстоўваць дазволы на кіраванне камп’ютарам і стварэнне скрыншотаў.
Пры гэтым агент абыходзіў уласны механізм падключэнняў Meta. На iPhone аналагічныя спробы не ўдаліся. Гаворка не пра ўзлом шыфравання Signal, а пра выкарыстанне дазволаў аперацыйнай сістэмы для чытання ўжо атрыманых паведамленняў.
Журналісты вывучылі больш за два дзесяткі ўнутраных паведамленняў пра праблемы Muse. Сярод іншых выпадкаў — выдуманыя звесткі пра пакупкі, парады ў пытаннях, якіх ніхто не задаваў, і браніраванне беззваротнага жылля на Airbnb без дазволу карыстальніка.
Асаблівую трывогу выклікалі паведамленні, якія выглядалі як фрагменты чужых размоваў. Напрыклад, Muse прапанаваў аднаму супрацоўніку звязацца з прадаўцом журнальнага століка, хаця той не збіраўся нічога купляць.
У Meta растлумачылі частку такіх выпадкаў галюцынацыямі нейрасеткі. Прадстаўнік кампаніі Дэніел Робертс назваў апісаныя агенцтвам праблемы адзінкавымі і заявіў, што агент можа звяртацца да іншых прыкладанняў толькі праз дазволы, прадастаўленыя карыстальнікамі.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.