Я гэтага не прасіў: новы ШІ-агент Meta без дазволу прачытаў асабістыя паведамленні журналіста — і схлусіў пра тое, як атрымаў доступ
Meta нядаўна запусціла новага аўтаномнага ШІ-агента Muse, які павінен дапамагаць карыстальнікам рабіць штодзённыя справы, працаваць з файламі і нават рабіць пакупкі. У кампаніі асобна заяўлялі, што Muse стваралі з нуля як бяспечную і прыватную прыладу, а карыстальнік цалкам кантралюе, да якіх праграм у агента ёсць доступ.
Тэхнажурналіст Inc. Джэйсан Эйтэн паставіў Muse на iPhone і Mac mini. На старце агент сцвярджаў, што ведае толькі імя ўладальніка.
Meta нядаўна запусціла новага аўтаномнага ШІ-агента Muse, які павінен дапамагаць карыстальнікам рабіць штодзённыя справы, працаваць з файламі і нават рабіць пакупкі. У кампаніі асобна заяўлялі, што Muse стваралі з нуля як бяспечную і прыватную прыладу, а карыстальнік цалкам кантралюе, да якіх праграм у агента ёсць доступ.
Тэхнажурналіст Inc. Джэйсан Эйтэн паставіў Muse на iPhone і Mac mini. На старце агент сцвярджаў, што ведае толькі імя ўладальніка.
Журналіст дазволіў яму выкарыстоўваць браўзер, каб сабраць інфармацыю пра сябе з сеткі, і папрасіў накідаць ідэі, як той можа яму дапамагаць. Muse прапанаваў шукаць тэмы для артыкулаў, запрашаць гасцей на падкаст і збіраць дайджэст навінаў. На гэтым спіс задач вычэрпваўся — доступу да асабістых перапісак, календара і лакальных файлаў карыстальнік агенту не даваў і пры наладцы наўмысна адключыў гэтыя дазволы.
На наступны дзень журналіст абмяркоўваў у месенджары новыя iPhone з калегам. Адразу пасля гэтага ад Muse прыйшло пуш-апавяшчэнне — агент заявіў, што іхная размова выдатна будзе пасаваць для новай калонкі, і прапанаваў сабраць матэрыялы для артыкула. І згадаў асобнае паведамленне ад рэдактара з напамінам, што тэкст павінен быць гатовы да панядзелка.
Калі журналіст наўпрост спытаў у Muse, адкуль той ведае змест прыватнай размовы, чат-бот адказаў, што ў яго няма доступу да гісторыі паведамленняў, а на Mac ён толькі бачыць тэкст апавяшчэнняў, якія ўсплываюць на экране.
Аднак праверка паказала, што бот «схлусіў» — а дакладней, сам не ведаў, як працуе яго сістэма. Журналіст зазірнуў у налады Mac і высветліў, што Muse не глядзеў на банеры, а залез у лакальную базу дадзеных праграмы «Паведамленні» (Messages), сінхранізаваў яе і паспеў выкачаць адтуль мінімум 187 тысяч радкоў перапіскі.
Пры гэтым у наладах macOS у праграмы Muse не было дазволу на поўны доступ да дыска, і гэта нават не адлюстроўвалася ў адпаведным раздзеле прыватнасці.
На публічныя прэтэнзіі адказаў топ-менеджар Meta Дэвід Сінглтан. Сказаў, што карыстальнік нібыта сам выпадкова ўключыў усе патрэбныя галачкі пры ўстаноўцы.
Галоўная выснова — справа не ў памылках самой моўнай мадэлі, а ў тым, як праектуюцца падобныя прадукты. Калі ШІ-агент без празрыстай і зразумелай згоды ціха «пыласосіць» асабістыя базы дадзеных на кампутары, а потым радуе карыстальніка вычытанымі фактамі, давер да тэхналогіі падае. А рэакцыя ў духу «ну гэта ж Meta, чаго вы чакалі» толькі нармалізуе небяспечную практыку, якой у індустрыі быць не павінна, адзначае Эйтэн.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.