Хакеры ўзламалі інстаграм Абамы, пераканаўшы чат-бот Meta змяніць пошту
Хакеры атакавалі інстаграм-акаўнты, пераконваючы чат-бот падтрымкі Meta змяніць прывязаную пошту. Пасля гэтага яны скідвалі пароль і перахоплівалі кіраванне профілем.
Хакеры атакавалі інстаграм-акаўнты, пераконваючы чат-бот падтрымкі Meta змяніць прывязаную пошту. Пасля гэтага яны скідвалі пароль і перахоплівалі кіраванне профілем.
Хакеры атакавалі інстаграм-акаўнты, пераконваючы чат-бот падтрымкі Meta змяніць прывязаную пошту. Пасля гэтага яны скідвалі пароль і перахоплівалі кіраванне профілем.
Сярод пацярпелых акаўнтаў СМІ называюць старонку Барака Абамы, акаўнт галоўнага сяржанта Касмічных сіл ЗША Джона Бентывень'і ды акаўнт Sephora. Таксама мэтай станавіліся кароткія і рэдкія нікнеймы — так званыя OG handles. Такія нікі могуць каштаваць на шэрым рынку дзесяткі і сотні тысяч долараў, а некаторыя скрадзеныя акаўнты, паводле даных даследчыкаў, хутка выстаўляліся на продаж у Telegram.
Праблема ўзнікла праз тое, што ШІ-падтрымка Meta атрымала доступ да адчувальных функцый аднаўлення акаўнта. Замест таго каб проста даваць карыстальнікам інструкцыі, бот мог ініцыяваць дзеянні, звязаныя са змяненнем прывязанай пошты і аднаўленнем доступу. У выніку зламыснікам не трэба было ўзломваць унутраныя сістэмы Meta: дастаткова было пераканаць аўтаматызаванага памочніка выканаць патрэбнае дзеянне.
Даследчыкі апісваюць гэты выпадак як прыклад атакі confused deputy. Гэта сітуацыя, калі дапаможная сістэма валодае большымі правамі, чым звычайны карыстальнік, і той, хой атакаваў, прымушае яе выкарыстоўваць гэтыя правы ў сваіх інтарэсах.
Інцыдэнт таксама звязваюць з рызыкамі промпт-ін’екцый. Праблема асабліва небяспечная, калі моўнай мадэлі дазваляюць выконваць незваротныя дзеянні: мяняць дадзеныя акаўнта, запускаць аднаўленне пароля або працаваць з канфідэнцыйнай інфармацыяй.
На думку спецыялістаў па бяспецы, у такіх сцэнарыях павінны быць жорсткія праверкі, якія нельга абысці праз дыялог з ботам. Напрыклад, пацвярджэнне праз ужо прывязаную пошту, правераную прыладу або дадатковае ручное пацвярджэнне. У іншым выпадку ШІ-падтрымка можа стаць не ахоўным механізмам, а кропкай уваходу для зламыснікаў.
Meta пачала разгортваць ШІ-падтрымку для Facebook і Instagram у сакавіку сёлета. Кампанія пазіцыянавала такія інструменты як спосаб хутчэй дапамагаць карыстальнікам з аднаўленнем доступу і пытаннямі бяспекі. Аднак пацярпелыя карыстальнікі расказалі, што пасля крадзяжу акаўнтаў ім было складана хутка звязацца з жывым чалавекам, а стандартныя працэдуры аднаўлення займалі занадта шмат часу.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.