Дапамажыце dev.by 🤍
Падтрымаць

Хакеры ўзламалі інстаграм Абамы, пераканаўшы чат-бот Meta змяніць пошту

Хакеры атакавалі інстаграм-акаўнты, пераконваючы чат-бот падтрымкі Meta змяніць прывязаную пошту. Пасля гэтага яны скідвалі пароль і перахоплівалі кіраванне профілем.

Пакінуць каментарый
Хакеры ўзламалі інстаграм Абамы, пераканаўшы чат-бот Meta змяніць пошту

Хакеры атакавалі інстаграм-акаўнты, пераконваючы чат-бот падтрымкі Meta змяніць прывязаную пошту. Пасля гэтага яны скідвалі пароль і перахоплівалі кіраванне профілем.

Сярод пацярпелых акаўнтаў СМІ называюць старонку Барака Абамы, акаўнт галоўнага сяржанта Касмічных сіл ЗША Джона Бентывень'і ды акаўнт Sephora. Таксама мэтай станавіліся кароткія і рэдкія нікнеймы — так званыя OG handles. Такія нікі могуць каштаваць на шэрым рынку дзесяткі і сотні тысяч долараў, а некаторыя скрадзеныя акаўнты, паводле даных даследчыкаў, хутка выстаўляліся на продаж у Telegram.

Праблема ўзнікла праз тое, што ШІ-падтрымка Meta атрымала доступ да адчувальных функцый аднаўлення акаўнта. Замест таго каб проста даваць карыстальнікам інструкцыі, бот мог ініцыяваць дзеянні, звязаныя са змяненнем прывязанай пошты і аднаўленнем доступу. У выніку зламыснікам не трэба было ўзломваць унутраныя сістэмы Meta: дастаткова было пераканаць аўтаматызаванага памочніка выканаць патрэбнае дзеянне.

Даследчыкі апісваюць гэты выпадак як прыклад атакі confused deputy. Гэта сітуацыя, калі дапаможная сістэма валодае большымі правамі, чым звычайны карыстальнік, і той, хой атакаваў, прымушае яе выкарыстоўваць гэтыя правы ў сваіх інтарэсах.

Інцыдэнт таксама звязваюць з рызыкамі промпт-ін’екцый. Праблема асабліва небяспечная, калі моўнай мадэлі дазваляюць выконваць незваротныя дзеянні: мяняць дадзеныя акаўнта, запускаць аднаўленне пароля або працаваць з канфідэнцыйнай інфармацыяй.

На думку спецыялістаў па бяспецы, у такіх сцэнарыях павінны быць жорсткія праверкі, якія нельга абысці праз дыялог з ботам. Напрыклад, пацвярджэнне праз ужо прывязаную пошту, правераную прыладу або дадатковае ручное пацвярджэнне. У іншым выпадку ШІ-падтрымка можа стаць не ахоўным механізмам, а кропкай уваходу для зламыснікаў.

Meta пачала разгортваць ШІ-падтрымку для Facebook і Instagram у сакавіку сёлета. Кампанія пазіцыянавала такія інструменты як спосаб хутчэй дапамагаць карыстальнікам з аднаўленнем доступу і пытаннямі бяспекі. Аднак пацярпелыя карыстальнікі расказалі, што пасля крадзяжу акаўнтаў ім было складана хутка звязацца з жывым чалавекам, а стандартныя працэдуры аднаўлення займалі занадта шмат часу.

Як вам такое: CEO OpenAI лічыць, што лідары па ўкараненні ІІ «найбольш наймаюць»
Як вам такое: CEO OpenAI лічыць, што лідары па ўкараненні ІІ «найбольш наймаюць»
Па тэме
Як вам такое: CEO OpenAI лічыць, што лідары па ўкараненні ІІ «найбольш наймаюць»
Інжынер прыдумаў як плаціць за ІІ менш: яго інструмент выдаляе да 90% лішніх токенаў
Інжынер прыдумаў, як плаціць за ІІ менш: яго інструмент выдаляе да 90% лішніх токенаў
Па тэме
Інжынер прыдумаў, як плаціць за ІІ менш: яго інструмент выдаляе да 90% лішніх токенаў
Праграмісты прывыклі да ІІ настолькі, што адмаўляюцца кадзіць без яго
Праграмісты прывыклі да ІІ настолькі, што адмаўляюцца кадзіць без яго
Па тэме
Праграмісты прывыклі да ІІ настолькі, што адмаўляюцца кадзіць без яго

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.