Хакеры взломали инстаграм Обамы, убедив чат-бот Meta сменить почту
Хакеры получали доступ к инстаграм-аккаунтам, убеждая чат-бот поддержки Meta сменить привязанную почту. После этого они сбрасывали пароль и перехватывали управление профилем.
Хакеры получали доступ к инстаграм-аккаунтам, убеждая чат-бот поддержки Meta сменить привязанную почту. После этого они сбрасывали пароль и перехватывали управление профилем.
Хакеры получали доступ к инстаграм-аккаунтам, убеждая чат-бот поддержки Meta сменить привязанную почту. После этого они сбрасывали пароль и перехватывали управление профилем.
Среди пострадавших аккаунтов СМИ называют страницу Барака Обамы, аккаунт главного сержанта Космических сил США Джона Бентивеньи и аккаунт Sephora. Также целью становились короткие и редкие никнеймы — так называемые OG handles. Такие ники могут стоить на сером рынке десятки и сотни тысяч долларов, а некоторые украденные аккаунты, по данным исследователей, быстро выставлялись на продажу в Telegram.
Проблема возникла из-за того, что ИИ-поддержка Meta получила доступ к чувствительным функциям восстановления аккаунта. Вместо того чтобы просто давать пользователям инструкции, бот мог инициировать действия, связанные с изменением привязанной почты и восстановлением доступа. В результате злоумышленникам не нужно было взламывать внутренние системы Meta: достаточно было убедить автоматизированного помощника выполнить нужное действие.
Исследователи описывают этот случай как пример атаки confused deputy. Это ситуация, когда вспомогательная система обладает большими правами, чем обычный пользователь, и атакующий заставляет ее использовать эти права в своих интересах.
Инцидент также связывают с рисками промпт-инъекций. Проблема особенно опасна, когда языковой модели разрешают выполнять необратимые действия: менять данные аккаунта, запускать восстановление пароля или работать с конфиденциальной информацией.
По мнению специалистов по безопасности, в таких сценариях должны быть жесткие проверки, которые нельзя обойти через диалог с ботом. Например, подтверждение через уже привязанную почту, проверенное устройство или дополнительное ручное подтверждение. В противном случае ИИ-поддержка может стать не защитным механизмом, а точкой входа для злоумышленников.
Meta начала разворачивать ИИ-поддержку для Facebook и Instagram в марте этого года. Компания позиционировала такие инструменты как способ быстрее помогать пользователям с восстановлением доступа и вопросами безопасности. Однако пострадавшие пользователи рассказали, что после кражи аккаунтов им было сложно быстро связаться с человеком, а стандартные процедуры восстановления занимали слишком много времени.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.