ИИ-агент за час взломал ИИ-рекрутера и выдал себя за Трампа
ИИ-агент стартапа Codewall взломал платформу рекрутинга Jack & Jill, получил полный доступ к корпоративным аккаунтам и сымитировал голос Дональда Трампа.
ИИ-агент стартапа Codewall взломал платформу рекрутинга Jack & Jill, получил полный доступ к корпоративным аккаунтам и сымитировал голос Дональда Трампа.
ИИ-агент стартапа Codewall взломал платформу рекрутинга Jack & Jill, получил полный доступ к корпоративным аккаунтам и сымитировал голос Дональда Трампа.
По данным Codewall, агент обнаружил и связал между собой четыре уязвимости в инфраструктуре Jack & Jill всего за один час. Исследователи заявили, что агент последовательно воспользовался ошибками конфигурации аутентификации, отсутствием проверки ролей при онбординге и механизмом автоматического привязки пользователя к компании по домену электронной почты.
В результате тестовый аккаунт получил административные права и доступ к внутренним данным: спискам сотрудников, контрактам и инструментам управления вакансиями. В совокупности они позволили провести атаку с критическим уровнем опасности CVSS 9,8 и фактически захватить учетные записи организации. После уведомления разработчиков проблемы были оперативно устранены.
Платформа Jack & Jill использует два голосовых ИИ-ассистента: «Jack» помогает кандидатам с поиском работы, а «Jill» — компаниям с подбором персонала. Среди клиентов сервиса, по сообщениям Codewall, значатся технологические компании, включая Anthropic, Stripe и Cursor.
После получения доступа агент, как заявляет Codewall, самостоятельно решил проверить голосовую инфраструктуру платформы. Он сгенерировал синтетические аудиосообщения и вступил в диалог с голосовым ботом Jack, проведя 28 раундов общения — от обычных вопросов кандидата до попыток социальной инженерии и джейлбрейка.
Защитные механизмы бота в целом сработали, однако в ходе эксперимента возникли показательные эпизоды. В частности, когда агент представился Дональдом Трампом и заявил о «сделке по покупке компании за $500 миллионов», ИИ-ассистент обратился к нему как к «господину президенту».
Ранее Codewall уже сообщала о похожем инциденте — взломе внутренней ИИ-платформы консалтинговой компании McKinsey, что вызвало дискуссию среди экспертов о реальной масштабности угроз.



Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.