Gartner: атаки с генеративным ИИ стали мейнстримом
Эксперты Gartner в начале года опросили более 300 руководителей по кибербезопасности из Северной Америки, Европы и Азии об угрозах, которым подверглись их компании за последний год. Данные свидетельствуют о том, что атаки с использованием генеративного ИИ приобрели массовый характер.
Так, почти две трети — 62% — респондентов сообщили об атаках, в которых злоумышленники применяли дипфейки наряду с обманом сотрудников или вмешательством в автоматизированные процессы. Компании 29% опрошенных пережили атаки на корпоративную ИИ-инфраструктуру, 32% — на собственные приложения с генеративным ИИ, в ходе которых хакеры использовали вредоносные промпты.
В Gartner отмечают, что по мере распространения генеративного ИИ его использование для фишинга, создания дипфейков и социальной инженерии уже стало мейнстримом. А вот остальные виды атак, в том числе на инфраструктуру, которая обеспечивает работу ИИ-сервисов, и манипуляции с промптами, чтобы заставить корпоративных чат-ботов выдавать опасные ответы, стали появляться не так давно и набирают обороты.
Читать на dev.by