Генеративный ИИ угрожает бизнесу: активность мошенников выросла в четыре раза

Одним из самых ярких случаев стал инцидент в британской инженерной компании Arup, где сотрудник финансового отдела на видеозвонке оказался среди дипфейков своих коллег, включая финансового директора. В результате он перевел более $25 миллионов мошенникам.

В апреле этого года несколько американских медицинских клиник сообщили о всплеске заявок от «пациентов», сгенерированных ИИ, которые пытались получить доступ к закрытым базам данных или оформить поддельные страховые выплаты. Сотрудники клиник получали звонки от голосовых дипфейков, имитирующих представителей страховых компаний.

По словам представителей кадровых агентств, фейковые соискатели массово подают заявки на вакансии. Их резюме идеально оформлены, видеоинтервью — синтезированы с помощью генеративных инструментов, а профили в LinkedIn выглядят правдоподобно.

Один из рекрутеров в Чикаго сообщил Business Insider, что случайно пригласил на собеседование кандидата, который «не существует» — его ИИ-аватар был обучен отвечать на вопросы на камеру.

Журналисты издания провели эксперимент с помощью генератора Llama Press и смогли за несколько минут воссоздать поддельный интернет-магазин, полностью копирующий дизайн популярного бренда одежды. Мошенники все чаще создают такие сайты для сбора данных банковских карт под видом сезонных распродаж.

Также один журналист успешно сымитировал голос оператора службы поддержки банка, использовав генератор речи и публично доступные образцы. С этой подделкой он позвонил в отдел поддержки клиента — и получил часть информации по счету, не пройдя полноценную верификацию.

Эксперты считают, что традиционные меры безопасности перестают работать в условиях ИИ-угроз нового поколения. Компаниям предстоит инвестировать в верификационные системы нового уровня и обучать сотрудников не только кибербезопасности, но и распознаванию визуальных и голосовых фейков.