ИИ помогает работникам подделывать чеки, которые невозможно отличить от настоящих
Компании в США и Великобритании фиксируют рост случаев мошенничества с поддельными чеками, созданными с помощью генеративного ИИ.
Компании в США и Великобритании фиксируют рост случаев мошенничества с поддельными чеками, созданными с помощью генеративного ИИ.
Компании в США и Великобритании фиксируют рост случаев мошенничества с поддельными чеками, созданными с помощью генеративного ИИ.
Если раньше для создания убедительной подделки требовались навыки Photoshop, то теперь достаточно пары минут и текстового запроса. Сервисы, занимающиеся управлением корпоративных выплат, отмечают резкий рост таких случаев после выхода модели GPT-4o.
Финтех-компания Ramp сообщила, что за последние три месяца выявила сгенерированные чеки на сумму свыше $1 миллиона. В AppZen заявили, что около трети всех поддельных документов в их системе были созданы при помощи ИИ, а Expensify фиксирует «сотни» подобных случаев ежемесячно.
Некоторые сотрудники, по словам представителей компаний, заходят слишком далеко% предъявляют чеки из городов, в которых никогда не были. «Раньше для этого нужны были дизайнерские навыки, а сейчас — практически ничего», — отметил один из экспертов, опрошенных Financial Times.
Журналисты, изучившие примеры подделок, отмечают, что они выглядят «поразительно реалистично»: на изображениях видны бумажные прожилки, пятна, отражения света и даже детальные описания покупок. В некоторых случаях ИИ вставлял названия реальных кафе и магазинов, чтобы сделать чек «более достоверным».
Согласно исследованию платформы Medius, 32% финансовых специалистов признались, что не могут отличить поддельный чек от настоящего, а почти столько же одобряли сомнительные документы для возмещения расходов.
Дополнительную сложность создает то, что мошенники фотографируют экран или делают скриншоты чеков, удаляя метаданные, по которым можно было бы определить происхождение изображения.
В ответ на это компании внедряют инструменты на базе все тех же нейросетей — например, AppZen сравнивает данные квитанций с оригинальными счетами поставщиков и анализирует поведение сотрудников, обращая внимание даже на различия в шрифтах.
«Эти чеки стали настолько убедительными, что мы советуем клиентам не доверять своим глазам», — сказал Крис Жюно, старший вице-президент SAP Concur. На Reddit пользователи уже шутят, что надежнее всего подделки делать «по старинке» — с помощью принтера, машинки для печати чеков и Photoshop.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.