OpenAI рассказала, как мошенники разводят людей с помощью ChatGPT

Одна из мошеннических схем, названная «Wrong Number», использовала ChatGPT для создания многоязычных сообщений о найме. Жертвам обещали более $5 за лайки в социальных сетях — сумма, значительно превышающая рыночные ставки, где тысяча лайков могут стоить менее $10.

Схема работала в три этапа: привлечение жертв завышенными предложениями, укрепление доверия с помощью поддельных отзывов и небольших выплат, а затем требование денег за якобы вступительные взносы или криптовалютные платежи. Эта операция была обнаружена случайно, когда один из исследователей OpenAI получил сообщение по SMS, в котором предлагалось продолжить общение через WhatsApp и Telegram.

OpenAI также пресекла российскую кампанию влияния под кодовым названием «Operation Helgoland Bite», нацеленную на федеральные выборы в Германии 2025 года. Через телеграм-канал «Nachhall von Helgoland» и аккаунт на X с более чем 27 000 подписчиков распространялся контент на немецком языке, созданный с помощью ChatGPT.

Публикации критиковали США и НАТО, продвигая правопопулистскую партию «Альтернатива для Германии» (AfD). ChatGPT также использовался для изучения немецких оппозиционных активистов и перевода российской пропаганды на немецкий. OpenAI отметила, что охват кампании был ограниченным.

Китайские операции включали несколько кампаний. «Sneer Review» публиковала комментарии в TikTok и X по геополитическим темам, чтобы дискредитировать критиков Китая. Операция «VAGue Focus» использовала поддельные медиааккаунты для сбора информации, а «Uncle Spam» распространяла противоречивые заявления о политике США, например, о торговой политике, используя сгенерированные ИИ изображения профилей, изображающих ветеранов.