OpenAI заблокировала иранские аккаунты в ChatGPT, генерирующие фейки
Компания заявила, что обнаружила и заблокировала иранскую кампанию, которая использовала чат-бот для создания фейковых новостей и постов в соцсетях.
По данным OpenAI, кампания включала создание контента для пяти сайтов на английском и испанском языках, которые выдавали себя на новостные агентства. Контент касался «поляризующих сообщений» по вопросам президентских выборов в США, прав ЛГБТ и палестино-израильского конфликта.
Также кампания включала десятки аккаунтов в X и Instagram, однако не получила какой-либо значимой поддержки среди пользователей. Большинство сообщений, которые были идентифицированы, либо получили мало лайков, репостов и комментариев, либо вовсе были проигнорированы пользователями.
Расследование группы аккаунтов было проведено на основе отчета Microsoft Threat Intelligence, в котором исследователи назвали группу Storm-2035 — это часть более широкой кампании по влиянию на выборы в США, действующей с 2020 года. Microsoft заявила, что Storm-2035 — иранская сеть с множеством поддельных сайтов.
OpenAI использовала для оценки угроз шкалу Breakout Scale Института Брукингса и присвоила кампании категорию 2 (по шкале от одного до шести). Это означает, что кампания показала активность на нескольких платформах, но не было доказательств того, что реальные люди широко распространяли контент.
Читать на dev.by