OpenAI заблокировала иранские аккаунты в ChatGPT, генерирующие фейки

Компания заявила, что обнаружила и заблокировала иранскую кампанию, которая использовала чат-бот для создания фейковых новостей и постов в соцсетях.

Оставить комментарий

По данным OpenAI, кампания включала создание контента для пяти сайтов на английском и испанском языках, которые выдавали себя на новостные агентства. Контент касался «поляризующих сообщений» по вопросам президентских выборов в США, прав ЛГБТ и палестино-израильского конфликта.

Также кампания включала десятки аккаунтов в X и Instagram, однако не получила какой-либо значимой поддержки среди пользователей. Большинство сообщений, которые были идентифицированы, либо получили мало лайков, репостов и комментариев, либо вовсе были проигнорированы пользователями.

Расследование группы аккаунтов было проведено на основе отчета Microsoft Threat Intelligence, в котором исследователи назвали группу Storm-2035 — это часть более широкой кампании по влиянию на выборы в США, действующей с 2020 года. Microsoft заявила, что Storm-2035 — иранская сеть с множеством поддельных сайтов.

OpenAI использовала для оценки угроз шкалу Breakout Scale Института Брукингса и присвоила кампании категорию 2 (по шкале от одного до шести). Это означает, что кампания показала активность на нескольких платформах, но не было доказательств того, что реальные люди широко распространяли контент.

OpenAI обновила GPT-4o, но как — не говорит
По теме
OpenAI обновила GPT-4o, но как — не говорит
ChatGPT стонет, кричит и передразнивает пользователей. OpenAI объяснила почему
По теме
ChatGPT стонет, кричит и передразнивает пользователей. OpenAI объяснила почему
OpenAI придумала, как распознать сгенерированный текст. Но технологию никому не покажут
По теме
OpenAI придумала, как распознать сгенерированный текст. Но технологию никому не покажут

Читать на dev.by