Николай Чикишев 19 жніўня 2024, 15:54

OpenAI заблакавала іранскія акаўнты ў ChatGPT, якія генеруюць фэйкі

Кампанія заявіла, што выявіла і заблакавала іранскую кампанію, якая выкарыстоўвала чат-бот для стварэння фэйкавых навін і пастоў у сацсетках.

Пакінуць каментарый

OpenAI заблакавала іранскія акаўнты ў ChatGPT, якія генеруюць фэйкі

Кампанія заявіла, што выявіла і заблакавала іранскую кампанію, якая выкарыстоўвала чат-бот для стварэння фэйкавых навін і пастоў у сацсетках.

Паводле даных OpenAI, кампанія ўключала стварэнне кантэнту для пяці сайтаў на англійскай і іспанскай мовах, якія выдавалі сябе на навінавыя агенцтвы. Кантэнт тычыўся «палярызуючых паведамленняў» у пытаннях прэзідэнцкіх выбараў у ЗША, правоў ЛГБТ і палесціна-ізраільскага канфлікту.

Таксама кампанія ўключала дзясяткі акаўнтаў у X і Instagram, аднак не атрымала аніякай значнай падтрымкі сярод карыстальнікаў. Большасць паведамленняў, якія былі ідэнтыфікаваныя, альбо атрымалі мала лайкаў, рэпостаў і каментароў, альбо зусім былі праігнараваныя карыстальнікамі.

Расследаванне групы акаўнтаў было праведзенае на аснове справаздачы Microsoft Threat Intelligence, у якім даследчыкі назвалі групу Storm-2035 — гэта частка шырэйшай кампаніі па ўплыву на выбары ў ЗША, якая дзейнічае з 2020 года. Microsoft заявіла, што Storm-2035 — іранская сетка са мноствам падробленых сайтаў.

OpenAI выкарыстала для ацэнкі пагроз шкалу Breakout Scale Інстытута Брукінгса і прысвоіла кампаніі катэгорыю 2 (па шкале ад аднаго да шасці). Гэта азначае, што кампанія паказала актыўнасць на некалькіх платформах, але не было доказаў таго, што рэальныя людзі шырока распаўсюджвалі кантэнт.