ChatGPT дапамог выкрыць маштабную кампанію па запалохванні іншадумцаў у адной краіне

Адзін акаўнт, звязаны з кітайскім праваахоўным органам, рэгулярна загружаў у ChatGPT унутраныя справаздачы аб так званых «спецыяльных кіберапераціях», каб рэдагаваць і аналізаваць іх. Гэтыя матэрыялы дазволілі ўбачыць, як уладкавана сістэма сачэння і ціску. Судзячы па змесце справаздачаў, гаворка ідзе пра комплексную і працяглую кампанію па падаўленні іншадумства — як анлайн, так і афлайн, як унутры краіны, так і за яе межамі.

У справаздачах апісваецца маштабная і рэсурсаёмістая інфраструктура аперацыі, якая ўключае сотні супрацоўнікаў, тысячы фэйкавых акаўнтаў у розных сацсетках, а таксама лакальныя кітайскія ШІ-мадэлі. Сярод метадаў — масавае стварэнне і распаўсюд кантэнту, атакі скаргамі на акаўнты дысідэнтаў, падробка дакументаў і нават спробы запалохвання з выкарыстаннем вобразаў амерыканскіх чыноўнікаў.

Асобна OpenAI зафіксавала яшчэ адну актыўнасць, верагодна звязаную з Кітаем: група акаўнтаў запытвала праз ChatGPT інфармацыю аб грамадзянах ЗША, анлайн-форумах і размяшчэнні федэральных будынкаў. Таксама генераваліся лісты нібыта ад ганконгскай кампаніі Nimbus Hub Consulting з запрашэннямі да платных кансультацый для амерыканскіх чыноўнікаў і аналітыкаў. У перапісцы часта спрабавалі перавесці зносіны ў старонія каналы, напрыклад у WhatsApp, Zoom ці Teams.

У адным з выпадкаў карыстальнікі прасілі пакрокавыя інструкцыі па ўсталяванні софту FaceFusion для падмены твараў у рэальным часе. ChatGPT у адказ выдаваў толькі агульнадаступную інфармацыю з адкрытых крыніц і дакументацыі, без якіх-небудзь дадатковых інструкцый.

OpenAI падкрэслівае, што ў яе няма дадзеных аб тым, што ChatGPT выкарыстоўваўся для аўтаматызаваных кібератак. У справаздачы гаворка хутчэй пра аперацыі накшталт прапаганды і махлярскіх схем. У прыватнасці, кампанія апісвае чатыры схаваныя інфармацыйныя кампаніі і тры схемы «рамантычнага» махлярства, дзе ШІ дапамагаў генераваць паведамленні і весці перапіску з ахвярамі.

У цэлым назіраемая карціна супадае з тым, пра што раней казалі і іншыя кампаніі: зламыснікі пакуль выкарыстоўваюць ШІ кропкава, як інструмент для паскарэння асобных задач. Гэта можа быць генерацыя прапаганды, маніторынг сацсетак або паліроўка фішынгавых паведамленняў. ШІ ў такіх выпадках выступае хутчэй узмацняльнікам ужо існуючых працэсаў, а не самастойным інструментам атак.

Таксама падкрэсліваецца, што такія аперацыі рэдка завязаны на адзін інструмент: удзельнікі выкарыстоўваюць адразу некалькі мадэляў. У апісаным выпадку, акрамя ChatGPT, згадваюцца і лакальныя кітайскія сістэмы, такія як DeepSeek. Як адзначаюць у OpenAI, «пагрозы рэдка абмяжоўваюцца адной платформай або адной мадэллю» — розныя інструменты прымяняюцца на розных этапах адной і той жа аперацыі.

Выйшла расследаванне аб софце для сачэння за актывістамі ў сотні краін свету. Яго закупалі беларускія ўлады

Па тэме

Выйшла расследаванне аб софце для сачэння за актывістамі ў сотні краін свету. Яго закупалі беларускія ўлады