Кампаніі ў розных сферах сутыкаюцца з нарастаючай пагрозай: генератыўны ШІ становіцца інструментам махляроў, якія маскіруюцца пад супрацоўнікаў, рэкрутараў і прадаўцоў. З ростам папулярнасці ШІ колькасць падобных атак вырасла ў чатыры разы за апошні год, паводле дадзеных платформы Chainabuse.
Кампаніі ў розных сферах сутыкаюцца з нарастаючай пагрозай: генератыўны ШІ становіцца інструментам махляроў, якія маскіруюцца пад супрацоўнікаў, рэкрутараў і прадаўцоў. З ростам папулярнасці ШІ колькасць падобных атак вырасла ў чатыры разы за апошні год, паводле дадзеных платформы Chainabuse.
Адным з самых яркіх выпадкаў стаў інцыдэнт у брытанскай інжынернай кампаніі Arup, дзе супрацоўнік фінансавага аддзела на відэазванку апынуўся сярод дыпфэйкаў сваіх калег, уключаючы фінансавага дырэктара. У выніку ён пераслаў больш за $25 мільёнаў махлярам.
У красавіку гэтага года некалькі амерыканскіх медыцынскіх клінік паведамілі пра ўсплёск заявак ад «пацыентаў», згенераваных ШІ, якія спрабавалі атрымаць доступ да закрытых баз дадзеных ці аформіць падробленыя страхавыя выплаты. Супрацоўнікі клінік атрымлівалі званкі ад галасавых дыпфэйкаў, якія імітавалі прадстаўнікоў страхавых кампаній.
Паводле прадстаўнікоў кадравых агенцтваў, фэйкавыя саіскальнікі масава падаюць заяўкі на вакансіі. Іх рэзюмэ ідэальна аформленыя, відэаінтэрв’ю — сінтэзаваныя з дапамогай генератыўных інструментаў, а профілі ў LinkedIn выглядаюць праўдападобна.
Адзін з рэкрутараў у Чыкага паведаміў Business Insider, што выпадкова запрасіў на сумоўе кандыдата, які «не існуе» — яго ШІ-аватар быў навучаны адказваць на пытанні на камеру.
Журналісты выдання правялі эксперымент з дапамогай генератара Llama Press і змаглі за некалькі хвілін стварыць падробную інтэрнэт-краму, якая цалкам капіруе дызайн папулярнага брэнда адзення. Махляры ўсё часцей ствараюць такія сайты для збору дадзеных банкаўскіх картак пад выглядам сезонных распродажаў.
Таксама адзін журналіст паспяхова сымітаваў голас аператара службы падтрымкі банка, выкарыстаўшы генератар маўлення і публічна даступныя ўзоры. З гэтай падробкай ён патэлефанаваў у аддзел падтрымкі кліента — і атрымаў частку інфармацыі па рахунку, не прайшоўшы паўнавартасную верыфікацыю.
Эксперты лічаць, што традыцыйныя меры бяспекі перастаюць працаваць ва ўмовах ШІ-пагрозаў новага пакалення. Кампаніям давядзецца інвеставаць у верыфікацыйныя сістэмы новага ўзроўню і навучаць супрацоўнікаў не толькі кібербяспецы, але і распазнаванню візуальных і галасавых фэйкаў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.