Генератыўныя спамеры, што выкарыстоўваюць ШІ, вядуць масіраваныя атакі на інтэрнэт, і гэтая стратэгія аказваецца вельмі эфектыўнай. Так званы AI Slop — нізкаякасны, але масава створаны ШІ-кантэнт — паступова выціскае кантэнт, зроблены людзьмі. 404 Media даследавала гэты феномен.
Генератыўныя спамеры, што выкарыстоўваюць ШІ, вядуць масіраваныя атакі на інтэрнэт, і гэтая стратэгія аказваецца вельмі эфектыўнай. Так званы AI Slop — нізкаякасны, але масава створаны ШІ-кантэнт — паступова выціскае кантэнт, зроблены людзьмі. 404 Media даследавала гэты феномен.
Канцэпцыя AI Slop — гэта не што іншае, як брутфорс-атака на алгарытмы, якія кіруюць інтэрнэтам і вызначаюць, што бачыць большая частка карыстальнікаў. Як зламыснік спрабуе падабраць пароль праз тысячы спроб, так і стваральнікі AI Slop выкарыстоўваюць генератыўны ШІ для масавай вытворчасці кантэнту. Іх мэта — не столькі прыцягнуць увагу людзей, колькі маніпуляваць алгарытмамі сацыяльных сетак і пашукавікаў.
Адным з яркіх прыкладаў стаў кароткі ролік, згенераваны ШІ, які паказвае, як дзіўная істота ператвараецца ў павука, а потым у жудаснага жырафа ўнутры гандлёвага цэнтра. Гэтае відэа набрала больш за 362 мільёны праглядаў. Падобныя ролікі могуць стварацца за секунды або хвіліны, а тысячы акаўнтаў штодня выкладваюць велізарную колькасць такога кантэнту на розных сацыяльных пляцоўках. Цэлыя сектары SEO і інтэрнэт-рэкламы пераключыліся на стварэнне кантэнту з дапамогай ШІ, што сведчыць пра эфектыўнасць гэтай стратэгіі.
Асноўная праблема сацсетак у тым, што чалавечы кантэнт практычна цалкам выціскаецца ШІ-сгенераваным з-за яго каласальнага аб’ёму. Больш за тое, ШІ-кантэнт лёгка адаптуецца да таго, што цяпер у трэндах на платформе. Гэта вядзе да амаль поўнага краху інфармацыйнай экасістэмы і, адпаведна, «рэальнасці» ў сетцы. Карыстальнікі ўсё часцей губляюць здольнасць адрозніваць рэальнае ад фэйкавага, а часам і наогул перастаюць на гэта зважаць.
@synthetic_pink 😱What’s happening to grandma? 👵🪄🥚🩷 #feverdream #uncannyvalley #weird #eggs #liminalspace #creatures #surrealism ♬ son original — Synthetic_Pink
Праблема падвойная: інтэрнэт не толькі запаўняецца нізкаякасным кантэнтам, які выцясняе працу рэальных людзей, але і сам AI Slop развіваецца значна хутчэй за чалавечы кантэнт. Як толькі алгарытмы сацсетак змяняюцца, ШІ-спамеры імгненна знаходзяць слабыя бакі і пачынаюць іх эксплуатаваць. У адрозненне ад людзей, якія марнуюць гадзіны або дні на стварэнне аднаго відэа ці артыкула, ШІ можа генераваць дзясяткі адзінак кантэнту за секунды. Гэта дазваляе спамерам не думаць пра якасць, бо любыя метрыкі платформы могуць быць «брутфорсены» за кошт колькасці.
Такую стратэгію свядома выбіраюць тыя, хто зарабляе на AI Slop. Дэніэл Біттан, 17-гадовы прадпрымальнік з YouTube, у сваіх маркетынгавых рассылках сцвярджае, што фінансава няма сэнсу траціць час на стварэнне якасных відэа і што значна выгадней вырабляць вялікую колькасць кароткіх ШІ-ролікаў. Ён адкрыта кажа пра «эксплуатацыю» алгарытмаў з дапамогай простых генератыўных кліпаў. Блогер параўноўвае сацсеткі з галоднымі людзьмі каля крамы, адкрытай кругласутачна, гатовымі «спажыць» любы кантэнт, нават нізкаякасны, калі яго шмат.
@cursedcontenttv Oh hai👋 #creepytok #wtfmoments #foundfootage #horrortok #windowcreeper #homeinvasions #intruder #peekaboo #peepingtoms #cursedreels #cursedinstagram #creepygram #wtfvideos ♬ son original — cursedcontenttv
Цікава, што самі платформы не заўсёды спяшаюцца змагацца з гэтай з’явай, а часам нават спрыяюць ёй. Meta, напрыклад, актыўна развівае інструменты на базе генератыўнага ШІ для рэкламадаўцаў, такія як «Advantage+», якія дазваляюць ствараць велізарную колькасць персаналізаваных рэкламных аб’яў. Такім чынам, самі платформы «брутфорсяць» сваіх карыстальнікаў праз ШІ-генераваную рэкламу, аптымізаваную для максімальнай эфектыўнасці.
Нягледзячы на мільёны праглядаў і каментарыяў пад AI Slop-кантэнтам, незразумела, ці сапраўды людзі хочуць гэта бачыць. Многія каментары выказваюць агіду або раздражненне. Стратэгія ж у тым, каб прымусіць карыстальніка затрымацца на кантэнце, выклікаць рэакцыю («што за чорт?») і тым самым падаць алгарытму сігнал пра неабходнасць прасоўваць падобны кантэнт, нават калі гэта не адлюстроўвае рэальнай цікавасці аўдыторыі.
@bennetwais2 Typical barnyard squatters #fat #mutant #cursed #bodyhorror #aiart #aiartcommunity #aiartwork #aiartist ♬ original sound — Bennett Waisbren
Хоць ёсць верагоднасць, што генератыўны ШІ прынясе чаканыя паляпшэнні эфектыўнасці працы і прарывы, асноўным спосабам узаемадзеяння большасці людзей з ім становіцца сутыкненне з масавым інтэрнэт-засмечваннем. Марк Цукерберг, напрыклад, бачыць будучыню сацсетак у тым, што людзі будуць праглядаць і абмяркоўваць генератыўны кантэнт на платформах Meta. Мэта — стварыць бясконцую стужку гіпернішаванага кантэнту, які трапляе непасрэдна зацікаўленым карыстальнікам. У хуткім часе алгарытмы змогуць яшчэ больш дакладна таргетаваць карыстальнікаў, падаючы ім ШІ-кантэнт, які адпавядае іх самым дробным інтарэсам, і дапаўняць яго адпаведнай рэкламай.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.