Генеративные спамеры, использующие ИИ, занимаются массированными атаками на интернет, и эта стратегия оказывается весьма эффективной. Так называемый AI Slop — низкокачественный, но массово производимый ИИ-контент — постепенно вытесняет контент, созданный людьми. 404 Media изучила этот феномен.
Генеративные спамеры, использующие ИИ, занимаются массированными атаками на интернет, и эта стратегия оказывается весьма эффективной. Так называемый AI Slop — низкокачественный, но массово производимый ИИ-контент — постепенно вытесняет контент, созданный людьми. 404 Media изучила этот феномен.
Концепция AI Slop представляет ни что иное, как брутфорс-атаку на алгоритмы, которые управляют интернетом и определяют, что видит большая часть пользователей. Подобно тому, как при атаке злоумышленник пытается угадать пароль путем многократных итераций, создатели AI Slop используют генеративный ИИ для массового производства контента. Их цель — не столько привлечение внимания людей, сколько манипулирование алгоритмами социальных сетей и поисковиков.
Одним из ярких примеров является короткий ролик, сгенерированный ИИ, который изображает превращение странного существа в паука, а затем в кошмарного жирафа внутри торгового центра. Это видео набрало более 362 миллионов просмотров. Подобные ролики могут создаваться за считанные секунды или минуты, а тысячи аккаунтов ежедневно публикуют огромное их количество на различных социальных платформах. Целые сегменты SEO и интернет-рекламы переключились на создание контента с помощью ИИ, что свидетельствует об эффективности данной стратегии.
Основная проблема соцсетей заключается в том, что человеческий контент практически полностью вытесняется ИИ-сгенерированным контентом из-за его колоссального объема. Более того, ИИ-контент легко адаптируется к тому, что в данный момент пользуется популярностью на платформе. Это приводит к почти полному коллапсу информационной экосистемы и, следовательно, «реальности» в сети. Пользователи все чаще теряют способность различать реальное и фейковое, а порой и вовсе перестают об этом задумываться.
@synthetic_pink 😱What’s happening to grandma? 👵🪄🥚🩷 #feverdream #uncannyvalley #weird #eggs #liminalspace #creatures #surrealism ♬ son original — Synthetic_Pink
Существует двойная проблема: интернет не только заполняется низкокачественным контентом, вытесняющим работы реальных людей, но и сам AI Slop развивается гораздо быстрее, чем человеческий контент. Как только алгоритмы социальных сетей претерпевают изменения, ИИ-спамеры быстро находят слабые места и начинают их эксплуатировать. В отличие от людей, которые тратят часы или дни на создание одного видео или статьи, ИИ может генерировать десятки единиц контента за секунды. Это позволяет спамерам не беспокоиться о качестве, поскольку любые метрики платформы могут быть «брутфорсены» за счет количества.
Такая стратегия является осознанным выбором тех, кто зарабатывает на AI Slop. Дэниел Биттон, 17-летний ютьюб-предприниматель, в своих маркетинговых рассылках утверждает, что нет финансового смысла тратить время на создание качественных видео и что гораздо выгоднее производить большое количество коротких ИИ-роликов. Он открыто говорит об «эксплуатации» алгоритмов с помощью простых ИИ-генерированных клипов. Блогер сравнивает социальные сети с голодными людьми у круглосуточного магазина, готовыми «съесть» любой контент, даже низкокачественный, если он доступен в большом количестве.
@cursedcontenttv Oh hai👋 #creepytok #wtfmoments #foundfootage #horrortok #windowcreeper #homeinvasions #intruder #peekaboo #peepingtoms #cursedreels #cursedinstagram #creepygram #wtfvideos ♬ son original — cursedcontenttv
Примечательно, что сами платформы не всегда стремятся бороться с этим явлением, а порой даже поощряют его. Meta, например, активно развивает инструменты на базе генеративного ИИ для рекламодателей, такие как «Advantage+», которые позволяют создавать огромное количество персонализированных рекламных объявлений. Таким образом, платформы сами «брутфорсят» своих пользователей с помощью ИИ-генерированной рекламы, оптимизированной для максимальной эффективности.
Несмотря на миллионы просмотров и комментариев под AI Slop контентом, неясно, действительно ли люди хотят это видеть. Многие комментарии выражают отвращение или раздражение. Стратегия заключается в том, чтобы заставить пользователя задержаться на контенте, вызвать у него реакцию («что за черт?») и тем самым подать алгоритму сигнал о необходимости продвижения подобного контента, даже если это не отражает реальный интерес аудитории.
@bennetwais2 Typical barnyard squatters #fat #mutant #cursed #bodyhorror #aiart #aiartcommunity #aiartwork #aiartist ♬ original sound — Bennett Waisbren
Хотя существует вероятность, что генеративный ИИ принесет ожидаемые улучшения в эффективности работы и прорывы, основным способом взаимодействия большинства людей с ним становится столкновение с массовым интернет-загрязнением. Марк Цукерберг, например, видит будущее социальных сетей в том, что люди будут просматривать и обсуждать генеративный контент на платформах Meta. Цель состоит в создании бесконечной ленты гипернишевого контента, который попадает непосредственно заинтересованным пользователям. Вскоре алгоритмы смогут еще более эффективно таргетировать пользователей, предлагая им ИИ-контент, соответствующий их малейшим интересам и дополняя его соответствующей рекламой.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.