Война Израиля и ХАМАС продолжается, а соцсети уже проиграли

Начиная с 7 октября журналисты, исследователи и OSINT-эксперты стали проверять поток необработанных видеоматериалов и изображений, которые наводнили интернет. Соцсеть X столкнулась с невиданной волной дезинформации. Хотя все крупные мировые события сегодня сопровождаются потоком фейковой информации, масштаб и скорость, с которой распространялась дезинформация о ближневосточном конфликте, оказалась беспрецедентной.

Известный OSINT-исследователь из Алабамы Джастин Педен заявил о «конце времен». Он заметил, что во время освещения эскалации в Газе в 2021 году источниками выступали люди на местах или надежные информационные агентства. В этот раз, по его словам, проверенный контент или первоисточник было практически невозможно найти в X. «Становится невероятно сложно найти людей, которые действительно живут в Палестине или на юге Израиля», — рассказал исследователь.

Проблемой стала новая система верификации пользователей. Благодаря алгоритму публикации аккаунтов с синей галочкой появляются в верхней части новостных лент. Многие из этих видео и изображений собрали сотни тысяч просмотров. Пользователи выдавали скрины из видеоигры за кадры нападения ХАМАС, а съемку запуска фейерверков — за израильские удары по Газе. Были фейковые фотографии футболиста Роналду с палестинским флагом, видео трехлетней давности о гражданской войне в Сирии представляли как снятое буквально на днях.

Ситуацию усугубил Илон Маск, когда посоветовал пользователям следить за двумя аккаунтами, которые давно распространяют дезинформацию. «Для наблюдения за войной в режиме реального времени хороши @WarMonitors и @sentdefender», — сообщил Маск своим 150 миллионам подписчиков. Именно эти каналы сообщили о взрыве около Белого дома в мае этого года. Оказалось, что фотографию сгенерировала нейросеть, а публикации привели к обвалу фондового рынка в США, прежде чем были опровергнуты. Миллиардер вскоре удалил сообщение, но публикация успела набрать 11 миллионов просмотров.

Эксперты полагают, что распространение дезинформации в X во время конфликта между Израилем и ХАМАС — результат изменений, которые Маск внес в платформу за последний год. Масштабные сокращения персонала коснулись большинства модераторов соцсети, ответственных за борьбу с дезинформацией. Изменения в монетизации привели к тому, что пользователи стали больше делиться сомнительным контентом в погоне за просмотрами и подписчиками. Синяя галочка верификации вводит читателей в заблуждение, которые до сих пор могут считать, что она указывает на проверку владельца аккаунта.

Исследование NewsGuard показало, что аккаунты с синей галочкой стали «суперраспространителями» дезинформации о войне между Израилем и ХАМАС. Аналитики исследовали 250 наиболее популярных сообщений в соцсети за период с 7 по 14 октября, в которых содержалась неверная или непроверенная информация, касающаяся конфликта. За неделю 250 постов получили в совокупности 1 349 979 откликов (включая лайки, репосты, ответы и закладки) и были просмотрены более 100 миллионов раз.В результате анализа оказалось, что 74% сообщений (186 из 250)  принадлежали аккаунтам с синей галочкой.

«Помимо того, что премиум-пользователями создается впечатление, что они заслуживают доверия благодаря синей галочке, платформа алгоритмически повышает их доверие [аудитории]», — заявила NewsGuard. «Хотя точные детали того, как X повышает и понижает рейтинг, не разглашаются и, следовательно, не ясны, анализ NewsGuard предполагает, что это повышение является значительным, если не решающим, для того чтобы заявления стали вирусными», — сказано в исследовании.

Педен уверен, что алгоритмы X оказались очень эффективными в обмане аудитории. Вместо противодействия фейковым публикациям они работают на максимальную вовлеченность пользователей. «Эти изображения ужасны и драматичны, и они хорошо работают. Таким образом, <…> у тех, кто пытается продвигать нарративы, есть стимул поделиться старым видео, снятым много лет назад, просто потому, что людям нравится смотреть на это», — заключает эксперт.

Некоторые из ложных постов были помечены ярлыками системы проверки фактов X Community Notes — краудсорсингового проекта, когда пользователи сами ищут дезинформацию и первоисточники. Однако большинство фейковых сообщений осталось без пояснений. Проверенные публикации тонут под напором троллей, государственной пропаганды и мошенников. Исследователи утверждают, что обнаружили пропагандистскую сеть из 67 аккаунтов, публикующих ложный и подстрекательский контент о войне.

X — не единственная платформа, которая стала источником дезинформации. Большинство ложного контента появилось в соцсети из Telegram. По сути, мессенджер превратился в огромную фабрику дезинформации, а его руководство не торопится менять систему модерации. Основатель сервиса Павел Дуров рассказал, почему руководство платформы не стало удалять канал ХАМАС и другие подобные каналы.

«Ежедневно модераторы Telegram и инструменты искусственного интеллекта удаляют миллионы явно вредных материалов с нашей публичной платформы. Однако решение проблемы освещения военных действий редко бывает очевидным. Ранее на этой неделе ХАМАС перед ракетными ударами по Ашкелону использовал Telegram, чтобы предупредить мирных жителей, что им нужно покинуть район. Поможет ли закрытие этого канала спасти жизни людей или поставит их под угрозу?» — заявил основатель сервиса Павел Дуров.

Конфликт на Ближнем Востоке стал первой проверкой нового Закона о цифровых услугах ЕС (DSA), вступившем в силу в этом году. Европейский комиссар Тьерри Бретон предупредил Meta, что неспособность компании удалить контент, поддерживающий ХАМАС, может привести к нарушению новых правил модерации ЕС. Согласно документу, техногиганты несут ответственность за пользовательский контент и могут быть оштрафованы на сумму более 6% от их годового оборота. Бретон добавил, что Meta должна ответить регулятору в течение 24 часов.

Представитель Meta Энди Стоун оперативно заявил, что компания создала «специальный оперативный центр с экспертами, в том числе свободно говорящими на иврите и арабском языке». По словам Стоуна, команда работает круглосуточно и координирует свои действия со службами фактчекинга в регионе, чтобы ограничить распространение дезинформации. После начала войны Meta удаляет «в семь раз больше материалов» на иврите и арабском языке за нарушения политики своих сервисов, чем за два месяца до этого.

Такое же предупреждение от Бретона пришло и Илону Маску: еврокомиссар напомнил владельцу X, что незаконный контент остается на платформе. Тот попросил Бретона публично отметить нарушающий законы контент в соцсети. Комиссар с раздражением ответил: «Вы хорошо осведомлены о сообщениях ваших пользователей и властей о фейковом контенте и прославлении насилия». «Я до сих пор не понимаю, о чем они говорят!» — отреагировал Маск. ЕС начал официальное расследование в отношении компании.

Объясняться перед Еврокомиссией пришлось генеральному директору соцсети Линде Яккарино. Она заявила, что платформа ответила на более чем 80 запросов об удалении, полученных от ЕС, «в требуемые сроки», а также удалила «сотни» аккаунтов, связанных с ХАМАС. В письме Яккарино подчеркнула, что X использует функцию Community Notes для борьбы с дезинформацией. Таким образом было помечено более 700 публикаций, касающихся конфликта. Однако журналисты выяснили, что функция не способна справиться с объемами дезинформации, и этому препятствует сама соцсеть: на утверждение комментариев волонтеров уходят часы или даже дни, а другие публикации вообще не маркируются.

Наконец, очередь дошла до Youtube и TikTok. Бретон направил письма гендиректору Alphabet Сундару Пичаи и гендиректору TikTok Шу Зи Чу. Представитель Youtube Айви Чой заявил, что сервис удалил «десятки тысяч вредоносных видео и закрыл сотни каналов». «Наши команды круглосуточно работают над отслеживанием вредоносных материалов и сохраняют бдительность, чтобы в случае необходимости быстро принять меры в отношении всех типов контента, включая короткие видео и прямые трансляции», — добавил он. TikTok удалил более 500 тысяч роликов и 8 тысяч трансляций, а также расширил штат модераторов, говорящих на арабском и иврите.

Несмотря на бурное обсуждение проблемы дезинформации на войне и попытки ей противостоять, всплеск фейковых публикаций показал запоздалость принятых мер. Соцсети и регулирующие органы оказались не готовы к волне дезинформации и пропаганды в мировом масштабе. Удаление контента и блокировки аккаунтов происходят тогда, когда ложные и непроверенные сообщения достигли аудитории и повлияли на ее поведение. И дальше будет только хуже — на это намекает еврокомиссар Тьерри Бретон в письме Alphabet.

«Я прошу вас проинформировать мою команду о деталях мер, которые вы приняли для предотвращения любых дипфейков, в том числе в свете предстоящих выборов в Польше, Нидерландах, Литве, Бельгии, Хорватии, Румынии и Австрии, а также выборов в Европейский парламент», — написал он Пичаи. Эксперты предсказывают «цунами фейков» в 2024 году, когда во всему миру пройдет множество предвыборных кампаний.