Как Facebook (не) справляется с фейками

В начале мая американские сенаторы публично упрекали Facebook в недостаточной борьбе с фейками, которые активно множатся на фоне коронавируса. Досталось сети и за слабый контроль в отношении разжигающих ненависть сообщений. Сенаторы обратились к руководству компании, чтобы узнать, собирается ли социальная сеть ужесточить свою политику.

В официальном письме к руководству компании отмечается, что ситуация станет еще более сложной во время предстоящих президентских выборов в США. Они пройдут 3 ноября 2020 года. 

Что Facebook ответил на обвинения

В своем комментарии BBC Марк Цукерберг заверил, что компания делает все возможное, чтобы избавить сеть от дезинформации. Удаляются в том числе и сообщения известных людей, если они содержат фейки.

К примеру, СЕО Facebook рассказал, что социальная сеть удалила пост президента Бразилии Жаира Болсонару о том, что врачи нашли лекарство от коронавируса. Также из многочисленных групп был удален контент, связывающий появление COVID с распространением сетей 5G. Активным распространителем этой конспирологической теории стал бывший футболист и спортивный комментатор Дэвид Айк. 

Также Цукерберг заявил, что Facebook готов к ближайшим выборам и в состоянии предотвратить иностранное вмешательство в свое информационное пространство. Сейчас, по его словам, компания ведет своеобразную «гонку вооружений» с такими странами как Россия, Китай и Иран. 

Как Facebook вылавливает фейки

Для фактчекинга компания пользуется услугами более 60 организаций, модераторы которых проверяют контент на 50 языках. Как происходит процесс «отлова» фейков?

К примеру, модератор нашёл  в соцсети сообщение, содержащее ложную информацию (при этом процесс требует от специалиста предельного внимания — правдивое сообщение может незначительно отличаться от фейка). Далее модератор либо помечает сообщение специальным предупреждением, либо удаляет его. Однако, как правило, от момента появления фейка в сети до его «поимки» сообщение уже успевают растиражировать в сети — ложную информацию пользователи быстр передают друг другу.

Удалить все копии фейка вручную невозможно — на этом этапе обращаются к AI —  нейросеть должна найти все фейковые сообщения-близнецы. AI  постоянно совершенствуется, однако без участия человека модерирование соцсети невозможно — самостоятельно отделить ложь от правдивой информации нейросеть пока не способна.

Ситуация осложняется не только несовершенством AI, но и временным сокращением штата из-за карантинных мер. Об этом заявил СЕО компании Марк Цукерберг. Дело в том, что в начале пандемии многие аутсорс-компании, которые помогали Facebook модерировать контент, ушли на карантин  — основную работу по модерированию контента поручили штатным сотрудникам Facebook. Команде, работающей в урезанном составе, была дана задача сосредоточиться на наиболее «вредном» контенте — COVID-фейках, детской безопасности, убийствах и сценах насилия и жестокости. 

Марк Цукерберг говорит: «На нашу эффективность определенно повлияла ситуация с COVID — снижение количества занятых модераторов. К сожалению, мы вынуждены будем делать еще больше ошибок, пока не вернемся в прежнее рабочее русло». 

Кто и зачем создает фейковый контент

Рассмотрим на примере. Город Велес в Македонии, который в Югославии был известен своим фарфором, сегодня получил другую славу, — прославился как фабрика фейков. 

С развалом Югославии город пришел в упадок. Производства закрылись, безработица выросла до невероятных масштабов. Старшеклассники и выпускники стали экспериментировать с коммерческими интернет-проектами. 

К примеру, новость WTOE 5 News о том, что Папа римский якобы поддержал миллиардера. Или заметка ConservativeState.com о том, что Хилари Клинтон хотела видеть Трампа в Белом Доме еще в 2013, потому что он «самый честный и его нельзя купить».  Фейковые новости касались не только политики — у американцев также популярны велнесс и ЗОЖ.

Через подставные аккуанты в Facebook фейки публиковали в группах поддержки Трампа. У сообщений набирался приличный трафик. Google монетизировал его по стандартной рекламной схеме. 

В итоге уже после президентских выборов в США некоторые СМИ, иронизируя над ситуацией, писали, что Трампа избрали македонские школьники. 

В материале под названием «Машина по созданию фейков» («The fake news machine») журналисты берут интервью у таких «бизнесменов». Как выяснилось, на распространении лженовостей зарабатывают немало. Так герой статьи, 24-летний бывший студент юридического факультета Николай рассказал, что его доход на такой работе составлял до $2500 в день. При этом у него в подчинении было 15 писателей фейковых новостей. Удивительная сумма для города, где средняя зарплата не превышает $500. 

Некоторые американские СМИ во время прошлой президентской кампании усмотрели в атаках фейками из Македонии следы русских спецслужб.  

Как в Белом доме решили реагировать на фейки 

Дональд Трамп несмотря на то, что в прошлый раз, кажется, получил поддержку македонских фейкмейкеров, решил все же бороться с ложной информацией в сети во время президентской компании. Он заявил, что готовится специальное подразделение для борьбы с фейками. Какие конкретно у него будут полномочия и на базе какого департамента оно будет располагаться, пока неясно. Известно, что созданная Белым домом комиссия будет работать с Федеральной комиссией по выборам и Федеральной комиссией по связям. 

Ранее Дональд Трамп обвинил соцсети в приверженности ультралевому политическому блоку, а также распространении ложной информации об избирательной компании и ее участниках.

Google и Facebook на сообщение не отрегировали. Twitter через издание The Verge заверил аудиторию, что правила соцсети беспристрастны и едины для всех вне зависимости от социальной или политической принадлежности. При этом компания стремиться «улучшить платформу, регулярно общаясь с политическими лидерами».

Затем Twitter впервые пометил несколько сообщений Трампа как «не соответствующие действительности», косвенно дав понять, что фейки распространяет сам президент. К примеру, таким ярлыком соцсеть пометила твит:

Место солидарности беларусского ИТ-комьюнити

Далучайся!