Алгоритмы Youtube продвигают видео, которые нарушают правила самой платформы

Таковы результаты исследования, проведенного по инициативе Moxilla Foundation — некоммерческой организации, которая занимается среди прочего разработкой браузера Firefox. Для оценки работы алгоритмов Mozilla наняла более 30 тысяч добровольцев. Те установили в браузеры расширение RegretsReporter — «Отчет о сожалениях». С помощью него пользователи сообщали о роликах, возмутивших их или вызвавших иную негативную реакцию.

Расширение фиксировало «путь», которым алгоритм приводит пользователя к неприятному видео. Например, после просмотра видео об армии США пользователю начали предлагать женоненавистнический ролик под названием «Мужчина унижает феминистку». За период исследования с июля 2020 по мая 2021 года были выявлены 3362 «достойных сожаления» материала из 91 страны. 71% этого контента рекомендовал видеохостинг.

Чаще всего в рекомендованных материалах содержалась дезинформация, жестокий или натуралистичный контент, язык вражды, спам или мошенничество. Впоследствии Youtube удалил 200 роликов как нарушающие правила, но при этом они успели суммарно получить 160 миллионов просмотров.

Вероятность получить метку как нежелательный у рекомендованных роликов была на 40% выше, чем у видео, которое пользователи находили сами через поиск. На рекомендации приходится около 70% просмотров на платформе — это порядка 700 миллионов часов ежедневно.