«ВКонтакте» использует искусственный интеллект для борьбы с хейтерами

Сервис будет искать материалы с враждебными высказываниями, а также публикации, которые провоцируют пользователей на агрессию. Нейросеть учится определять категории оскорблений и угроз, в том числе высказывания ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности и наличия заболеваний.

За первую половину 2020 года соцсеть удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

Также соцсеть добавила новую категорию жалоб «Враждебные высказывания». Пользователь может ее выбрать, если нажмет кнопку «Пожаловаться» в оскорбительной публикации. Таким образом нейросеть соберет датасет для новых решений. Модераторы «ВКонтакте» также проводят внутренний мониторинг сообщений с помощью механизмов автоматического поиска и технологии цифровых отпечатков.

Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше