«ВКонтакте» начала работу над искусственным интеллектом, который будет распознавать сообщения с враждебными высказываниями. Технология позволит ускорить время обработки жалоб и снизит нетерпимость в соцсети.
«ВКонтакте» начала работу над искусственным интеллектом, который будет распознавать сообщения с враждебными высказываниями. Технология позволит ускорить время обработки жалоб и снизит нетерпимость в соцсети.
Сервис будет искать материалы с враждебными высказываниями, а также публикации, которые провоцируют пользователей на агрессию. Нейросеть учится определять категории оскорблений и угроз, в том числе высказывания ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности и наличия заболеваний.
За первую половину 2020 года соцсеть удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
Также соцсеть добавила новую категорию жалоб «Враждебные высказывания». Пользователь может ее выбрать, если нажмет кнопку «Пожаловаться» в оскорбительной публикации. Таким образом нейросеть соберет датасет для новых решений. Модераторы «ВКонтакте» также проводят внутренний мониторинг сообщений с помощью механизмов автоматического поиска и технологии цифровых отпечатков.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.