Команда белорусских разработчиков создала бота-антитролля TrollBlock. Он блокирует «токсичные» комментарии в сети, защищая пользователей от интернет-буллинга.
Как рассказал dev.by CEO проекта Александр Граблевский, основная цель проекта — помочь людям преодолеть страх выражать свои мысли и идеи в сети.
— Согласно последним исследованиям Microsoft DCI в Республике Беларусь и соседних странах, многие пользователи испытывают проблемы с оскорблениями в сети. Более 65% пользователей сталкивались с комментариями, носящий сексуальный подтекст или прямой харассмент. Сексизм, эйджизм, расизм — все это замыкает людей и является основной причиной отказа оставлять свои комментарии, выражать своё мнение. Поэтому мы решили бороться с этой проблемой.
Реализация проекта началась в феврале на хакатоне в рамках конкурса проектов Social Weekend. Команда программистов уже собрала более миллиона оскорбительных, неприличных комментариев, чтобы научить нейронную сеть распознавать и блокировать «токсичный» контент.
В отличие от крупных компаний (таких как Google, Microsoft), разработчики использовали большой массив данных на русском языке. Помимо защиты от интернет-буллинга TrollBlock облегчает работу модераторов порталов.
— TrollBlock встраивается в систему портала и блокирует «токсичные» сообщения либо отправляет их модератору. Положительные сообщения остаются, то есть модераторам не нужно вручную проверять каждый отдельный пост. В перспективе мы хотим автоматизировать весь процесс — полностью заменить модератора, чтобы нейронная сеть самостоятельно фильтровала весь контент, — отметил Александр Граблевский. Также он добавил, что в ближайшие время команда презентует телеграм-бота, блокирующего «токсичный» контент.
Для дальнейшего развития проекта разработчики ищут инвестиции. Необходимые средства планируется привлечь в Angels BAND или белорусских венчурных фондах.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.