Белорусские разработчики создали TrollBlock — бота-антитролля

Команда белорусских разработчиков создала бота-антитролля TrollBlock. Он блокирует «токсичные» комментарии в сети, защищая пользователей от интернет-буллинга.

Как рассказал dev.by CEO проекта Александр Граблевский, основная цель проекта — помочь людям преодолеть страх выражать свои мысли и идеи в сети.

— Согласно последним исследованиям Microsoft DCI в Республике Беларусь и соседних странах, многие пользователи испытывают проблемы с оскорблениями в сети. Более 65% пользователей сталкивались с комментариями, носящий сексуальный подтекст или прямой харассмент. Сексизм, эйджизм, расизм — все это замыкает людей и является основной причиной отказа оставлять свои комментарии, выражать своё мнение. Поэтому мы решили бороться с этой проблемой.

Реализация проекта началась в феврале на хакатоне в рамках конкурса проектов Social Weekend. Команда программистов уже собрала более миллиона оскорбительных, неприличных комментариев, чтобы научить нейронную сеть распознавать и блокировать «токсичный» контент.

В отличие от крупных компаний (таких как Google, Microsoft), разработчики использовали большой массив данных на русском языке. Помимо защиты от интернет-буллинга TrollBlock облегчает работу модераторов порталов.

— TrollBlock встраивается в систему портала и блокирует «токсичные» сообщения либо отправляет их модератору. Положительные сообщения остаются, то есть модераторам не нужно вручную проверять каждый отдельный пост. В перспективе мы хотим автоматизировать весь процесс — полностью заменить модератора, чтобы нейронная сеть самостоятельно фильтровала весь контент, — отметил Александр Граблевский. Также он добавил, что в ближайшие время команда презентует телеграм-бота, блокирующего «токсичный» контент.

Для дальнейшего развития проекта разработчики ищут инвестиции. Необходимые средства планируется привлечь в Angels BAND или белорусских венчурных фондах.