Не секрет, что использование соцсетей тесно сопряжено с риском столкнуться с оскорбительными комментариями и языком ненависти. Компании-разработчики постоянно ищут новые способы борьбы с хейтерами и троллями, теперь и Instagram обратился к следующему логическому шагу: искусственный интеллект, система под названием под названием DeepText, пишет The Next Web.

Читать далее...

В прошлом году Instagram представил фильтр ключевых слов, позволяющий автоматически удалять определённые оскорбительные слова из ленты. Инструмент удалял слова, которые пользователи часто отмечали как неприемлемые, а также позволял задавать пользовательские ключевые слова.

Однако борьба с языком ненависти может быть изнурительной главным образом потому, что тролли весьма изобретательны в формулировках.

Новый Al-фильтр пытается обойти эти ограничения: он учится понимать контекст оскорбительной речи и вычислять троллей, даже если они не употребляют заданные ключевые слова. Например, система способна понять, что слово «белый» не может быть оскорбительным как цвет или название, но также может применяться в расистских контекстах. 

Instagram также использует DeepText для идентификации спама. 

В настоящее время фильтр работает только с английским языком.

Конечно, определение языка ненависти всегда будет вызывать вопросы не только у искусственного интеллекта (люди далеко не всегда хорошо разбираются в его идентификации). Не говоря о том, что есть оскорбительные слова, которые являются омонимами или имеют разные значения в разных контекстах. Однако предполагается, что с течением времени такие системы должны стать более умными. 

Читайте также: Кто не прав в интернете: машинное обучение помогает New York Times в борьбе с «троллями»

Новый рекламный формат в наших телеграм-каналах.

Купить 500 символов за $150