Не секрет, что использование соцсетей тесно сопряжено с риском столкнуться с оскорбительными комментариями и языком ненависти. Компании-разработчики постоянно ищут новые способы борьбы с хейтерами и троллями, теперь и Instagram обратился к следующему логическому шагу: искусственный интеллект, система под названием под названием DeepText, пишет The Next Web.
В прошлом году Instagram представил фильтр ключевых слов, позволяющий автоматически удалять определённые оскорбительные слова из ленты. Инструмент удалял слова, которые пользователи часто отмечали как неприемлемые, а также позволял задавать пользовательские ключевые слова.
Однако борьба с языком ненависти может быть изнурительной главным образом потому, что тролли весьма изобретательны в формулировках.
Новый Al-фильтр пытается обойти эти ограничения: он учится понимать контекст оскорбительной речи и вычислять троллей, даже если они не употребляют заданные ключевые слова. Например, система способна понять, что слово «белый» не может быть оскорбительным как цвет или название, но также может применяться в расистских контекстах.
Instagram также использует DeepText для идентификации спама.
В настоящее время фильтр работает только с английским языком.
Конечно, определение языка ненависти всегда будет вызывать вопросы не только у искусственного интеллекта (люди далеко не всегда хорошо разбираются в его идентификации). Не говоря о том, что есть оскорбительные слова, которые являются омонимами или имеют разные значения в разных контекстах. Однако предполагается, что с течением времени такие системы должны стать более умными.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.