Отдел новостей 30 июня 2017, 10:13

Instagram подключил машинное обучение к борьбе с «троллями» и «хейтерами»

Не секрет, что использование соцсетей тесно сопряжено с риском столкнуться с оскорбительными комментариями и языком ненависти. Компании-разработчики постоянно ищут новые способы борьбы с хейтерами и троллями, теперь и Instagram обратился к следующему логическому шагу: искусственный интеллект, система под названием под названием DeepText, пишет The Next Web.

В прошлом году Instagram представил фильтр ключевых слов, позволяющий автоматически удалять определённые оскорбительные слова из ленты. Инструмент удалял слова, которые пользователи часто отмечали как неприемлемые, а также позволял задавать пользовательские ключевые слова.

Однако борьба с языком ненависти может быть изнурительной главным образом потому, что тролли весьма изобретательны в формулировках.

Новый Al-фильтр пытается обойти эти ограничения: он учится понимать контекст оскорбительной речи и вычислять троллей, даже если они не употребляют заданные ключевые слова. Например, система способна понять, что слово «белый» не может быть оскорбительным как цвет или название, но также может применяться в расистских контекстах.

Instagram также использует DeepText для идентификации спама.

В настоящее время фильтр работает только с английским языком.

Конечно, определение языка ненависти всегда будет вызывать вопросы не только у искусственного интеллекта (люди далеко не всегда хорошо разбираются в его идентификации). Не говоря о том, что есть оскорбительные слова, которые являются омонимами или имеют разные значения в разных контекстах. Однако предполагается, что с течением времени такие системы должны стать более умными.