Поисковик Microsoft пропускал детскую порнографию

Согласно исследованию компании AntiToxin Technologies, которая специализируется на интернет-безопасности, поисковый движок Bing не блокирует запрещённые картинки с изображением детей, а в некоторых запросах даже подсказывает ключевые слова, пишет TechCrunch.

AntiToxin проводила исследование с 30 декабря 2018 года по 7 января 2019-го, при этом функция безопасного поиска SafeSearch, которая фильтрует неприемлемый контент (например, порнографию), была выключена. Поиск подобной информации в сети является противозаконным, поэтому исследование велось под строгим наблюдением правоохранителей.

Специалисты AntiToxin обнаружили, что по запросам, связанным с сексуальным насилием над детьми, в выдаче Bing появлялись соответствующие изображения. Кроме того, поисковик предлагал больше «похожих» картинок, а также сомнительные понятия в автозаполнении панели поиска.

Вице-президент Microsoft по Bing и ИИ-продуктам Джорди Рибас назвал результаты исследования «неприемлемыми». Компания незамедлительно исправила проблему и заявила, что будет стремиться не допустить подобных нарушений в дальнейшем. Для борьбы с детской порнографией Microsoft использует сервис распознавания лиц PhotoDNA и задействует модераторов. Но компания отказалась сообщить о их количестве или планах расширить штат.

Несмотря на это специалисты AntiToxin отмечают, по некоторым запросам, связанным с детской порнографией, недопустимые результаты были доступны даже после исправлений Microsoft. Полный отчёт исследователей можно найти здесь.