Google извинилась за расизм в своём продукте

В последнее время все больше компаний принялись осваивать технологию распознания лиц: мы уже знаем о китайкой системе платежей по лицу и банкомате из Поднебесной, идентифицирующем владельца карты по лицу. А Google на I/O 2015 анонсировала новое приложение Photos, которое умеет самостоятельно создавать каталоги на основании изображенных объектов и лиц людей для удобного поиска по фото. Вот только алгоритм оказался расистом — пользователи сообщили, что продукт поискового гиганта обзывает темнокожих людей на снимках гориллами, пишет hi-tech.mail.ru.

Читать далее

Очень умный алгоритм определения фотографий, способный узнать Эйфелеву башню без геотегов и даже построить ретроспективу изменения лица одного пользователя сквозь десятилетия, как оказалось, не способен отличить темнокожего человека от обезьяны. Это вызвало волну негативной реакции пользователей, на которую незамедлительно отреагировал менеджер Google, ответственный за Google+ и сопроводительные сервисы. 

Сотрудник Google Джонатан Зангер (Yonathan Zunger) отреагировал на жалобу пользователя в Twitter, заявил, что это громадная ошибка и отверг обвинения в расизме на отдельных рынках. Он также взял вину на себя и заявил, что немедленно приступает к исправлению ситуации. Решение, как и ожидалось, найти не так просто: Google просто удалила тег «Гориллы», чтобы избежать щекотливой ситуации. 

На самом деле, исключение тега из базы данных — временное решение. Google придется серьезно поработать, чтобы научиться распознавать лица более точно, вне зависимости от расовой принадлежности и других факторов. Этот пример наглядно показывает, насколько ещё далеки современные интеллектуальные системы распознавания от идеала.

Напомним, 1 мая компания Microsoft присоединилась к общему веселью распознавания по фотографии, показав сервис оценки возраста и пола в преддверии интеграции Windows Hello в будущую версию своей настольной ОС. Система ужасно угадывала возраст и сносно — пол. Однако если ошибки в сервисе Microsoft вызвали скорее улыбку, то ассоциирование темнокожих людей с гориллами могло стоить Google даже судебного разбирательства.