Новостной AI-редактор Microsoft обвинили в расизме после статьи о расизме
Microsoft недавно заменила часть редакторов, выполнявших подбор новостных материалов для MSN.com, искусственным интеллектом. Как выяснилось, автоматическая система плохо различает людей с небелым цветом кожи, за что подверглась обвинениям в расизме, пишет TechRadar со ссылкой на The Guardian.
AI перепутал двух несветлокожих участниц британской поп-группы Little Mix. В оригинальной статье издания The Independent рассказывалось о том, что над одной из них, Джейд Фёрволл, из-за цвета кожи в детстве сильно издевались сверстники. Но в перепечатанном материале вместо её фотографии оказалось фото другой солистки коллектива Ли-Энн Пиннок.
Фёрволл указала на ошибку в своём Instagram, отметив, что Microsoft следует поработать над алгоритмом. Компания заменила неправильное фото, как только узнала о проблеме.
Стоит отметить, насколько большими «правами» Microsoft наделила AI-систему: искусственному интеллекту разрешено публиковать статьи без предварительной проверки живыми сотрудниками — и без шанса предотвратить подобные конфузы.
До выхода статьи Guardian оставшихся редакторов предупредили, что AI может опубликовать на MSN готовящийся негативный материал издания — они должны были ждать и быть готовыми удалить его, — а также что система может автоматически поставить статью снова. Так и случилось: редакторы оперативно сняли статью Guardian о Little Mix, однако публикации о недоразумении вновь появились на MSN.
Читать на dev.by