Часть запросов пользователей Microsoft Copilot и загруженных ими изображений проверяют живые люди. По данным 404 Media, этим занимаются сотни подрядчиков, оценивающих, насколько хорошо ИИ выполнил промпт.
Часть запросов пользователей Microsoft Copilot и загруженных ими изображений проверяют живые люди. По данным 404 Media, этим занимаются сотни подрядчиков, оценивающих, насколько хорошо ИИ выполнил промпт.
Издание отмечает, что проблема заключается в том, что среди таких заданий регулярно встречается сексуальный и другой чувствительный контент. Подрядчики рассказывали о запросах укоротить юбку женщины, увеличить грудь, показать больше ног или поместить человека в сексуальную позу. Один из них заявил 404 Media, что лица на исходных фотографиях «всегда остаются незамазанными», а многие запросы носят сексуальный и потенциально несогласованный характер.
При этом работников нанимают не для модерации контента. Их задача — определить, насколько хорошо Copilot выполнил запрос пользователя: соблюдены ли инструкции, не изменены ли лишние детали, нет ли визуальных артефактов и какой из вариантов выглядит лучше. Во внутренних инструкциях Microsoft подрядчикам предлагают в том числе полагаться на собственную интуицию при сравнении изображений.
Некоторые подрядчики жаловались на внутреннем форуме, что сталкиваются с подобными материалами без предупреждения. Среди упомянутых примеров были фотографии, снятые под юбкой без согласия женщины, контент, связанный с расстройствами пищевого поведения, и сексуализированные изображения.
Microsoft в ответ заявила, что использует данные пользователей в соответствии со своими условиями использования, в том числе для улучшения продуктов и соблюдения правил сервиса. Компания при этом не уточнила 404 Media, можно ли полностью исключить загруженные изображения из подобных процедур ручной оценки.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.