Отдел новостей 1 августа 2023, 19:20

Азиатка попросила ИИ сделать из своего фото «профессиональное». На выходе получилась не азиатка

Студентка Массачусетского технологического института попросила генератор картинок на базе искусственного интеллекта отредактировать её фото из профиля в LinkedIn так, чтобы снимок выглядел профессионально. Сервис решил заодно ещё и сменить расу пользовательницы, рассказывает Insider.

1 комментарий

Студентка Массачусетского технологического института попросила генератор картинок на базе искусственного интеллекта отредактировать её фото из профиля в LinkedIn так, чтобы снимок выглядел профессионально. Сервис решил заодно ещё и сменить расу пользовательницы, рассказывает Insider.

24-летняя Рона Ванг экспериментировала с ИИ-генератором Playground AI. Изображениями она поделилась в Twitter. На первом собственно Ванг в бордовом фирменном джемпере вуза, который был загружен на платформу. А на втором на выходе — голубоглазая девушка явно европеоидной внешности и с осветлённой кожей.

was trying to get a linkedin profile photo with AI editing & this is what it gave me 🤨 pic.twitter.com/AZgWbhTs8Q
— Rona Wang (@ronawang) July 14, 2023

Ванг к ситуации отнеслась с юмором. Но и рада, что её пост спровоцировал дискуссию в сети по поводу предвзятостей ИИ — а также того, кто представлен, а кто нет, в новых технологиях. Девушка отмечает, что проблема расового перекоса может иметь более серьёзные последствия, если, например, компании начнут просить ИИ отобрать наиболее «профессиональных» соискателей, и система будет склонна делать выбор в пользу белокожих людей. Она считает, что разработчикам ИИ-инструментов следует уделить больше внимания вопросу.

На пост Ванг отреагировал основатель Playground AI Сухаил Доши. Он пояснил, что модели опираются на текстовый запрос пользователя и не всегда работают, как ожидается. Доши добавил, что расстроен случившимся и надеется, что проблема будет решена.

Недавно исследователи Hugging Face выпустили работу о генераторе картинок DALL-E2, в которой рассказали о заложенном в нём расовом и гендерном дисбалансе. По запросам типа «директор» и «СЕО» он в 97% случаев выдают изображения белокожих мужчин. Авторы объясняют это неоднородным составом датасетов, на которых обучались эти инструменты и из-за которых есть сдвиг в результатах моделей.