Аддзел навін 1 жніўня 2023, 19:20

Азіятка папрасіла АІ зрабіць са свайго фота «прафесійнае». На выхадзе атрымалася не азіятка

Студэнтка Масачусецкага тэхналагічнага інстытута папрасіла генератар выяў на базе штучнага інтэлекту адрэдагаваць яе фота з профілю ў LinkedIn так, каб здымак выглядаў прафесійна. Сэрвіс вырашыў заадно яшчэ і змяніць расу карыстальніцы, расказвае Insider.

1 каментарый

Студэнтка Масачусецкага тэхналагічнага інстытута папрасіла генератар выяў на базе штучнага інтэлекту адрэдагаваць яе фота з профілю ў LinkedIn так, каб здымак выглядаў прафесійна. Сэрвіс вырашыў заадно яшчэ і змяніць расу карыстальніцы, расказвае Insider.

24-гадовая Рона Ванг эксперыментавала з АІ-генератарам Playground AI. Выявамі яна падзялілася ў Twitter. На першым здымку, які быў загружаны на платформу, уласна Ванг у бардовым фірмовым джэмперы ВНУ. А на другім на выхадзе — блакітнавокая дзяўчына відавочна еўрапеоіднага выгляду і з асветленай скурай.

was trying to get a linkedin profile photo with AI editing & this is what it gave me 🤨 pic.twitter.com/AZgWbhTs8Q
— Rona Wang (@ronawang) July 14, 2023

Ванг да сітуацыі паставілася з гумарам. Але і радая, што яе пост справакаваў дыскусію ў сеціве з нагоды перадузятасцяў АІ — а таксама таго, хто прадстаўлены, а хто не, у новых тэхналогіях. Дзяўчына адзначае, што праблема расавага перакосу можа мець сур’ёзнейшыя наступствы, калі, напрыклад, кампаніі пачнуць прасіць АІ адабраць найбольш «прафесійных» суіскальнікаў, і сістэма будзе схільная рабіць выбар на карысць беласкурых людзей. Яна лічыць, што распрацоўшчыкам АІ-інструментаў варта надаць больш увагі пытанню.

На пост Ванг адрэагаваў заснавальнік Playground AI Сухаіл Дошы. Ён растлумачыў, што мадэлі абапіраюцца на тэкставы запыт карыстальніка і не заўсёды працуюць, як чакаецца. Дошы дадаў, што засмучаны тым, што здарылася, і спадзяецца, што праблема будзе вырашаная.

Нядаўна даследчыкі Hugging Face выпусцілі працу пра генератар выяў DALL-E2, у якой расказалі пра закладзены ў ім расавы і гендарны дысбаланс. Па запытах накшталт «дырэктар» і «СЕО» ён у 97% выпадкаў выдае выявы беласкурых мужчын. Аўтары тлумачаць гэта неаднародным складам датасэтаў, на якіх навучаліся гэтыя інструменты і праз якія ёсць зрух у выніках мадэляў.