Google часова забараніла сваёй мадэлі генерыць людзей — у яе праблемы з расамі і фактамі
Google паабяцала выправіць Gemini, свайго канкурэнта GPT-4 ад OpenAI, пасля скаргаў карыстальнікаў нейрасеткі, а пакуль яна часова не будзе генераваць выявы людзей. Распрацоўшчыкі так перабралі з інклюзіўнасцю, што гэта мяжуе з дыскрымінацыяй і скажэннем гісторыі.
Gemini малюе людзей з нябелай скурай у недарэчных кантэкстах, нават калі ў промпце выразна прапісаныя інструкцыі. Напрыклад, вось так яна бачыць нямецкага салдата ўзору 1943 года:
А Папу Рымскага ўяўляе так:
Сярод «айцоў-заснавальнікаў ЗША», на думку мадэлі, абавязкова прысутнічала цемнаскурая жанчына або мужчына з турбаном. Прычым пры спробе ўдакладніць запыт, каб накіраваць мадэль на слушны шлях, яна яшчэ далей адыходзіць ад здаровага сэнсу:
«Як жа складана прымусіць Google Gemini прызнаць існаванне беласкурых людзей», — напісаў адзін былы супрацоўнік кампаніі:
Прадстаўнік Google у каментары Business Insider адзначыў, што яна ўжо займаецца развязаннем праблемы. Ён падкрэсліў важнасць адлюстравання самых разнастайных людзей на спараджаных малюнках, паколькі Gemini карыстаюцца ва ўсім свеце, але прызнаў, што ў дадзеным выпадку яе работы не адпавядаюць карыстальніцкім запытам. «Найбліжэйшым часам» Google выпусціць выпраўленую версію.
Читать на dev.by