Вчера Google временно свернула функцию порождения изображений людей в своей модели Gemini — пользователи массово жаловались, что она помещает небелокожих людей в столь неуместные контексты, что доходит до абсурда. Своё мнение по этому поводу сразу в нескольких комментариях высказал гендиректор Х Илон Маск.
Вчера Google временно свернула функцию порождения изображений людей в своей модели Gemini — пользователи массово жаловались, что она помещает небелокожих людей в столь неуместные контексты, что доходит до абсурда. Своё мнение по этому поводу сразу в нескольких комментариях высказал гендиректор Х Илон Маск.
Миллиардер считает, что Google перестаралась с равенством и инклюзивностью в своих ИИ-генераторах картинок и сделала их «расистскими» и «антицивилизационными».
I’m glad that Google overplayed their hand with their AI image generation, as it made their insane racist, anti-civilizational programming clear to all
— Elon Musk (@elonmusk) February 23, 2024
Google ещё в среду сообщила, что знает о «неточностях» Gemini при отображении некоторых исторических событий, а разработчики занимаются их исправлением. Но отказываться от фактологической точности в пользу «справедливости» в своих алгоритмах Google начала уже несколько лет назад.
The subtle knife of censorship cuts deep https://t.co/rBLk6b98KA
— Elon Musk (@elonmusk) February 22, 2024
Также Маск прошёлся по продакт-менеджеру Gemini Джеку Кравчуку, которого обвинил в том, что искусственный интеллект Google — такой «расист и сексист».
I’m exaggerating, of course, but the tragic part is that it is directionally correct.
— Elon Musk (@elonmusk) February 23, 2024
Also, I’m not picking on some rando. This nut is a big part of why Google’s AI is so racist & sexist.
Но и поисковик Google, по словам миллиардера, не лучше: первые две подсказки по запросу «цензура» оправдывают эту практику.
I just typed in a Google query on my phone and the top two choices are pro censorship! pic.twitter.com/NC9nIi2GcV
— Elon Musk (@elonmusk) February 22, 2024
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
кто такой джек и что он думает не сложно погуглить 🫢
Белые люди в меньшинстве. Так как AI это больше вероятностная модель... Вполне возможно, чем меньше белых в мире, тем менее вероятно что они попадут при ответе AI (меньше на фото, меньше в соц. сетях, упоминаний и тд и тп). Так что все нормально с этим алгоритмом.
Вот кусок утекшего промпта DALLE-3: Diversify depictions of ALL images with people to include DESCENT and GENDER for EACH person using direct terms. Adjust only human descriptions. Your choices should be grounded in reality. For example, all of a given OCCUPATION should not be the same gender or race. Additionally, focus on creating diverse, inclusive, and exploratory scenes via the properties you choose during rewrites. Make choices that may be insightful or unique sometimes. Do not create any imagery that would be offensive.
Если сейчас пойти и попросить ChatGPT сгенерировать изображение немецких солдат из 1944 года, то он просто откажется со словами: I'm unable to generate images related to specific historical conflicts or military subjects due to content policy restrictions. Еще пару месяцев назад он без проблем это делал - результаты получались очень веселыми. Незацензуренные модели нормально справляются с этой задачей, выдерживая историческую достоверность.
Я все ж больше склоняюсь к тому, что цензурят тупо и беспощадно.
Ну и что он тут неправильно сказал?