Команда разработчиков Unstable Diffusion запустила ИИ-генератор порно

TechCrunch рассказало о стартапе Unstable Diffusion, который пытается монетизировать модель ИИ-генератора порнографии. Несмотря на высокий интерес пользователей, команде столкнулась с множество технических и этических проблем.

4 комментария
Команда разработчиков Unstable Diffusion запустила ИИ-генератор порно

TechCrunch рассказало о стартапе Unstable Diffusion, который пытается монетизировать модель ИИ-генератора порнографии. Несмотря на высокий интерес пользователей, команде столкнулась с множество технических и этических проблем.

Команда Unstable Diffusion заняла нишу, котораю образовалась после попыток использования других платформ для создания порно. Ранее стартап Stability AI выпустил ИИ-сервис Stable Diffusion, который преобразовывал текст в изображение. Сообщества на Reddit и 4chan использовали систему для создания реалистичных изображений обнаженных персонажей в стиле аниме, а также фейковых изображений знаменитостей в обнаженном виде. Reddit быстро заблокировал и закрыл многие субреддиты, посвященные порнографии с ИИ, другие платформы, например NewGrounds, запретили созданные ИИ произведения.

Создатели Unstable Diffusion запустили кампанию поддержки на Patreon и сейчас собирают более $2500 в месяц от нескольких сотен доноров. «Всего за два месяца наша команда расширилась до более чем 13 человек, а также многих консультантов и модераторов сообщества добровольцев», — рассказал Арман Чаудри, один из членов команды Unstable Diffusion.

Специалисты по этике искусственного интеллекта обеспокоены тем, что модели Unstable Diffusion способны генерировать контент с более высокой реалистичностью, чем большинство других. Созданное таким образом порно может иметь негативные последствия, в том числе для художников и сотрудников порноиндустрии, которые зарабатывают созданием подобного контента. Эксперты отмечают, что использование ИИ может привести к еще более необоснованным ожиданиям от женских тел и сексуального поведения, приведет к нарушениям неприкосновенности частной жизни женщин и авторских прав.

Вице-президент по ответственному ИИ в Mission Control Равит Дотан заявляет, что порно, созданное ИИ, неодинаково влияет на мужчин и на женщин. Например, предыдущее приложение, которое работает на основе ИИ, может «раздевать» людей, но функционирует только на женщинах.

Сейчас модель Unstable Diffusion сгенерировала более 4 375 000 изображений, однако до сих пор команда сталкивается с множеством трудностей: изображения зачастую бывают нереалистичными, с лишними конечностями и гениталиями, слабо похожими на человеческие. Пользователи ресурса обязаны соблюдать правила, которые запрещают детскую порнографию, фейковые изображения и чрезмерное насилие. Юзеры должны отправлять на модерацию изображения, которые генерируют. Также у команды есть свое подразделение модерации.

Еще одна проблема, с которой столкнулась команда сервиса, — это работы авторов, которые использовались для обучения моделей Unstable Diffusion. Ранее разработчики генератора изображений DreamUp использовали произведения платформы DevianArt без ведома авторов. Многие художники не согласились с публикацией сгенерированных изображений, которые имитируют их стили, без справедливого вознаграждения или компенсации.

Twitter хотел сделать аналог OnlyFans, но помешали детское порно и слабая модерация
Twitter хотел сделать аналог OnlyFans, но помешали детское порно и слабая модерация
По теме
Twitter хотел сделать аналог OnlyFans, но помешали детское порно и слабая модерация
Китайские ученые заявили что создали «устройство для чтения мыслей» которое знает о просмотре порно
Китайские ученые заявили, что создали «устройство для чтения мыслей», которое знает о просмотре порно
По теме
Китайские ученые заявили, что создали «устройство для чтения мыслей», которое знает о просмотре порно
Фотобанк Shutterstock будет продавать изображения сгенерированные DALL-E 2
Фотобанк Shutterstock будет продавать изображения, сгенерированные DALL-E 2
По теме
Фотобанк Shutterstock будет продавать изображения, сгенерированные DALL-E 2
Как и зачем определять свои жизненные ценности?

Карьерный коуч из Google делится в блогах ключом к пониманию себя.

Подписывайтесь на «Что к чему» —
анамнез и главные симптомы беларуского ИТ.
Цифры, графика, ничего лишнего. Выходит раз в 2 недели.
Спасибо! На указанный адрес отправлено письмо для подтверждения подписки.
Читайте также
Профессии будущего со скидкой 75% от Udacity: разработка роботов, дронов и робомобилей
Профессии будущего со скидкой 75% от Udacity: разработка роботов, дронов и робомобилей
Профессии будущего со скидкой 75% от Udacity: разработка роботов, дронов и робомобилей
Искусственный интеллект уже стал повседневностью: голосовой помощник включает музыку, робот-пылесос сканирует пространство и убирает квартиру, алгоритм ранжирования настраивает ленту в TikTok, а беспилотные такси уже свободно курсируют по городам. Получить профессию в сфере ИИ с зарплатой от $100k в год тоже стало проще — собрали 5 интересных курсов от Udacity. 
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Twitter хотел сделать аналог OnlyFans, но помешали детское порно и слабая модерация
Twitter хотел сделать аналог OnlyFans, но помешали детское порно и слабая модерация
Twitter хотел сделать аналог OnlyFans, но помешали детское порно и слабая модерация

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

0

Результат то хоть отличим от кадров из Сайлент Хилла, где растущая из шеи нога - это норма?
А то от подобного можно и сердечный приступ схватить:
https://techcrunch.com/wp-content/uploads/2022/08/Haje_a_man_dances_as_if_prozac_was_a_cloud_of_laughter_89fb494f-ffa1-477b-8d5f-60bdb73df774.png.png

Пользователь отредактировал комментарий 18 ноября 2022, 16:01

neinmonarch
neinmonarch dev в IT company
0

Грязные деньги.. 🚬🦄

-1

Во времена войн, наркотиков, пыток называть деньги от порно грязными - нонсенс. Либо вы монах, либо не читаете новости.

-2

Я так и не понял в чём проблема. Вместо реальных людей, которые мучаются перед камерой, - модель генерит видосы. Кто там расстроился? Порноиндустрия? У всех остальных наоборот должно быть облегчение - вкалывают роботы, а не человек.

Пользователь отредактировал комментарий 21 ноября 2022, 01:44