TechCrunch рассказало о стартапе Unstable Diffusion, который пытается монетизировать модель ИИ-генератора порнографии. Несмотря на высокий интерес пользователей, команде столкнулась с множество технических и этических проблем.
TechCrunch рассказало о стартапе Unstable Diffusion, который пытается монетизировать модель ИИ-генератора порнографии. Несмотря на высокий интерес пользователей, команде столкнулась с множество технических и этических проблем.
Команда Unstable Diffusion заняла нишу, котораю образовалась после попыток использования других платформ для создания порно. Ранее стартап Stability AI выпустил ИИ-сервис Stable Diffusion, который преобразовывал текст в изображение. Сообщества на Reddit и 4chan использовали систему для создания реалистичных изображений обнаженных персонажей в стиле аниме, а также фейковых изображений знаменитостей в обнаженном виде. Reddit быстро заблокировал и закрыл многие субреддиты, посвященные порнографии с ИИ, другие платформы, например NewGrounds, запретили созданные ИИ произведения.
Создатели Unstable Diffusion запустили кампанию поддержки на Patreon и сейчас собирают более $2500 в месяц от нескольких сотен доноров. «Всего за два месяца наша команда расширилась до более чем 13 человек, а также многих консультантов и модераторов сообщества добровольцев», — рассказал Арман Чаудри, один из членов команды Unstable Diffusion.
Специалисты по этике искусственного интеллекта обеспокоены тем, что модели Unstable Diffusion способны генерировать контент с более высокой реалистичностью, чем большинство других. Созданное таким образом порно может иметь негативные последствия, в том числе для художников и сотрудников порноиндустрии, которые зарабатывают созданием подобного контента. Эксперты отмечают, что использование ИИ может привести к еще более необоснованным ожиданиям от женских тел и сексуального поведения, приведет к нарушениям неприкосновенности частной жизни женщин и авторских прав.
Вице-президент по ответственному ИИ в Mission Control Равит Дотан заявляет, что порно, созданное ИИ, неодинаково влияет на мужчин и на женщин. Например, предыдущее приложение, которое работает на основе ИИ, может «раздевать» людей, но функционирует только на женщинах.
Сейчас модель Unstable Diffusion сгенерировала более 4 375 000 изображений, однако до сих пор команда сталкивается с множеством трудностей: изображения зачастую бывают нереалистичными, с лишними конечностями и гениталиями, слабо похожими на человеческие. Пользователи ресурса обязаны соблюдать правила, которые запрещают детскую порнографию, фейковые изображения и чрезмерное насилие. Юзеры должны отправлять на модерацию изображения, которые генерируют. Также у команды есть свое подразделение модерации.
Еще одна проблема, с которой столкнулась команда сервиса, — это работы авторов, которые использовались для обучения моделей Unstable Diffusion. Ранее разработчики генератора изображений DreamUp использовали произведения платформы DevianArt без ведома авторов. Многие художники не согласились с публикацией сгенерированных изображений, которые имитируют их стили, без справедливого вознаграждения или компенсации.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Комментарий скрыт за нарушение правил комментирования.
Грязные деньги.. 🚬🦄
Во времена войн, наркотиков, пыток называть деньги от порно грязными - нонсенс. Либо вы монах, либо не читаете новости.
Я так и не понял в чём проблема. Вместо реальных людей, которые мучаются перед камерой, - модель генерит видосы. Кто там расстроился? Порноиндустрия? У всех остальных наоборот должно быть облегчение - вкалывают роботы, а не человек.
Пользователь отредактировал комментарий 21 ноября 2022, 01:44