Команда разработчиков Unstable Diffusion запустила ИИ-генератор порно

Команда Unstable Diffusion заняла нишу, котораю образовалась после попыток использования других платформ для создания порно. Ранее стартап Stability AI выпустил ИИ-сервис Stable Diffusion, который преобразовывал текст в изображение. Сообщества на Reddit и 4chan использовали систему для создания реалистичных изображений обнаженных персонажей в стиле аниме, а также фейковых изображений знаменитостей в обнаженном виде. Reddit быстро заблокировал и закрыл многие субреддиты, посвященные порнографии с ИИ, другие платформы, например NewGrounds, запретили созданные ИИ произведения.

Создатели Unstable Diffusion запустили кампанию поддержки на Patreon и сейчас собирают более $2500 в месяц от нескольких сотен доноров. «Всего за два месяца наша команда расширилась до более чем 13 человек, а также многих консультантов и модераторов сообщества добровольцев», — рассказал Арман Чаудри, один из членов команды Unstable Diffusion.

Специалисты по этике искусственного интеллекта обеспокоены тем, что модели Unstable Diffusion способны генерировать контент с более высокой реалистичностью, чем большинство других. Созданное таким образом порно может иметь негативные последствия, в том числе для художников и сотрудников порноиндустрии, которые зарабатывают созданием подобного контента. Эксперты отмечают, что использование ИИ может привести к еще более необоснованным ожиданиям от женских тел и сексуального поведения, приведет к нарушениям неприкосновенности частной жизни женщин и авторских прав.

Вице-президент по ответственному ИИ в Mission Control Равит Дотан заявляет, что порно, созданное ИИ, неодинаково влияет на мужчин и на женщин. Например, предыдущее приложение, которое работает на основе ИИ, может «раздевать» людей, но функционирует только на женщинах.

Сейчас модель Unstable Diffusion сгенерировала более 4 375 000 изображений, однако до сих пор команда сталкивается с множеством трудностей: изображения зачастую бывают нереалистичными, с лишними конечностями и гениталиями, слабо похожими на человеческие. Пользователи ресурса обязаны соблюдать правила, которые запрещают детскую порнографию, фейковые изображения и чрезмерное насилие. Юзеры должны отправлять на модерацию изображения, которые генерируют. Также у команды есть свое подразделение модерации.

Еще одна проблема, с которой столкнулась команда сервиса, — это работы авторов, которые использовались для обучения моделей Unstable Diffusion. Ранее разработчики генератора изображений DreamUp использовали произведения платформы DevianArt без ведома авторов. Многие художники не согласились с публикацией сгенерированных изображений, которые имитируют их стили, без справедливого вознаграждения или компенсации.