Google борется с ИИ-приложениями, которые создают дипфейки-нюдсы

Разработчики должны будут предотвращать создание запрещенного контента, в том числе материалы сексуального характера, изображение насилия и многое другое, а также предлагать пользователям возможность помечать оскорбительный контент. Также Google рассчитывает, что разработчики будут тщательно тестировать свои инструменты и модели для соблюдения безопасности и конфиденциальности пользователей.

Рекомендации были приняти в связи с растущей популярностью приложений для раздевания с использованием ИИ, которые в последние месяцы активно рекламируют в социальных сетях. Одно из приложений использовало в рекламе фотографии Ким Кардашьян и слоган «Раздень любую девушку бесплатно». Google отмечает, что разработчики не могут сообщать в рекламе, что их приложение фактически нарушает какие-либо правила Google Play.

Кроме того, разработчики несут ответственность за защиту своих приложений от подсказок, которые могут манипулировать функциями ИИ для создания вредоносного и оскорбительного контента. Для этого создатели приложений могут проводить закрытые тестирования, чтобы получить отзывы от пользователей. Компания рекомендовала документировать эти тесты, поскольку Google может потребовать их результаты.

Apple и Google удалили приложения из своих магазинов, но проблема по-прежнему широко распространена. TechCrunch отмечает, что с проблемой столкнулись американские школы: ученики стали распространять фальшивые снимки обнаженной натуры других учеников и учителей для травли и домогательств.