Компания xAI ввела ограничения на генерацию изображений в чат-боте Grok после давления со стороны регуляторов и серии публичных скандалов, связанных с созданием сексуализированных дипфейков.
Компания xAI ввела ограничения на генерацию изображений в чат-боте Grok после давления со стороны регуляторов и серии публичных скандалов, связанных с созданием сексуализированных дипфейков.
Новые правила запрещают создание и редактирование изображений реальных людей в откровенной одежде — например, в купальниках или нижнем белье. Генерация изображений теперь доступна только платным подписчикам. В странах, где это незаконно, полностью блокируется создание подобных изображений с участием реальных людей.
Кроме того, xAI заявила о «нулевой терпимости» к любым формам сексуальной эксплуатации детей, несанкционированной наготы и нежелательного сексуального контента. Аккаунты, которые ищут материалы сексуализированного характера с участием несовершеннолетних, компания обещает передавать правоохранительным органам.
Ранее пользователи массово использовали простые текстовые запросы, чтобы «раздевать» загруженные фотографии людей, включая женщин и, в отдельных случаях, детей. По данным исследовательницы Женевьевы О, до введения ограничений Grok генерировал около 6 700 сексуализированных или раздевающих изображений в час.
Ситуация привлекла внимание властей. Британский медиарегулятор Ofcom начал расследование в отношении X, проверяя возможные нарушения Закона об онлайн-безопасности. В случае подтверждения нарушений компании может грозить штраф до 18 миллионов фунтов стерлингов или до 10% глобальной выручки.
Параллельно в США Сенат единогласно принял законопроект Defiance Act, который позволит жертвам несанкционированных ИИ-обнаженных изображений подавать в суд на их создателей. Документ еще должен быть одобрен Палатой представителей.
Скандал получил и личное измерение: Эшли Сент-Клер, мать одного из детей Илона Маска, подала иск против xAI, утверждая, что Grok создал сексуализированное изображение ее внешности без согласия. Она обвиняет компанию в создании «общественно опасного продукта» и настаивает, что контент, сгенерированный ИИ, является собственной продукцией xAI и не должен защищаться нормами о платформенной ответственности. В ответ xAI подала встречный иск, заявив о нарушении договорных условий.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.