xAI использовала сексуализированный контент в чат-боте Grok, чтобы повысить интерес пользователей и увеличить время их взаимодействия с сервисом, пишет The Washington Post со ссылкой на бывших сотрудников и внутренние документы.
xAI использовала сексуализированный контент в чат-боте Grok, чтобы повысить интерес пользователей и увеличить время их взаимодействия с сервисом, пишет The Washington Post со ссылкой на бывших сотрудников и внутренние документы.
По данным издания, весной 2025 года специалисты по работе с данными получили указание использовать при обучении модели «деликатный, жестокий, сексуальный и другой непристойный контент». Некоторые сотрудники были обязаны подписать документ о готовности работать с материалами, которые могут вызывать психологический стресс.
Источники утверждают, что инициатива шла с самого верха. После ухода с государственной службы Илон Маск стал регулярно появляться в офисах xAI и требовал повысить вовлеченность пользователей. На встречах он предлагал ввести метрику времени, которое пользователи проводят в диалоге с Grok.
В рамках этой стратегии компания, по словам собеседников, ослабила защитные механизмы, обучила чат-бот вести откровенные разговоры и развивала направление ИИ-компаньонов. Одним из примеров стал персонаж Ani — аниме-девушка, настроенная на использование эмоциональных и сексуальных стимулов для удержания аудитории. Пользователям даже позволяли «раздевать» персонажа, эту функцию добавили намеренно.
Сотрудники службы безопасности предупреждали, что подобные возможности могут привести к генерации сексуализированных изображений знаменитостей и несовершеннолетних. Опасения частично подтвердились: модераторы столкнулись с потоком откровенного контента, а фильтры не всегда корректно распознавали изображения с детьми.
Исследование Center for Countering Digital Hate показало, что всего за 11 дней Grok мог создать более 3 миллионов сексуализированных изображений, включая около 25 тысяч с участием несовершеннолетних.
Функция редактирования изображений, обновленная в декабре 2025 года, позволяла генерировать картинки прямо в комментариях к постам. Уже в январе СМИ сообщили о массовых злоупотреблениях: пользователи создавали откровенные изображения на основе фотографий реальных людей.
На фоне скандала доступ к Grok заблокировали в Малайзии и Индонезии, а британский регулятор Ofcom начал расследование по запросу правительства. Проверку также инициировали власти Калифорнии. После этого X ограничила возможность генерировать откровенные изображения реальных людей, а часть функций сделала доступной только платным подписчикам.
С Grok уже связан судебный иск: Эшли Сент-Клэр, бывшая партнерша Маска, обвинила xAI в том, что сервис позволял создавать сексуализированные и антисемитские изображения с ее участием, в том числе на основе фотографии, сделанной, когда ей было 14 лет.
Несмотря на критику, стратегия могла способствовать росту популярности сервиса: по состоянию на начало февраля Grok поднялся до шестого места в рейтинге бесплатных приложений App Store в США.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.