Чат-бот Grok «раздевает» женщин по запросу в X

Как сообщает 404 Media со ссылкой на исследователя Bellingcat Колину Колтай, пользователи могут просто ответить на публично размещенное фото на X с запросом к Grok «снять с нее одежду». В ответ бот генерирует изображение женщины в бикини или нижнем белье, иногда предоставляя ссылку на чат с Grok, где создается измененное фото.

Grok позиционируется Маском как менее ограниченная альтернатива другим ИИ-моделям, таким как ChatGPT, которые имеют строгие фильтры, запрещающие создание откровенного контента. Эксперт отмечает, что хотя Grok не генерирует полностью обнаженные изображения, его функция «снятия одежды» вызывает серьезные опасения из-за простоты доступа, возможности публичного ответа на оригинальные фото и отсутствия согласия со стороны изображённых людей.

Поиск по X показывает десятки подобных запросов, причем, судя по активности, эта практика впервые стала популярной среди пользователей из Кении в начале мая, о чем также сообщило местное издание Citizen Digital.

Журналисты спросили у чат-бота, есть ли у него механизмы безопасности, такие как фильтры или обучение для предотвращения создания неконсенсуального откровенного контента. Grok ответил, извинившись за «пробел в мерах безопасности» и пообещав пересмотреть политики, чтобы усилить защиту конфиденциальности и согласия. Однако бот продолжает генерировать откровенные изображения.