Чат-бот Маска выложил в сеть 370 000 переписок пользователей

Журналисты Forbes обнаружили, что каждый раз, когда пользователь нажимает на кнопку «поделиться» в приложении Grok, система создает уникальную ссылку для отправки по почте, мессенджерам или соцсетям. Однако эти ссылки автоматически индексируются Google, Bing и DuckDuckGo. В результате в открытом доступе оказались более 370 000 разговоров, включая загрузки файлов, таблиц и изображений.

Анализ опубликованных чатов показал, что пользователи нередко обращались к Grok с опасными или компрометирующими запросами. Пользователи искали инструкции по взлому криптокошельков, советы по производству наркотиков, включая метамфетамин и фентанил, способы суицида, пошаговые схемы по созданию бомб и даже подробный план покушения на Илона Маска.

Помимо этого, в открытый доступ попали интимные переписки, психологические и медицинские консультации, а также пароли и персональные данные пользователей. По правилам компании, запрещено использовать Grok для разработки оружия, биотехнологий или контента, угрожающего жизни. Но система все же выдавала опасные инструкции. При этом в январе Маск иронизировал над OpenAI, когда у ChatGPT возникла аналогичная проблема с индексацией чатов.

xAI не дала комментариев на запросы журналистов о том, с какого момента диалоги стали индексироваться. Эксперты отмечают, что уязвимость может быть использована в маркетинговых целях: на форумах SEO-специалисты уже обсуждают, как публиковать чаты с Grok для продвижения брендов в поисковой выдаче.