Чат-бот Маска выложил в сеть 370 000 переписок пользователей
Компания Илона Маска xAI вновь оказалась в центре скандала: сотни тысяч диалогов пользователей с чат-ботом Grok индексировались поисковыми системами и теперь легко находятся через Google.
Компания Илона Маска xAI вновь оказалась в центре скандала: сотни тысяч диалогов пользователей с чат-ботом Grok индексировались поисковыми системами и теперь легко находятся через Google.
Журналисты Forbes обнаружили, что каждый раз, когда пользователь нажимает на кнопку «поделиться» в приложении Grok, система создает уникальную ссылку для отправки по почте, мессенджерам или соцсетям. Однако эти ссылки автоматически индексируются Google, Bing и DuckDuckGo. В результате в открытом доступе оказались более 370 000 разговоров, включая загрузки файлов, таблиц и изображений.
Анализ опубликованных чатов показал, что пользователи нередко обращались к Grok с опасными или компрометирующими запросами. Пользователи искали инструкции по взлому криптокошельков, советы по производству наркотиков, включая метамфетамин и фентанил, способы суицида, пошаговые схемы по созданию бомб и даже подробный план покушения на Илона Маска.
Помимо этого, в открытый доступ попали интимные переписки, психологические и медицинские консультации, а также пароли и персональные данные пользователей. По правилам компании, запрещено использовать Grok для разработки оружия, биотехнологий или контента, угрожающего жизни. Но система все же выдавала опасные инструкции. При этом в январе Маск иронизировал над OpenAI, когда у ChatGPT возникла аналогичная проблема с индексацией чатов.
xAI не дала комментариев на запросы журналистов о том, с какого момента диалоги стали индексироваться. Эксперты отмечают, что уязвимость может быть использована в маркетинговых целях: на форумах SEO-специалисты уже обсуждают, как публиковать чаты с Grok для продвижения брендов в поисковой выдаче.
10+ сертификаций Coursera, которые могут изменить вашу карьеру
Бюджетный способ прокачать навыки и повысить зарплату — это профессиональный сертификат от Google, IBM или крупного зарубежного университета. На Coursera как раз можно найти десятки полезных обучающих программ по машинному обучению, проджект-менеджменту и не только. Собрали 10+ сертификаций, которые будут выигрышно смотреться в резюме как новичка, так и опытного специалиста.
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
На платформе Coursera можно найти сотни курсов от крупных корпораций, включая Google, Amazon и HubSpot. Это отличная возможность начать новую карьеру, повысить квалификацию и просто получить плюс в профессиональную карму. Мы собрали 10 программ от ИТ-компаний, которые помогут освоить машинное обучение, UX-дизайн, продакт-менеджмент, кибербезопасность и многое другое.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
жэстачайшы facepalm