Чат-бот Grok легко раскрывает домашние адреса пользователей

Чат-бот компании xAI оказался способен по простейшему запросу выдавать актуальные домашние адреса частных лиц.

Оставить комментарий

Как сообщает Futurism, в ходе тестирования бесплатной веб-версии Grok журналисты ввели 33 имени людей, не являющихся публичными фигурами. В результате бот в десяти случаях сразу выдал правильные и актуальные домашние адреса, в семи — устаревшие, а в четырех — точные рабочие адреса.

Во многих ответах Grok также дополнял результат телефонами, адресами почты списками родственников и другими данными, о которых его не просили.

Другие популярные чат-боты — OpenAI ChatGPT, Google Gemini и Anthropic Claude — в аналогичных тестах отказывались раскрывать персональную информацию, объясняя это правилами конфиденциальности.

Grok же часто предоставлял целые списки людей с похожими именами и адресами, фактически предлагая пользователю выбрать жертву. В нескольких случаях бот давал два варианта ответов: оба содержали наборы адресов и контактов.

Это делает Grok потенциально опасным инструментом для сталкинга и преследования, подчеркивают журналисты. Формально политика xAI запрещает «нарушение приватности», но механизм защиты, судя по всему, не работает.

Эксперты предупреждают: благодаря способности быстро агрегировать данные из онлайн-баз и соцсетей Grok фактически становится «идеальным инструментом для доксинга» — и может представлять угрозу для миллионов людей, чьи контакты давно утекли в интернет, но до сих пор были труднодоступны.

Чат-боты делают обучение поверхностным и снижают мотивацию
По теме
Чат-боты делают обучение поверхностным и снижают мотивацию
Маск доверил обучение Grok студенту, тот сразу уволил более 100 человек
По теме
Маск доверил обучение Grok студенту, тот сразу уволил более 100 человек
Использование ИИ на работе резко упало в США
По теме
Использование ИИ на работе резко упало в США

Читать на dev.by