Анонимности в сети больше нет: ИИ находит реальных людей за минуты

К такому выводу пришли исследователи из Швейцарской высшей технической школы Цюриха и Anthropic. Ученые показали, что современные ИИ-модели способны автоматически сопоставлять анонимные профили с реальными людьми, используя только тексты сообщений без структурированных данных, вроде таблиц или рейтингов. Если раньше для подобных расследований требовались часы ручной работы, то теперь ИИ делает это в полностью автоматическом режиме.

В одном из экспериментов исследователи взяли 338 пользователей портала Hacker News, которые ранее сами указывали ссылки на свои профили в LinkedIn. Из описаний убрали имена и прямые ссылки. После этого ИИ-агенту дали только обезличенные тексты публикаций и поручили найти реальную личность владельца аккаунта. Модель правильно сопоставила 226 профилей из 338 при точности около 90%. Иными словами, подавляющее большинство попыток угадать профиль оказалось верным.

Система работает поэтапно: языковая модель анализирует сообщения и извлекает из них признаки — профессию, место жительства, интересы и другие детали. На основе этих данных формируется профиль, который автоматически сопоставляется с возможными кандидатами в открытых источниках. Затем модель проверяет наиболее вероятные совпадения и оценивает уровень уверенности в результате.

Отдельно исследователи проверили метод на публичных интервью ученых о применении ИИ в их работе. Несмотря на частичную редактуру текстов, агент смог установить личности как минимум 9 из 33 участников с высокой точностью .

Исследователи указывают, что проблема заключается не в том, что ИИ «умнее» человека-расследователя. Модель использует те же косвенные признаки: упоминания университета, проекта, города, хобби. Разница в скорости и стоимости, так как-то, что раньше требовало значительных усилий и потому применялось редко, теперь можно масштабировать.

Авторы предупреждают, что это меняет базовые представления об анонимности в интернете. По их словам, «практическая скрытность», на которую рассчитывали пользователи — убеждение, что их теоретически можно раскрыть, но никто не станет этим заниматься — больше не работает. Возможные последствия применения такого инструмента, указывают исследователи, чрезвычайно широки: от преследования активистов и журналистов до массового таргетированного мошенничества.

За ИИ-навыки компании готовы переплачивать — вот насколько

По теме

За ИИ-навыки компании готовы переплачивать — вот насколько

Если ИИ уничтожит зарплаты, кто будет платить налоги? Учёные предложили выход

По теме

Если ИИ уничтожит зарплаты, кто будет платить налоги? Учёные предложили выход

Техкомпании любят говорить об ИИ, но избегают одного слова. Вот какого

По теме

Техкомпании любят говорить об ИИ, но избегают одного слова. Вот какого

Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше