Конфиденциальные и пикантные запросы юзеров Meta AI оказались в открытом доступе. Причём с их разрешения

В приложении есть лента Discover, в которую пользователи могут постить свою переписку с чат-ботом, и она будет видна всем. Так компания хотела разбавить ИИ социальным компонентом. Рядом с запросами к боту есть кнопка «поделиться», которая перенаправляет пользователя на страницу предварительного просмотра перед публикацией. Проблема в том, что некоторые пользователи не понимают, что постят переписку на весь мир, а не сохраняют себе в избранное или в закладки. Meta не объясняет достаточно чётко, что именно публикуется, где, и кому это будет видно.

В результате в открытых лентах оказались самые разные запросы от смешных и глупых до конфиденциальных данных и компромата. Например, люди сознавались в преступлениях и спрашивали, могут ли привлечь к ответственности их родственников, просили помочь уклониться от налогов, написать рекомендацию для человека с проблемами с законом, включив в запрос его имя и фамилию. ИБ-исследователи нашли примеры постов с домашними адресами, подробностями судебных разбирательств, снимками обнажённых детей, описаниями проблем со здоровьем и массой другой персональной информации. Причём если логиниться в приложении через Instagram, и аккаунт публичный, то запросы тоже становятся публичными.

Журналистам Wired в Meta сказали, что переписка пользователей с ИИ конфиденциальна, если они не пройдут многоступенчатый процесс и сами её не раскроют. Собираются ли в компании что-то делать, чтобы ограничить публикацию данных, там не ответили.

TechCrunch называет происходящее катастрофой и сравнивает с громким скандалом с AOL, которая в 2006 году случайно опубликовала анонимные поисковые запросы пользователей. Чтобы избежать таких инцидентов, Google, например, никогда не пыталась скрестить поиск с соцсетью.