Представьте, что ваша личная переписка с чат-ботом выставлена на всеобщее обозрение. Вы об этом даже не знаете, но вы сами это сделали. Так произошло с пользователями приложения Meta AI — видимо, из-за того, что компания плохо продумала дизайн шеринговой функции, пишет TechCrunch.
Представьте, что ваша личная переписка с чат-ботом выставлена на всеобщее обозрение. Вы об этом даже не знаете, но вы сами это сделали. Так произошло с пользователями приложения Meta AI — видимо, из-за того, что компания плохо продумала дизайн шеринговой функции, пишет TechCrunch.
В приложении есть лента Discover, в которую пользователи могут постить свою переписку с чат-ботом, и она будет видна всем. Так компания хотела разбавить ИИ социальным компонентом. Рядом с запросами к боту есть кнопка «поделиться», которая перенаправляет пользователя на страницу предварительного просмотра перед публикацией. Проблема в том, что некоторые пользователи не понимают, что постят переписку на весь мир, а не сохраняют себе в избранное или в закладки. Meta не объясняет достаточно чётко, что именно публикуется, где, и кому это будет видно.
If a user’s expectations about how a tool functions don’t match reality, you’ve got yourself a huge user experience and security problem.
— Rachel Tobac (@RachelTobac) June 12, 2025
Humans have built a schema around AI chat bots and do not expect their AI chat bot prompts to show up in a social media style Discover feed —… https://t.co/CJ41THUXCE
В результате в открытых лентах оказались самые разные запросы от смешных и глупых до конфиденциальных данных и компромата. Например, люди сознавались в преступлениях и спрашивали, могут ли привлечь к ответственности их родственников, просили помочь уклониться от налогов, написать рекомендацию для человека с проблемами с законом, включив в запрос его имя и фамилию. ИБ-исследователи нашли примеры постов с домашними адресами, подробностями судебных разбирательств, снимками обнажённых детей, описаниями проблем со здоровьем и массой другой персональной информации. Причём если логиниться в приложении через Instagram, и аккаунт публичный, то запросы тоже становятся публичными.
Журналистам Wired в Meta сказали, что переписка пользователей с ИИ конфиденциальна, если они не пройдут многоступенчатый процесс и сами её не раскроют. Собираются ли в компании что-то делать, чтобы ограничить публикацию данных, там не ответили.
TechCrunch называет происходящее катастрофой и сравнивает с громким скандалом с AOL, которая в 2006 году случайно опубликовала анонимные поисковые запросы пользователей. Чтобы избежать таких инцидентов, Google, например, никогда не пыталась скрестить поиск с соцсетью.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.