Уявіце, што ваша асабістая перапіска з чат-ботам выстаўлена на ўсеагульны агляд. Вы пра гэта нават не ведаеце, але вы самі гэта зрабілі. Так адбылося з карыстальнікамі аплікацыі Meta AI — відавочна, з-за таго, што кампанія дрэнна прадумала дызайн шэрынгавай функцыі, піша TechCrunch.
Уявіце, што ваша асабістая перапіска з чат-ботам выстаўлена на ўсеагульны агляд. Вы пра гэта нават не ведаеце, але вы самі гэта зрабілі. Так адбылося з карыстальнікамі аплікацыі Meta AI — відавочна, з-за таго, што кампанія дрэнна прадумала дызайн шэрынгавай функцыі, піша TechCrunch.
У аплікацыі ёсць стужка Discover, у якую карыстальнікі могуць посціць сваю перапіску з чат-ботам, і яна будзе бачная ўсім. Так кампанія хацела разбавіць ШІ сацыяльным кампанентам. Побач з запытамі да бота ёсць кнопка «падзяліцца», якая перанакіроўвае карыстальніка на старонку папярэдняга прагляду перад публікацыяй. Праблема ў тым, што некаторыя карыстальнікі не разумеюць, што посцяць перапіску на ўвесь свет, а не захоўваюць сабе ў выбранае ці ў закладкі. Meta не тлумачыць дастаткова выразна, што менавіта публікуецца, дзе, і каму гэта будзе бачна.
If a user’s expectations about how a tool functions don’t match reality, you’ve got yourself a huge user experience and security problem.
— Rachel Tobac (@RachelTobac) June 12, 2025
Humans have built a schema around AI chat bots and do not expect their AI chat bot prompts to show up in a social media style Discover feed —… https://t.co/CJ41THUXCE
У выніку ў адкрытых стужках апынуліся самыя розныя запыты ад смешных і дурных да канфідэнцыйных дадзеных і кампрамату. Напрыклад, людзі прызнаваліся ў злачынствах і пыталіся, ці могуць прыцягнуць да адказнасці іх сваякоў, прасілі дапамагчы ўхіліцца ад падаткаў, напісаць рэкамендацыю для чалавека з праблемамі з законам, уключыўшы ў запыт яго імя і прозвішча. ІБ-даследчыкі знайшлі прыклады пастоў з хатнімі адрасамі, падрабязнасцямі судовых разбораў, здымкамі аголеных дзяцей, апісаннямі праблем са здароўем і масай іншай персанальнай інфармацыі. Прычым калі лагініцца ў аплікацыі праз Instagram, і акаўнт публічны, то запыты таксама становяцца публічнымі.
Журналістам Wired у Meta сказалі, што перапіска карыстальнікаў з ШІ канфідэнцыйная, калі яны не пройдуць шматступенчаты працэс і самі яе не раскрыюць. Ці збіраюцца ў кампаніі нешта рабіць, каб абмежаваць публікацыю дадзеных, там не адказалі.
TechCrunch называе тое, што адбываецца, катастрофай і параўноўвае з гучным скандалам з AOL, якая ў 2006 годзе выпадкова апублікавала ананімныя пошукавыя запыты карыстальнікаў. Каб пазбегнуць такіх інцыдэнтаў, Google, напрыклад, ніколі не спрабавала скрыжаваць пошук з сацсеткай.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.