Канфідэнцыйныя і пікантныя запыты юзераў Meta AI апынуліся ў адкрытым доступе. Прычым з іх дазволу

У аплікацыі ёсць стужка Discover, у якую карыстальнікі могуць посціць сваю перапіску з чат-ботам, і яна будзе бачная ўсім. Так кампанія хацела разбавіць ШІ сацыяльным кампанентам. Побач з запытамі да бота ёсць кнопка «падзяліцца», якая перанакіроўвае карыстальніка на старонку папярэдняга прагляду перад публікацыяй. Праблема ў тым, што некаторыя карыстальнікі не разумеюць, што посцяць перапіску на ўвесь свет, а не захоўваюць сабе ў выбранае ці ў закладкі. Meta не тлумачыць дастаткова выразна, што менавіта публікуецца, дзе, і каму гэта будзе бачна.

У выніку ў адкрытых стужках апынуліся самыя розныя запыты ад смешных і дурных да канфідэнцыйных дадзеных і кампрамату. Напрыклад, людзі прызнаваліся ў злачынствах і пыталіся, ці могуць прыцягнуць да адказнасці іх сваякоў, прасілі дапамагчы ўхіліцца ад падаткаў, напісаць рэкамендацыю для чалавека з праблемамі з законам, уключыўшы ў запыт яго імя і прозвішча. ІБ-даследчыкі знайшлі прыклады пастоў з хатнімі адрасамі, падрабязнасцямі судовых разбораў, здымкамі аголеных дзяцей, апісаннямі праблем са здароўем і масай іншай персанальнай інфармацыі. Прычым калі лагініцца ў аплікацыі праз Instagram, і акаўнт публічны, то запыты таксама становяцца публічнымі.

Журналістам Wired у Meta сказалі, што перапіска карыстальнікаў з ШІ канфідэнцыйная, калі яны не пройдуць шматступенчаты працэс і самі яе не раскрыюць. Ці збіраюцца ў кампаніі нешта рабіць, каб абмежаваць публікацыю дадзеных, там не адказалі.

TechCrunch называе тое, што адбываецца, катастрофай і параўноўвае з гучным скандалам з AOL, якая ў 2006 годзе выпадкова апублікавала ананімныя пошукавыя запыты карыстальнікаў. Каб пазбегнуць такіх інцыдэнтаў, Google, напрыклад, ніколі не спрабавала скрыжаваць пошук з сацсеткай.