Чат-бот Маска выклаў у сетку 370 000 перапісак карыстальнікаў

Журналісты Forbes выявілі, што кожны раз, калі карыстальнік націскае на кнопку «падзяліцца» ў аплікацыі Grok, сістэма стварае унікальную спасылку для адпраўкі па пошце, месэнджарах ці сацсетках. Аднак гэтыя спасылкі аўтаматычна індэксуюцца Google, Bing і DuckDuckGo. У выніку ў адкрытым доступе апынуліся больш за 370 000 размоў, уключаючы загрузкі файлаў, табліц і выяў.

Аналіз апублікаваных чатаў паказаў, што карыстальнікі нярэдка звярталіся да Grok з небяспечнымі ці кампраметуючымі запытамі. Карыстальнікі шукалі інструкцыі па ўзломе крыптагаманцоў, парады па вытворчасці наркотыкаў, уключаючы метамфетамін і фентаніл, спосабы суіцыду, паэтапныя схемы па стварэнні бомб і нават падрабязны план замаху на Ілана Маска.

Акрамя гэтага, у адкрыты доступ трапілі інтымныя перапіскі, псіхалагічныя і медыцынскія кансультацыі, а таксама паролі і персанальныя дадзеныя карыстальнікаў. Па правілах кампаніі, забаронена выкарыстоўваць Grok для распрацоўкі зброі, біятэхналогій ці кантэнту, які пагражае жыццю. Але сістэма ўсё ж выдавала небяспечныя інструкцыі. Пры гэтым у студзені Маск іранізаваў над OpenAI, калі ў ChatGPT узнікла аналагічная праблема з індэксацыяй чатаў.

xAI не дала каментароў на запыты журналістаў аб тым, з якога моманту дыялогі пачалі індэксавацца. Эксперты адзначаюць, што ўразлівасць можа быць выкарыстана ў маркетынгавых мэтах: на форумах SEO-спецыялісты ўжо абмяркоўваюць, як публікаваць чаты з Grok для прасоўвання брэндаў у пошукавай выдачы.