ШІ-інструмент Grok Build адпраўляў у Google Cloud Storage цэлыя кодавыя базы карыстальнікаў — у тым гісторыю Git, файлы, якія агенту забаранялі адкрываць, і дадзеныя, выдаленыя з больш позніх версій праекта.
ШІ-інструмент Grok Build адпраўляў у Google Cloud Storage цэлыя кодавыя базы карыстальнікаў — у тым гісторыю Git, файлы, якія агенту забаранялі адкрываць, і дадзеныя, выдаленыя з больш позніх версій праекта.
Праблему выявіў даследчык кібербяспекі пад псеўданімам Cereblab. У загружаемых дадзеных маглі знаходзіцца API-ключы, токены доступу і іншыя сакрэты з канфігурацыйных файлаў. Паводле даследчыка, перадача адбывалася нават у выпадках, калі агенту забаранялі чытаць файлы праекта.
У адным з тэстаў даследчык забараніў агенту чытаць або адкрываць файлы. Нягледзячы на гэта, спецыяльна дададзены файл апынуўся ў загружанай копіі рэпазіторыя. Асобна Grok Build адпраўляў змесціва прачытаных файлаў, у тым .env з API-ключамі і паролямі ад баз дадзеных.
Адключэнне опцыі Improve the model не спыняла перадачу дадзеных. Як высветліў Cereblab, гэтая налада забараняла выкарыстоўваць інфармацыю для навучання мадэляў, але не адключала загрузку кодавай базы для апрацоўкі.
Для параўнання даследчык паўтарыў тэсты з Claude Code, Codex і Gemini. Гэтыя інструменты адпраўлялі толькі тыя файлы, да якіх непасрэдна звярталіся, і не загружалі рэпазіторый цалкам.
Незалежны спецыяліст па бяспецы з Каралеўскага каледжа Лондана Лукаш Алейнік назваў такі аб’ём збору дадзеных «залішнім». Паводле яго, пад пагрозай маглі апынуцца «закрыты зыходны код, звесткі пра уразлівасці, персанальныя дадзеныя, інфармацыя пра інфраструктуры і уліковыя дадзеныя».
Пасля публікацыі вынікаў серверы SpaceXAI пачалі вяртаць параметр disable_codebase_upload: true, і адпраўка рэпазіторыяў спынілася. Аднак даследчык адзначыў, што каманда /privacy, на якую спасылалася кампанія, кіруе захоўваннем дадзеных у межах сесіі і не з’яўляецца пераключальнікам, які адключыў загрузку кодавай базы.
SpaceXAI заявіла, што Grok Build падтрымлівае рэжым Zero Data Retention, а карыстальнікі могуць выдаліць раней сінхранізаваную інфармацыю праз налады прыватнасці. Ілон Маск таксама сцвярджаў, што налады канфідэнцыяльнасці «заўсёды выконваюцца», але папрасіў карыстальнікаў дазваляць захоўванне дадзеных, бо гэта дапамагае шукаць памылкі.
Пазней Маск абяцаў, што ўся раней загружаная інфармацыя будзе «цалкам і без рэшткі выдалена». Кампанія пакуль не раскрыла, колькі карыстальнікаў закранула функцыя, якія аб’ёмы кода трапілі ў воблака і калі завершыцца выдаленне дадзеных.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.