Кампанія выдаліла з Claude Code схаваны механізм, які, паводле дадзеных даследчыка бяспекі, дапамагаў ідэнтыфікаваць карыстальнікаў з Кітая і магчымыя сувязі з кітайскімі ШІ-лабараторыямі.
Кампанія выдаліла з Claude Code схаваны механізм, які, паводле дадзеных даследчыка бяспекі, дапамагаў ідэнтыфікаваць карыстальнікаў з Кітая і магчымыя сувязі з кітайскімі ШІ-лабараторыямі.
На схаваны трэкер звярнуў увагу вэб-распрацоўшчык пад нікам Thereallo. Ён вывучаў налады прыватнасці Claude Code і выявіў у сістэмным промпце нябачныя службовыя маркеры. Яны маглі перадаваць Anthropic дадзеныя пра гадзінны пояс карыстальніка, проксі-сервер і прыкметы падключэння праз староннія API-шлюзы.
Даследчык назваў гэта «сур’ёзным парушэннем даверу карыстальнікаў». Паводле яго, сам код не быў шкодным, аднак працаваў незаўважна для большасці распрацоўшчыкаў. «Калі кліент хоча выяўляць нестандартныя API-шлюзы, ён можа проста сказаць пра гэта адкрыта. Можна перадаваць асобнае поле тэлеметрыі з дакументацыяй, апісаць палітыку ў рэліз-нотах», — адзначыў Thereallo.
Інжынер Anthropic Тарык Шыхіпар пацвердзіў, што трэкер быў эксперыментам. Паводле яго, ён павінен быў перашкаджаць злоўжыванням з боку неаўтарызаваных рэселераў і абараняць мадэлі ад дыстыляцыі — масавага збору адказаў Claude для навучання канкурыруючых сістэм. «Мы даўно збіраліся гэта выдаліць, таму што з таго часу ўкаранілі больш моцныя меры абароны», — напісаў Шыхіпар.
Інцыдэнт выклікаў асабліва вострую рэакцыю праз публічную пазіцыю Anthropic у пытаннях сачэння. Кампанія раней выступала супраць выкарыстання Claude для назірання за амерыканскімі карыстальнікамі, аднак цяпер крытыкі абвінавацілі яе ў тым, што яна сама перайшла мяжу ў дачыненні да прыватнасці распрацоўшчыкаў.
У апошнія месяцы Anthropic усё актыўней гаворыць пра дыстыляцыю мадэляў з боку кітайскіх кампаній. Кампанія заклікае ЗША прызнаць такія атакі формай крадзяжу інтэлектуальнай уласнасці і абмежаваць доступ да перадавых мадэляў, чыпаў і дата-цэнтраў для парушальнікаў.
Паводле даных Ars Technica, на фоне гэтай гісторыі Alibaba забараніла супрацоўнікам выкарыстоўваць Claude Code для працоўных задач. У службовай запісцы, з якой азнаёмілася South China Morning Post, інструмент назвалі праграмай з «рызыкамі бэкдора» і патэнцыяльнымі ўразлівасцямі.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.