Компания заявила, что несколько китайских ИИ-компаний использовали Claude для улучшения своих моделей и в некоторых случаях незаметно перенаправляли в него запросы пользователей.
Компания заявила, что несколько китайских ИИ-компаний использовали Claude для улучшения своих моделей и в некоторых случаях незаметно перенаправляли в него запросы пользователей.
Всего Anthropic выявила пять кампаний, связанных почти с 200 миллионами обращений к Claude. Их основной целью была дистилляция — использование ответов более мощной модели как обучающих данных для другой модели.
Moonshot AI, разработчик Kimi, по данным Anthropic, перенаправляла запросы пользователей непосредственно в Claude. Клиенты при этом считали, что общаются с Kimi. За один десятидневный период компания таким образом отправила Claude почти 300 тысяч пользовательских запросов через сеть из 5380 фиктивных аккаунтов. Всего с мая по июль Anthropic связала с Moonshot более 23 миллионов обращений.
Moonshot также сохраняла часть ответов Claude и пыталась извлекать из них подробные цепочки рассуждений, чтобы использовать их для обучения собственных моделей. По данным Anthropic, среди перенаправленных запросов встречалась чувствительная информация клиентов — например, внутренний код и действующие учетные данные китайских компаний, а также данные видеонаблюдения, которые анализировал пользователь, предположительно связанный с НОАК. Anthropic не знает, предупреждала ли Moonshot клиентов о передаче их данных третьей стороне.
DeepSeek, как утверждает Anthropic, использовала похожую схему. Компания определяла часть пользователей сторонних инструментов для программирования и перенаправляла их запросы в Claude Opus. За 14 дней июля Anthropic зафиксировала более 12,1 миллиона связанных с DeepSeek обращений.
В числе таких запросов были внутренние документы китайской компании, данные системы наблюдения китайской полиции и запросы ИТ-специалиста, работавшего с информацией российского ведомства, связанного с Минобороны. В последнем случае в Claude попали действующие учетные данные государственной базы, говорится в отчете.
Самую масштабную кампанию Anthropic приписывает Alibaba. С мая по июль компания зафиксировала более 151 миллион обращений к Claude, а на пике — почти 3 миллиона в сутки. Для обхода ограничений использовались тысячи фиктивных аккаунтов. Полученные цепочки рассуждений, по версии Anthropic, применялись для обучения моделей семейства Qwen, включая Qwen 3.5, 3.6 и 3.7.
Anthropic утверждает, что китайские разработчики целенаправленно пытались получить навыки Claude в программировании, работе ИИ-агентов, анализе данных и логических рассуждениях. Компания заявила, что заблокировала связанные с этими кампаниями аккаунты и усиливает защиту от извлечения обучающих данных.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Блин, а кто-то думает еще, что используя китайские модели не сливает им данные? Тут даже гпт и прочие и то подсливают, так какие-никакие ограничения и законы. Китайцы на это даже не будут обращать внимания, еще и продавать будут.
Компания, обучавшая свои модели на отсканированных книгах и всём публичном интернете, возмущена тем, что другие тоже не гнушаются пользоваться схожими методами? Возмутительно!
Какой процент своей виртуальной триллионной капитализации Anthropic направила на авторские отчисления создателям контента, на котором были обучены её модели?
Единственное, что я что-то не нахожу сильно много исков против них. Вот тут вопрос, почему?
ну а исков против киатйских компаний вообще нету