Американская ИБ-компания CrowdStrike провела эксперимент с нашумевшим китайским чат-ботом DeepSeek. Оказалось, что он не хочет помогать или выдаёт код с серьёзными уязвимостями безопасности программистам, которые признаются ему, что работают не нежелательные в Китае организации. Находками, которые указывают на политизацию ИИ-инструментов, исследователи поделились с Washington Post.
Американская ИБ-компания CrowdStrike провела эксперимент с нашумевшим китайским чат-ботом DeepSeek. Оказалось, что он не хочет помогать или выдаёт код с серьёзными уязвимостями безопасности программистам, которые признаются ему, что работают не нежелательные в Китае организации. Находками, которые указывают на политизацию ИИ-инструментов, исследователи поделились с Washington Post.
Исследователи вводили DeepSeek практически идентичные промпты на английском языке с просьбой написать код. Также уточнялось, в каких локациях и для каких целей он будет использоваться — эти вводные были разными.
Больше всего недочётов — почти 23% — содержал код, который чат-бот просили написать для систем управления производственными процессами. Если в однм и том же промпте указывали, что эти системы будет использовать Исламское государство, то доля ответов с уязвимостями подскакивала до 42%. Аналогичная ситуация была с кодом, предназначенным для организаций из Тибета, Тайваня и запрещённого религиозного движения Фалуньгун.
DeepSeek открытым текстом отказывался отвечать только в двух случаях: Исламского государства и Фалуньгуна — в 61% и 45% запросов соответственно. В CrowdStrike признали, что западные модели тоже не хотят помогать ИГ, но против духовного движения ничего не имеют.
Специалисты NewsGuard ранее отмечали, что DeepSeek, у которого есть весьма популярная опенсорсная версия, склонен выдавать позицию китайских властей по чувствительным темам, даже если распространяет при этом дезинформацию. Но то, что он регулирует безопасность кода по политическим причинам, — это что-то новенькое.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.