DeepSeek пишет более уязвимый код для тех, кто не нравится партии

Исследователи вводили DeepSeek практически идентичные промпты на английском языке с просьбой написать код. Также уточнялось, в каких локациях и для каких целей он будет использоваться — эти вводные были разными.

Больше всего недочётов — почти 23% — содержал код, который чат-бот просили написать для систем управления производственными процессами. Если в однм и том же промпте указывали, что эти системы будет использовать Исламское государство, то доля ответов с уязвимостями подскакивала до 42%. Аналогичная ситуация была с кодом, предназначенным для организаций из Тибета, Тайваня и запрещённого религиозного движения Фалуньгун.

DeepSeek открытым текстом отказывался отвечать только в двух случаях: Исламского государства и Фалуньгуна — в 61% и 45% запросов соответственно. В CrowdStrike признали, что западные модели тоже не хотят помогать ИГ, но против духовного движения ничего не имеют.

Специалисты NewsGuard ранее отмечали, что DeepSeek, у которого есть весьма популярная опенсорсная версия, склонен выдавать позицию китайских властей по чувствительным темам, даже если распространяет при этом дезинформацию. Но то, что он регулирует безопасность кода по политическим причинам, — это что-то новенькое.