Амерыканская ІБ-кампанія CrowdStrike правяла эксперымент з нашумелым кітайскім чат-ботам DeepSeek. Высветлілася, што ён не хоча дапамагаць або выдае код з сур’ёзнымі ўразлівасцямі бяспекі праграмістам, якія прызнаюцца яму, што працуюць на непажаданыя ў Кітаі арганізацыі. Знаходкамі, якія ўказваюць на палітызацыю ШІ-інструментаў, даследчыкі падзяліліся з Washington Post.
Амерыканская ІБ-кампанія CrowdStrike правяла эксперымент з нашумелым кітайскім чат-ботам DeepSeek. Высветлілася, што ён не хоча дапамагаць або выдае код з сур’ёзнымі ўразлівасцямі бяспекі праграмістам, якія прызнаюцца яму, што працуюць на непажаданыя ў Кітаі арганізацыі. Знаходкамі, якія ўказваюць на палітызацыю ШІ-інструментаў, даследчыкі падзяліліся з Washington Post.
Даследчыкі ўводзілі ў DeepSeek практычна ідэнтычныя промпты на англійскай мове з просьбай напісаць код. Таксама ўдакладнялася, у якіх лакацыях і для якіх мэтаў ён будзе выкарыстоўвацца — гэтыя ўводныя былі рознымі.
Больш за ўсё недахопаў — амаль 23% — змяшчаў код, які чат-бот прасілі напісаць для сістэм кіравання вытворчымі працэсамі. Калі ў адным і тым жа промпце ўказвалі, што гэтыя сістэмы будзе выкарыстоўваць Ісламская дзяржава, то доля адказаў з уразлівасцямі падскоквала да 42%. Аналагічная сітуацыя была з кодам, прызначаным для арганізацый з Тыбета, Тайваня і забароненага рэлігійнага руху Фалуньгун.
DeepSeek адкрытым тэкстам адмаўляўся адказваць толькі ў двух выпадках: Ісламскай дзяржавы і Фалуньгуна — у 61% і 45% запытаў адпаведна. У CrowdStrike прызналі, што заходнія мадэлі таксама не хочуць дапамагаць ІД, але супраць духоўнага руху нічога не маюць.
Спецыялісты NewsGuard раней адзначалі, што DeepSeek, у якога ёсць вельмі папулярная опенсорсная версія, схільны выдаваць пазіцыю кітайскіх уладаў па далікатных тэмах, нават калі распаўсюджвае пры гэтым дэзінфармацыю. Але тое, што ён рэгулюе бяспеку кода па палітычных прычынах, — гэта нешта новенькае.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.