Карыстальнікі Claude і Codex скардзяцца на абмежаванні пры спробах даследаваць і мадыфікаваць праграмнае забеспячэнне з дапамогай ШІ. Адзін з іх сцвярджае, што OpenAI заблакавала ягоны акаўнт пасля аналізу прашыўкі тэлевізара.
Карыстальнікі Claude і Codex скардзяцца на абмежаванні пры спробах даследаваць і мадыфікаваць праграмнае забеспячэнне з дапамогай ШІ. Адзін з іх сцвярджае, што OpenAI заблакавала ягоны акаўнт пасля аналізу прашыўкі тэлевізара.
Даследчык пад нікам log4j расказаў, што вывучаў праграмнае забеспячэнне тэлевізара Samsung, выпушчанага ў 2025 годзе. Яго цікавіла, якія даныя прылада збірае пра ўладальніка і перадае вытворцу і рэкламным партнёрам.
Для даследавання ён выкарыстоўваў ШІ-інструменты OpenAI. Аднак яго акаўнт заблакавалі за меркаванае парушэнне правілаў кібербяспекі. «Мяне заблакавалі за рэверс-інжынірынг? Гэта вар’яцтва», — напісаў карыстальнік. Паводле яго, ён страціў каля $500.
Даследчык сцвярджае, што займаўся выключна лакальным аналізам праграмнага забеспячэння і не выкарыстоўваў мадэлі OpenAI для пошуку або эксплуатацыі ўразлівасцяў.
Падобныя праблемы абмяркоўваюць карыстальнікі Claude. Напрыклад, на Reddit з’явіліся паведамленні пра тое, што чат-бот адмаўляецца выконваць некаторыя запыты, звязаныя з інструментам Reverse Engineer Anything (REA).
Гэта адкрыты праект, які дазваляе падключаць ШІ-агентаў да інструментаў аналізу праграм без доступу да зыходнага кода. З яго дапамогай можна даследаваць працу прыкладанняў, вывучаць выканальныя файлы і ствараць уласныя рэалізацыі асобных функцый.
Адзін з карыстальнікаў папрасіў Claude падрыхтаваць падрабязнае кіраўніцтва па выкарыстанні REA, але генерацыя была перарвана праверкай бяспекі. Паўторная спроба завяршыць адказ таксама аказалася беспаспяховай.
Пры гэтым Anthropic не абвяшчала пра спецыяльную забарону REA. Яшчэ 6 кастрычніка кампанія растлумачыла, што агульнадаступныя мадэлі Claude наўмысна абмежаваныя ў выкананні патэнцыйна небяспечных задач у кібербяспецы.
Для спецыялістаў кампанія пашырыла праграму Cyber Verification Program, удзельнікі якой пасля праверкі могуць атрымаць доступ да больш магутных функцый з меншымі абмежаваннямі.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.