Белы дом патрабуе ад Anthropic заблакаваць усе джэйлбрэйкі пад пагрозай бану. Але гэта немагчыма
Канфлікт між адміністрацыяй Дональда Трампа і Anthropic набліжаецца да крытычнай кропкі. Чыноўнікі Белага дома адкрыта заявілі: калі кампанія хоча вярнуць на рынак сваю найбольш прасунутую ШІ-мадэль Claude Fable 5, якую на мінулым тыдні ўрад прымусова заблакаваў з дапамогай экспартнага кантролю, ёй давядзецца гарантаваць, што ахоўныя бар’еры нейрасеткі немагчыма абыйсці. Але эксперты па кібербяспецы ў адзін голас сцвярджаюць, што гэта тэхнічна невыканальна, піша Wired.
Канфлікт між адміністрацыяй Дональда Трампа і Anthropic набліжаецца да крытычнай кропкі. Чыноўнікі Белага дома адкрыта заявілі: калі кампанія хоча вярнуць на рынак сваю найбольш прасунутую ШІ-мадэль Claude Fable 5, якую на мінулым тыдні ўрад прымусова заблакаваў з дапамогай экспартнага кантролю, ёй давядзецца гарантаваць, што ахоўныя бар’еры нейрасеткі немагчыма абыйсці. Але эксперты па кібербяспецы ў адзін голас сцвярджаюць, што гэта тэхнічна невыканальна, піша Wired.
Anthropic некалькі дзён спрабавала даказаць Міністэрству гандлю і Офісу нацыянальнага кібердырэктара, што паніка перабольшаная, а рэальны эфект ад джэйлбрэйкаў мінімальны. Але Агенцтва нацыянальнай бяспекі лічыць, што абарону Fable 5 можна адключыць, а гэта адкрывае карыстальнікам доступ да небяспечных схаваных магчымасцяў базавай мадэлі Mythos у сферы кібербяспекі, хіміі і біялогіі.
У выніку Белы дом цалкам пераклаў праблему на плечы распрацоўшчыкаў. Ва ўрадавых ведамстваў папросту няма штату і рэсурсаў, каб ганяцца за кожным новым джэйлбрэйкам на рынку. Чыноўнікі патрабуюць, каб Anthropic сама бесперапынна ўзломвала свае мадэлі на апярэджанне і дакладвала аб дзірах дзяржаве. Вось толькі незалежныя эксперты падкрэсліваюць: любыя межы ў ШІ — гэта толькі часовая латка. Прафесійныя хакеры ды іншыя нейрасеткі заўсёды знойдуць спосаб абыйсці забароны, а значыць, адміністрацыя прэзідэнта патрабуе таго, чаго зрабіць у прынцыпе нельга.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.