Белый дом требует от Anthropic заблокировать все джейлбрейки под угрозой бана. Но это невозможно
Конфликт между администрацией Дональда Трампа и Anthropic приближается к критической точке. Чиновники Белого дома открыто заявили, что если компания хочет вернуть на рынок свою самую продвинутую ИИ-модель Claude Fable 5, которую на прошлой неделе правительство принудительно заблокировало с помощью экспортного контроля, ей придётся гарантировать, что защитные барьеры нейросети невозможно обойти. Но эксперты по кибербезопасности в один голос заявляют, что это технически невыполнимо, пишет Wired.
Конфликт между администрацией Дональда Трампа и Anthropic приближается к критической точке. Чиновники Белого дома открыто заявили, что если компания хочет вернуть на рынок свою самую продвинутую ИИ-модель Claude Fable 5, которую на прошлой неделе правительство принудительно заблокировало с помощью экспортного контроля, ей придётся гарантировать, что защитные барьеры нейросети невозможно обойти. Но эксперты по кибербезопасности в один голос заявляют, что это технически невыполнимо, пишет Wired.
Anthropic несколько дней пыталась доказать Минторгу и Офису национального кибердиректора, что паника преувеличена, а реальный эффект от джейлбрейков минимален. Но Агентство национальной безопасности считает, что защиту Fable 5 можно отключить, а это открывает пользователям доступ к опасным скрытым возможностям базовой модели Mythos в сфере кибербезопасности, химии и биологии.
В итоге Белый дом переложил проблему целиком на плечи разработчиков. У правительственных ведомств просто нет штата и ресурсов, чтобы гоняться за каждым новым джейлбрейком на рынке. Чиновники требуют, чтобы Anthropic сама непрерывно взламывала свои модели на опережение и докладывала о дырах государству. Вот только независимые эксперты подчёркивают, что любые рамки в ИИ — лишь временная заплатка. Профессиональные хакеры и другие нейросети всегда найдут способ обойти запреты, а значит, администрация президента требует то, чего сделать в принципе нельзя.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.