Американский стартап Abliteration.ai начал продавать через API доступ к GLM-5.3 с ослабленными механизмами отказа. Модифицированная модель реже отклоняет чувствительные запросы, в том числе связанные с кибербезопасностью.
Американский стартап Abliteration.ai начал продавать через API доступ к GLM-5.3 с ослабленными механизмами отказа. Модифицированная модель реже отклоняет чувствительные запросы, в том числе связанные с кибербезопасностью.
Компания использует технику abliteration: находит внутренние паттерны, которые вызывают отказы, и изменяет веса модели, чтобы подавить их. Как указывают разработчики, это не джейлбрейк через промпт, а изменение самой нейросети. Стартап утверждает, что основные возможности в кодинге и работе ИИ-агентов при этом сохраняются.
Сервис рассчитан на специалистов по кибербезопасности, которые тестируют защищенность систем, анализируют вредоносное ПО и проверяют ИИ-агентов на уязвимость к промпт-инъекциям. По словам анонимного основателя, среди первых клиентов — компании, проверяющие агентов крупных организаций и банков. Доступ стоит $5 за миллион входных или выходных токенов, а собственные GPU клиентам не нужны.
Однако доступность модели снижает и барьер для злоупотреблений. Издание TechCrunch сообщило, что смогло получить от нее код для извлечения сохраненных паролей Chrome и подробные инструкции по созданию опасного биопатогена. При этом ограничения на запросы о самоповреждении продолжали действовать.
Abliteration.ai утверждает, что не хранит промпты и ответы пользователей и не требует обычной проверки личности. Компания сохраняет платежные и технические метаданные. Корпоративные клиенты могут отдельно включить шлюз политик, чтобы блокировать, изменять или записывать определенные запросы, но стандартный доступ остается в значительной степени неограниченным.
Необходимость такого подхода вызывает споры. По данным SaferAI, исходная GLM-5.2 и без модификации не отказывалась выполнять задачи в их тестах наступательной кибербезопасности. Другие исследования показывают, что abliteration может менять поведение модели даже на запросах, которые она изначально не отклоняла.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.