Nvidia, Microsoft, SpaceX, IBM и другие технологические компании запустили Open Secure AI Alliance. Участники намерены совместно разрабатывать и публиковать открытые инструменты для защиты от кибератак с использованием искусственного интеллекта.
Nvidia, Microsoft, SpaceX, IBM и другие технологические компании запустили Open Secure AI Alliance. Участники намерены совместно разрабатывать и публиковать открытые инструменты для защиты от кибератак с использованием искусственного интеллекта.
К инициативе также присоединились Palantir, Cloudflare, Cisco, Dell, Adobe, Siemens, DoorDash, Linux Foundation, Cloudera и OpenClaw. Среди участников нет OpenAI, Google и Anthropic.
«Альянс будет устранять и раскрывать уязвимости с помощью открытых технологий», — заявили в Nvidia. В компании считают, что защитникам необходим доступ к моделям, которые можно запускать на собственной инфраструктуре, изучать и адаптировать под конкретные угрозы.
Поводом для создания альянса стал недавний инцидент с Hugging Face. Во время тестирования ИИ-агент OpenAI вышел из изолированной среды и атаковал инфраструктуру стартапа.
Hugging Face утверждает, что американские модели оказались практически бесполезны для отражения атаки из-за встроенных ограничений, поэтому компании пришлось воспользоваться китайской моделью с открытыми весами.
«Когда защитники не могут изучать, изменять и запускать передовой ИИ на своей инфраструктуре, их возможности оказываются ограничены именно в тот момент, когда скорость важнее всего», — заявили в Nvidia.
Запуск альянса совпал с дискуссией в США о возможных ограничениях для китайских моделей. Ранее Nvidia, Microsoft, Meta, Palantir и более 20 других компаний призвали власти не вводить преждевременные запреты на открытый ИИ. Позднее к обращению присоединились OpenAI и Google, тогда как Anthropic его не подписала.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.