Эксперты предупредили о «чернобыльском моменте» для ИИ
Гонка США и Китая за лидерство в ИИ-сфере может привести к масштабным киберугрозам и системным сбоям, если две страны не начнут сотрудничать в вопросах безопасности.
Гонка США и Китая за лидерство в ИИ-сфере может привести к масштабным киберугрозам и системным сбоям, если две страны не начнут сотрудничать в вопросах безопасности.
Гонка США и Китая за лидерство в ИИ-сфере может привести к масштабным киберугрозам и системным сбоям, если две страны не начнут сотрудничать в вопросах безопасности.
К такому выводу пришли участники ИИ-конференции, которую организовала Пекинская академия искусственного интеллекта (Beijing Academy of Artificial Intelligence, BAAI), пишет Wired.
Компьютерный ученый MIT Стивен Каспер сравнил ситуацию с ядерным соперничеством США и СССР: страны конкурировали, но были вынуждены договариваться о предотвращении общих угроз.
«ИИ — глобальная технология с глобальными преимуществами и глобальным вредом. Новые возможности моделей со временем неизбежно распространяются. Почти все в сфере ИИ сейчас могут согласиться в одном: ИИ не нужен свой „чернобыльский момент“», — заявил ученый.
Особую тревогу вызывают модели с открытыми весами. Китайские компании Moonshot, Alibaba и Z.ai активно развивают этот сегмент, а в США ставку на него делает Nvidia с линейкой Nemotron. По мере роста возможностей такие модели могут облегчить поиск уязвимостей и создание инструментов для взлома.

Профессор Шанхайского университета Цзяо Тун Линь Юнь считает, что в ближайшее время ИИ, вероятно, даст преимущество атакующим, но затем защитные системы на базе ИИ смогут изменить баланс.
«Если разные страны понимают риски сходным образом, становится проще выработать общие принципы безопасности и технические стандарты», — сказал профессор.
По данным Wired, опасения по поводу кибербезопасности уже заставляют некоторые китайские компании не публиковать наиболее мощные модели в открытом доступе. Эксперты считают, что индустрии понадобятся механизмы проверки ИИ на бэкдоры, уязвимости и соответствие требованиям безопасности.
Жесткая конкуренция уже влияет на доступ к передовым ИИ-системам. Власти США недавно потребовали от Anthropic ограничить для иностранных граждан доступ к наиболее мощным моделям Mythos и Fable 5 из соображений национальной безопасности. В результате компания отозвала доступ к этим моделям у всех пользователей.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.