Патологоанатом, PM, косметолог. История одного выгорания🔥
Support us

Эксперты предупредили о «чернобыльском моменте» для ИИ

Гонка США и Китая за лидерство в ИИ-сфере может привести к масштабным киберугрозам и системным сбоям, если две страны не начнут сотрудничать в вопросах безопасности.

Оставить комментарий
Эксперты предупредили о «чернобыльском моменте» для ИИ

Гонка США и Китая за лидерство в ИИ-сфере может привести к масштабным киберугрозам и системным сбоям, если две страны не начнут сотрудничать в вопросах безопасности.

К такому выводу пришли участники ИИ-конференции, которую организовала Пекинская академия искусственного интеллекта (Beijing Academy of Artificial Intelligence, BAAI), пишет Wired.

Компьютерный ученый MIT Стивен Каспер сравнил ситуацию с ядерным соперничеством США и СССР: страны конкурировали, но были вынуждены договариваться о предотвращении общих угроз.

«ИИ — глобальная технология с глобальными преимуществами и глобальным вредом. Новые возможности моделей со временем неизбежно распространяются. Почти все в сфере ИИ сейчас могут согласиться в одном: ИИ не нужен свой „чернобыльский момент“», — заявил ученый.

Особую тревогу вызывают модели с открытыми весами. Китайские компании Moonshot, Alibaba и Z.ai активно развивают этот сегмент, а в США ставку на него делает Nvidia с линейкой Nemotron. По мере роста возможностей такие модели могут облегчить поиск уязвимостей и создание инструментов для взлома.

ИИ не заменяет людей: Ford возвращает уволенных DeepSeek удваивает штат
ИИ не заменяет людей: Ford возвращает уволенных, DeepSeek удваивает штат
По теме
ИИ не заменяет людей: Ford возвращает уволенных, DeepSeek удваивает штат

Профессор Шанхайского университета Цзяо Тун Линь Юнь считает, что в ближайшее время ИИ, вероятно, даст преимущество атакующим, но затем защитные системы на базе ИИ смогут изменить баланс.

«Если разные страны понимают риски сходным образом, становится проще выработать общие принципы безопасности и технические стандарты», — сказал профессор.

По данным Wired, опасения по поводу кибербезопасности уже заставляют некоторые китайские компании не публиковать наиболее мощные модели в открытом доступе. Эксперты считают, что индустрии понадобятся механизмы проверки ИИ на бэкдоры, уязвимости и соответствие требованиям безопасности.

Жесткая конкуренция уже влияет на доступ к передовым ИИ-системам. Власти США недавно потребовали от Anthropic ограничить для иностранных граждан доступ к наиболее мощным моделям Mythos и Fable 5 из соображений национальной безопасности. В результате компания отозвала доступ к этим моделям у всех пользователей.

В Claude Code заметили лазейку для доступа к заблокированной Fable 5
В Claude Code заметили лазейку для доступа к заблокированной Fable 5
По теме
В Claude Code заметили лазейку для доступа к заблокированной Fable 5
Anthropic жалуется что Alibaba ворует данные Claude для обучения своего ИИ
Anthropic жалуется, что Alibaba ворует данные Claude для обучения своего ИИ 
По теме
Anthropic жалуется, что Alibaba ворует данные Claude для обучения своего ИИ
Anthropic запустила Claude Tag в Slack: ИИ помнит контекст и сам берётся за задачи
Anthropic запустила Claude Tag в Slack: ИИ помнит контекст и сам берётся за задачи
По теме
Anthropic запустила Claude Tag в Slack: ИИ помнит контекст и сам берётся за задачи
Читайте также
Лягушка в кипятке: учёные предупредили о «накопительном» вреде ИИ для мозга
Лягушка в кипятке: учёные предупредили о «накопительном» вреде ИИ для мозга
Лягушка в кипятке: учёные предупредили о «накопительном» вреде ИИ для мозга
Китай почти догнал США в ИИ-гонке, хотя инвестирует в 20 раз меньше
Китай почти догнал США в ИИ-гонке, хотя инвестирует в 20 раз меньше
Китай почти догнал США в ИИ-гонке, хотя инвестирует в 20 раз меньше
1 комментарий
ИИ-гонка спровоцировала сильный дефицит кибербезопасников
ИИ-гонка спровоцировала сильный дефицит кибербезопасников
ИИ-гонка спровоцировала сильный дефицит кибербезопасников
Изнанка ИИ-программирования: как гонка нейросетей расколола айтишников
Изнанка ИИ-программирования: как гонка нейросетей расколола айтишников
Изнанка ИИ-программирования: как гонка нейросетей расколола айтишников

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.