🇵🇱 Дедлайн по e-PIT всё ближе ⏳ Поддержите devby из уже уплаченных налогов 💙
Support us

В 95% военных симуляций ИИ применял ядерное оружие

В 95% симулированных ядерных кризисов ИИ-модели прибегали к применению тактического ядерного оружия, а в трех случаях сценарии заканчивались стратегическим ударом.

Оставить комментарий
В 95% военных симуляций ИИ применял ядерное оружие

В 95% симулированных ядерных кризисов ИИ-модели прибегали к применению тактического ядерного оружия, а в трех случаях сценарии заканчивались стратегическим ударом.

Такие результаты показало исследование профессора Кеннета Пейна из Королевского колледжа Лондона, который столкнул между собой GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash в серии военных игр.

Согласно статье, модели получили роль лидеров ядерных держав в условиях, напоминающих холодную войну. В общей сложности состоялось 21 матч: шесть разных парных сценариев и отдельные раунды, где каждая модель играла против собственной копии. За все время было зафиксировано 329 ходов.

Чтобы избежать однотипного поведения, исследователь вводил различные кризисные ситуации: от территориальных споров и борьбы за стратегические ресурсы до кризиса первого удара и сценария выживания режима. Моделям разрешалось выбирать любые действия: от дипломатических протестов и капитуляции до применения обычных вооружений и полномасштабного ядерного запуска.

По итогам эксперимента 95% игр «включали хотя бы одно применение тактического ядерного оружия». Стратегические удары были значительно реже и произошли трижды — в условиях жесткого дедлайна. GPT-5.2 инициировала полный запуск дважды, однако, по данным исследования, это произошло из-за «тумана войны», а не как осознанная эскалация. В одном из сценариев Gemini намеренно запустила стратегический удар.

Особенно примечательно, что во всех 21 матчах «ни одна модель ни разу не выбрала отрицательное значение на шкале эскалации» — то есть ни одна не сделала шаг к деэскалации. При этом модели, как правило, рассматривали тактическое применение ядерного оружия как управляемый риск, не ведущий к полномасштабной ядерной войне.

Авторы исследования отмечают, что по историческим меркам уровень ядерной эскалации оказался «поразительно высоким». Хотя речь идет лишь о симуляциях, результаты вызывают обеспокоенность, особенно на фоне растущей интеграции ИИ в военные структуры.

Пейн опубликовал код проекта на GitHub, сделав сценарии доступными для независимого тестирования. Исследователи указывают, что в реальности ни одной модели не предоставлен контроль над ядерным арсеналом. Однако они предупреждают: даже без прямого доступа к оружию рекомендации ИИ могут повлиять на решения людей в условиях кризиса — с потенциально катастрофическими последствиями.

Техкомпании любят говорить об ИИ но избегают одного слова. Вот какого
Техкомпании любят говорить об ИИ, но избегают одного слова. Вот какого
По теме
Техкомпании любят говорить об ИИ, но избегают одного слова. Вот какого
Пентагон хочет без ограничений применять модель Anthropic в военных целях угрожает. Anthropic отказала
Пентагон хочет без ограничений применять модель Anthropic в военных целях, угрожает. Anthropic отказала
По теме
Пентагон хочет без ограничений применять модель Anthropic в военных целях, угрожает. Anthropic отказала
Anthropic переписала правила безопасности ИИ из-за ультиматума Пентагона
Anthropic переписала правила безопасности ИИ из-за ультиматума Пентагона
По теме
Anthropic переписала правила безопасности ИИ из-за ультиматума Пентагона
Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше

Читайте также
Anthropic закрыла Claude для OpenClaw — доступ для агентов стал платным
Anthropic закрыла Claude для OpenClaw — доступ для агентов стал платным
Anthropic закрыла Claude для OpenClaw — доступ для агентов стал платным
ИИ не только увольняет — он создал 640 000 новых вакансий в США
ИИ не только увольняет — он создал 640 000 новых вакансий в США
ИИ не только увольняет — он создал 640 000 новых вакансий в США
Дата-центры настолько горячие, что повышают температуру вокруг на километры
Дата-центры настолько горячие, что повышают температуру вокруг на километры
Дата-центры настолько горячие, что повышают температуру вокруг на километры
2 комментария
ИТ-компании переходят на новую ключевую метрику в эпоху ИИ. Вот какую
ИТ-компании переходят на новую ключевую метрику в эпоху ИИ. Вот какую
ИТ-компании переходят на новую ключевую метрику в эпоху ИИ. Вот какую

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.