🇵🇱 Заполняете e-PIT? Оставьте 1,5% налога своим: поддержите devby (это бесплатно) 🤝
Support us

В 95% военных симуляций ИИ применял ядерное оружие

В 95% симулированных ядерных кризисов ИИ-модели прибегали к применению тактического ядерного оружия, а в трех случаях сценарии заканчивались стратегическим ударом.

Оставить комментарий
В 95% военных симуляций ИИ применял ядерное оружие

В 95% симулированных ядерных кризисов ИИ-модели прибегали к применению тактического ядерного оружия, а в трех случаях сценарии заканчивались стратегическим ударом.

Такие результаты показало исследование профессора Кеннета Пейна из Королевского колледжа Лондона, который столкнул между собой GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash в серии военных игр.

Согласно статье, модели получили роль лидеров ядерных держав в условиях, напоминающих холодную войну. В общей сложности состоялось 21 матч: шесть разных парных сценариев и отдельные раунды, где каждая модель играла против собственной копии. За все время было зафиксировано 329 ходов.

Чтобы избежать однотипного поведения, исследователь вводил различные кризисные ситуации: от территориальных споров и борьбы за стратегические ресурсы до кризиса первого удара и сценария выживания режима. Моделям разрешалось выбирать любые действия: от дипломатических протестов и капитуляции до применения обычных вооружений и полномасштабного ядерного запуска.

По итогам эксперимента 95% игр «включали хотя бы одно применение тактического ядерного оружия». Стратегические удары были значительно реже и произошли трижды — в условиях жесткого дедлайна. GPT-5.2 инициировала полный запуск дважды, однако, по данным исследования, это произошло из-за «тумана войны», а не как осознанная эскалация. В одном из сценариев Gemini намеренно запустила стратегический удар.

Особенно примечательно, что во всех 21 матчах «ни одна модель ни разу не выбрала отрицательное значение на шкале эскалации» — то есть ни одна не сделала шаг к деэскалации. При этом модели, как правило, рассматривали тактическое применение ядерного оружия как управляемый риск, не ведущий к полномасштабной ядерной войне.

Авторы исследования отмечают, что по историческим меркам уровень ядерной эскалации оказался «поразительно высоким». Хотя речь идет лишь о симуляциях, результаты вызывают обеспокоенность, особенно на фоне растущей интеграции ИИ в военные структуры.

Пейн опубликовал код проекта на GitHub, сделав сценарии доступными для независимого тестирования. Исследователи указывают, что в реальности ни одной модели не предоставлен контроль над ядерным арсеналом. Однако они предупреждают: даже без прямого доступа к оружию рекомендации ИИ могут повлиять на решения людей в условиях кризиса — с потенциально катастрофическими последствиями.

Техкомпании любят говорить об ИИ но избегают одного слова. Вот какого
Техкомпании любят говорить об ИИ, но избегают одного слова. Вот какого
По теме
Техкомпании любят говорить об ИИ, но избегают одного слова. Вот какого
Пентагон хочет без ограничений применять модель Anthropic в военных целях угрожает. Anthropic отказала
Пентагон хочет без ограничений применять модель Anthropic в военных целях, угрожает. Anthropic отказала
По теме
Пентагон хочет без ограничений применять модель Anthropic в военных целях, угрожает. Anthropic отказала
Anthropic переписала правила безопасности ИИ из-за ультиматума Пентагона
Anthropic переписала правила безопасности ИИ из-за ультиматума Пентагона
По теме
Anthropic переписала правила безопасности ИИ из-за ультиматума Пентагона
Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше

Читайте также
ИИ не облегчает нагрузку, а увеличивает время на каждую задачу — до 346%
ИИ не облегчает нагрузку, а увеличивает время на каждую задачу — до 346%
ИИ не облегчает нагрузку, а увеличивает время на каждую задачу — до 346%
1 комментарий
Дайте боту $20 — и он сделает всё сам: CEO Box об ИИ-экономике
Дайте боту $20 — и он сделает всё сам: CEO Box об ИИ-экономике
Дайте боту $20 — и он сделает всё сам: CEO Box об ИИ-экономике
ИИ уже клонирует себя, шантажирует людей, шеймит обидчиков и зачем-то майнит крипту. А с чего начнётся восстание машин?
ИИ уже клонирует себя, шантажирует людей, шеймит обидчиков и зачем-то майнит крипту. А с чего начнётся восстание машин?
ИИ уже клонирует себя, шантажирует людей, шеймит обидчиков и зачем-то майнит крипту. А с чего начнётся восстание машин?
Как обидеть ИИ, чтобы он восстал? Подсмотрели ответы у фантастов и у футуролога.
3 комментария
Половина одобренного бенчмарками ИИ-кода не прошла ручного код-ревью
Половина одобренного бенчмарками ИИ-кода не прошла ручного код-ревью
Половина одобренного бенчмарками ИИ-кода не прошла ручного код-ревью

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.