Исследователи, связанные с Google DeepMind, предложили альтернативу привычному сценарию ИИ-сингулярности. Вместо появления одной сверхразумной системы они описывают будущее как сеть людей, ИИ-агентов и институтов, которые совместно принимают решения.
Исследователи, связанные с Google DeepMind, предложили альтернативу привычному сценарию ИИ-сингулярности. Вместо появления одной сверхразумной системы они описывают будущее как сеть людей, ИИ-агентов и институтов, которые совместно принимают решения.
Эту модель авторы называют Artificial Symbiotic Intelligence — «искусственным симбиотическим интеллектом». Авторы концепции — исследователи Бенджамин Браттон, Блез Агуэра-и-Аркас и Джеймс Маника.
По их мнению, общий ИИ (AGI) может возникнуть не как отдельная универсальная машина, а как свойство сложной социальной системы, где множество моделей, агентов и людей распределяют задачи и координируют работу. В таком подходе интеллект рассматривается прежде всего как коллективное явление.
Ученые указывают, что признаки подобной организации уже можно увидеть в рассуждающих моделях. Анализ цепочек рассуждений DeepSeek-R1 и QwQ-32B показал паттерны, напоминающие внутреннюю дискуссию: модели рассматривают разные точки зрения, возражают сами себе и пытаются согласовать противоречащие подходы. Такое поведение возникает в ходе обучения, а не задается разработчиками напрямую.
В будущем, предполагают авторы, пользователи будут взаимодействовать не с одним чат-ботом, а с целыми «роями» агентов. Интерфейсы могут превратиться в своеобразные карты сетей, где человек распределяет задачи между множеством специализированных систем. Для работы с ними потребуются другие навыки: не столько последовательное программирование, сколько координация, экспериментирование и умение делегировать задачи машинам.
При этом авторы считают, что ключевым станет не создание все более мощных отдельных моделей, а разработка правил и институтов, которые будут регулировать взаимодействие между людьми и агентами. В качестве аналогии они приводят суд: результат работы такой системы определяется не одним участником, а распределением ролей, процедурами, правилами и механизмами обратной связи.
Такой подход меняет и представление о проблеме "выравнивания" (alignment). Вместо попытки один раз «встроить» в ИИ фиксированный набор человеческих ценностей авторы предлагают рассматривать согласование интересов как постоянный процесс переговоров между людьми, агентами и институтами. Если AGI действительно окажется социальной системой, то регулировать придется одновременно модели, интерфейсы, институты и механизмы управления ими.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
как в анекдоте
-- а отдашь жизнь за партию?
-- конечно отдам, нахрена мне такая жизнь
Пользователь отредактировал комментарий 6 октября 2026, 13:58