«Мы научили песок думать»: глава Google DeepMind предупредил о близости сингулярности и призвал срочно спасать человечество
Основатель и руководитель Google DeepMind Демис Хассабис выступил с открытым и очень тревожным манифестом. По его мнению, человечество находится у подножия «сингулярности», а до создания полноценного искусственного общего интеллекта (AGI), способного превзойти человеческий мозг, осталось всего несколько лет. Хассабис предупреждает, что у людей есть лишь короткое «драгоценное окно», чтобы взять технологию под контроль, пока она не изменила суть человеческой цивилизации.
Основатель и руководитель Google DeepMind Демис Хассабис выступил с открытым и очень тревожным манифестом. По его мнению, человечество находится у подножия «сингулярности», а до создания полноценного искусственного общего интеллекта (AGI), способного превзойти человеческий мозг, осталось всего несколько лет. Хассабис предупреждает, что у людей есть лишь короткое «драгоценное окно», чтобы взять технологию под контроль, пока она не изменила суть человеческой цивилизации.
Рождение новой эры
В своём эссе Хассабис подчеркивает, что AGI нельзя сравнивать с обычными технологическими прорывами вроде интернета или мобильной связи. Масштаб грядущих изменений будет в 10 раз мощнее промышленной революции, но произойдёт всё в 10 раз быстрее. ИИ может как подарить человечеству эру изобилия и победу над смертельными болезнями, так и стать источником беспрецедентных угроз:
«AGI гораздо ближе к открытию электричества или огня. Если задуматься, мы, по сути, нашли способ заставить песок думать. Это чудо. Но то, что мы коллективно сделаем сейчас, определит, как развернётся следующий этап развития нашей цивилизации».
Глава DeepMind признает, что сейчас индустрия в тисках коммерческой и геополитической гонки. Это ускоряет прогресс, но технологии развиваются быстрее, чем люди успевают их осознавать. По мере приближения к AGI мир неизбежно столкнется с новыми вызовами — от киберугроз до биологических и ядерных рисков. Особую опасность, по мнению Хассабиса, будут представлять «агентные» системы, способные к постоянному самосовершенствованию.
План Хассабиса: регулятор по образу Уолл-стрит
В качестве экстренной меры Хассабис предлагает США взять на себя лидерство и создать специальный надзорный орган — Комитет по стандартам передового ИИ (Standards Body). В качестве модели он предлагает использовать FINRA — американскую неправительственную организацию, которая регулирует финансовые рынки. Финансировать нового ИИ-регулятора должен сам техносектор, чтобы у ведомства были ресурсы на закупку мощностей и наём лучших мировых учёных.
Всё в наших руках: СЕО DeepMind говорит, что ИИ может сделать человека гением или тупицей
Все разработчики передовых систем (так называемые Frontier Labs) должны будут за 30 дней до релиза добровольно отправлять свои модели на проверку. Эксперты будут тестировать их на склонность к обману, попытки обойти барьеры безопасности, а также проверять их возможности в сфере кибероружия и биотехнологий. В будущем, когда система докажет свою эффективность, эти проверки должны стать обязательным условием для допуска ИИ на рынок США. При этом стартапы и научные институты с более простыми моделями от этих проверок освободят.
Инициатива Хассабиса появилась на фоне недавних попыток администрации Дональда Трампа ограничить выпуск некоторых ИИ-моделей от OpenAI и Anthropic. Глава DeepMind предлагает заменить хаотичное вмешательство политиков понятным, гибким и научно обоснованным процессом. При этом авторитетный статус «Frontier Lab» должен стать престижным знаком качества для компаний.
Вопросы, которые нельзя доверять только программистам
Даже если технические проблемы безопасности ИИ удастся решить, человечеству придётся столкнуться со сложнейшими экономическими и философскими вопросами — например, как будет выглядеть экономика в мире, где ресурсы перестанут быть ограничителем прогресса, или в чём люди будут находить смысл жизни, когда их интеллектуальный труд перестанет быть уникальным.
«Какими ценностями мы хотим руководствоваться в жизни, в чём будут заключаться наши смысл и цель, и как может измениться сама природа человека? Очевидно, что решение этих вопросов нельзя и не нужно оставлять исключительно на усмотрение технарей. Для того чтобы помочь определить эту новую главу, должны объединиться все слои общества», — отмечает Хассабис.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.