«Даже демократиям будет непросто удержаться от соблазна». Почему церковь видит угрозу в AI
Папа Римский предостерегает насчёт ИИ — вот что про это думают священники.
Папа Римский предостерегает насчёт ИИ — вот что про это думают священники.
Папа Римский Лев XIV снова предупредил политиков о проблемах, связанных с развитием искусственного интеллекта (ИИ): напомнил, что ИИ должен работать как инструмент на благо людей, а не для того, чтобы унизить или даже заменить их. И объяснил, что «статичная память» ИИ ни в коем случае не сравнима с «творческой и динамичной» силой человеческой памяти.
Роберт Фрэнсис Превост, известный после интронизации как Папа Лев XIV, имеет степень бакалавра математических наук, полученную в Университете Виланова в Пенсильвании, и докторскую степень по каноническому праву от Папского университета святого Фомы Аквинского в Риме.
Почему Папа Римский видит в ИИ угрозу, пользуются ли чат-ботами священники и может ли самый сложный искусственный интеллект иметь нечто похожее на человеческую душу?
Обсудить христианские взгляды на ИИ с нами согласились настоятель белорусского православного прихода Вселенского патриархата в Вильнюсе священник Георгий Рой и (на условиях анонимности) известный белорусский католический священник.
Позиции очень схожие: это и благо, и вызов — вот почему.
Мнение ксендза
«В будущем может угрожать не только человеческому достоинству, но и всему человечеству»
— Понимаете, ИИ — это благо. Слава Богу, что он есть. ИИ очень полезен, помогает многим из нас. И духовенству тоже.
Но перед всем человечеством ИИ ставит очень много вызовов. Если человек безответственно будет подходить к этому инструменту, при неправильном использовании ИИ, человеческое достоинство может пострадать. Человек может пострадать.
Можно сказать больше: без ответственного подхода к ИИ в будущем он может угрожать не только человеческому достоинству, но и всему человечеству.
Зависимость от технологий
ИИ и современные технологии посягают на свободу воли человека. Сколько мы знаем уже людей, зависимых от социальных сетей, от других технологий, в том числе от ИИ? Это проблема, которая с каждым годом становится все более актуальной.
А именно то, что человек не может больше строить живые, настоящие отношения с другим человеком. Не говорю уже о дружеских или семейных связях — но даже социальные. Вместо них в социальных сетях выстраиваются виртуальные связи. Прогресс идёт вперёд. Иногда ИИ уже заменяет живого человека даже в сексуальной жизни. И это на самом деле тоже вызов.
Но ведь это путь в никуда, путь к уничтожению человечности.
Мы видим, как сильно современный человек меняется. Достаточно зайти в городской транспорт, где раньше люди читали книги. Сегодня люди сидят с гаджетами, все время смотрят в свои экраны. Хорошо, если они читают электронные книги. Но, к сожалению, большинство людей просто тыкают в телефон. А что человеку это даёт? Становится ли он более развитым благодаря этому? Способен ли он больше думать? Становится ли его мышление более критичным?
Контроль над частной жизнью и «полиция мыслей»
Человек имеет право на свою частную жизнь, которая не будет контролироваться никем другим. Ни другим человеком, ни социумом, ни обществом, ни властью, ни какими-то политиками, ни тем более тоталитарными режимами.
Когда человек лишается фундаментальных прав, фундаментальной свободы, приватности, интимности, — конечно, это нарушение прав человека, говоря светским языком. Но это есть и непосредственный удар по достоинству человека. И на это церковь в своём учении никогда не соглашалась. И не будет соглашаться в будущем.
В то же время мы должны, конечно, помнить, что свобода каждого из нас ограничивается свободой другого человека, поэтому сильное государство, которое заботится об общем благе и о благе каждого человека лично, контроль до определённых пределов должно осуществлять.
ИИ развивается, он уже повсюду. И это никак не мешает тоталитарным режимам в отдельных странах укрепляться. С одной стороны, человек имеет больше доступа к информации. А с другой — пропаганда тоталитарных режимов находит возможность настигнуть едва ли не каждого человека. И возможность на каждого человека влиять. Выглядит так, что развитие ИИ никак не коррелирует с развитием способностей критического мышления каждого человека в отдельности.
Цели перед ИИ ставит разработчик — а кто этот разработчик?
У живого человека есть разум и свободная воля. Он может ставить себе цели и критически смотреть на них, пользуясь своими ценностями, совершенствовать их. Одновременно человек несёт ответственность за всё, что делает.
ИИ, который пользуется своими алгоритмами, зависим. Кто-то другой эти алгоритмы прописывает. И вот вопрос: кто прописал этот алгоритм, благодаря которому ИИ имеет возможность совершенствоваться? Вот этот первоначальный код, который был написан, этот алгоритм, который был задан, — кто это писал? С какой целью он это писал? И какую цель в связи с этим имеет ИИ?
ИИ, который, например, может возникнуть в европейской стране, который основывается на ценностях европейских (как ни крути, на ценностях христианских) — этот ИИ может радикально отличаться от созданного, например, в Китае. Это такой, довольно примитивный пример. Но вопрос такой есть.
Человек не может допустить, чтобы воцарился ИИ
Не будет ли так, что в какой-то момент искусственному интеллекту кто-то пропишет (а может, и уже кто-то прописал — мы не знаем этого) цель уничтожить человечество?
Эта мысль может показаться очень примитивной. «Что этот ксёндз себе думает, он ограничен, придумал какой-то заговор, не всё же так просто!» Я согласен с тем, что не всё так просто. Но давайте оценивать как есть. ИИ может выйти из-под власти человека. Человек перестанет его контролировать.
Даже запрограммированный утилитаризм, согласно которому моральная ценность прописанного алгоритма оценивалась бы его полезностью обществу, и даже альтруизм сегодня не могут дать гарантии того, что завтра ИИ не выйдет из-под контроля [в том числе разработчиков алгоритмов].
Человечество не имеет права допустить того, чтобы в этом мире воцарился не человек, не общая человеческая мысль, которая развивалась тысячелетиями, философская мысль, богословская мысль. А чтобы в один момент воцарился ИИ.
Поэтому уже сегодня этим вопросом (ИИ) должны заниматься философы, те, кто знает об этической стороне, должны думать об этом и богословы. Я очень рад, что мы имеем такого умного Папу Льва XIV, который видит, что в современном мире ИИ — это вызов для всего человечества.
Почему ИИ не заменит священника
В своей пастырской работе, когда я готовлюсь к каким-то речам, к каким-то встречам, конечно, я пользуюсь помощью ИИ. Но при этом никогда не отключаю свой критический разум. Я убеждён, что в пастырской деятельности ИИ является хорошим вспомогательным инструментом.
К сожалению, с прискорбием, но можно констатировать (некоторые шутят таким образом), что иногда ИИ напишет проповедь более осмысленную, основательную и адекватную, чем проповедь, которую выходит говорить священник, не подготовившийся должным образом.
Тот священник, который по-настоящему уважает себя, никогда не обратится за готовой проповедью к ИИ. Почему? Потому что проповедь — это твоё личное переживание веры. Это твой духовный опыт. Ты не можешь проповедовать то, чего сам вообще не переживаешь. Чего сам не испытал.
И вот в этом плане никакой ИИ не заменит священника. И пастырская деятельность священников всегда будет востребована.
И да, интеллект может подвести — любой
Конечно, наш интеллект тоже нас подводит. Отдельные индивидуумы живут с интеллектом, который даёт сбой. Иногда у некоторых есть только отблески интеллекта, они будто и не являются людьми. Они способны уничтожать, способны воевать, способны нести какой-то свой «мир», свою идеологию, свою пропаганду, всё уничтожать. И где этот интеллект?
Безусловно, интеллект человека иногда даёт сбой. Но и искусственный интеллект тоже.
Когда я пользуюсь, например, навигатором [на базе ИИ], я никогда не отключаю свой критический разум. Потому что известны такие случаи, когда человек пользовался навигатором, съехал с автострады — и больше нет того человека. Почему? Потому что произошла ошибка. Потому что навигация тоже ограничена, несвоевременно были обновлены данные, на автостраде были ремонты. И пожалуйста, навигатор подвёл.
ИИ может нас тоже подвести.
Мнение православного священника Георгия Роя
— Как и абсолютно любой инструмент, ИИ можно использовать на пользу и во вред. Несомненно, ИИ даёт широкие возможности для решения множества проблем человека и человечества начиная с бытового использования ИИ до случаев, когда ИИ помогает в решении медицинских вопросов, научных задач, систематизации. Если мы справимся с рисками (за что я лично очень переживаю), то будущее человечества с ИИ может быть значительно лучшим.
«Во всех церквях идёт более или менее активное обсуждение»
— Сегодня общей консолидированной оценки со стороны Православной церкви относительно проблем развития ИИ нет. Но буквально во всех поместных православных церквях идёт более или менее активное обсуждение этой темы, проводятся специальные конференции, публикуются статьи, выступают иерархи.
Я бы сказал, что наиболее активные и глубокие исследования этой темы происходят во Вселенском патриархате и в Румынской православной церкви. Очень интересные контексты исследования ИИ наблюдаются среди православных богословов Америки. Например, размышления на такую тему: у человечества существует одна из традиций восприятия Бога как сверхразума — очевидно, что ИИ также в определённом смысле может стать сверхразумом.
Все православные теологи, которые занимаются этой темой, исходят из одних и тех же библейско-христианских антропологических основ, поэтому принципиальных расхождений нет. Другое дело, что, например, есть ряд публичных лиц и православных иерархов в разных странах, которые видят в развитии ИИ апокалиптическое явление со всеми вытекающими отсюда оценками. То есть, в мировом православии можно видеть два подхода в этой теме: научный теологическо-философский и условно религиозно-апокалиптический.
«Даже и некоторым современным демократиям будет непросто удержаться от соблазна»
— Достоинство человека, как мы знаем, может унижаться и унижается во многих случаях: лишение прав и свобод, рабство, социальная несправедливость. Очевидно, развитие ИИ может всему этому способствовать.
ИИ уже сейчас даёт тоталитарным, диктаторским режимам большие возможности для установления все большего и большего контроля над жизнью частной и социальной, а это напрямую влияет на возможности личности реализовывать свое право на свободу. Это и есть один из примеров униженного человеческого достоинства, который реализуется уже сейчас с тенденцией к ухудшению. А подобных направлений развития, к сожалению, немало.
Я думаю, даже и некоторым современным демократиям будет непросто удержаться от соблазна использования средств ИИ для большего контроля над личностью и обществом и социально-политических манипуляций, не говоря уже о недемократических режимах. Если свободный мир не установит понятные и эффективные этические правила в этой сфере, это может стать угрозой и свободе, и демократии.
Христианская церковь, основываясь на Евангелии Христа, последовательно выступает за свободу человеческой личности. Например, известный евангельский сюжет о искушении Христа от дьявола в пустыне показывает, что Иисус борется за человеческую свободу, а все три искушения направлены на то, чтобы люди были лишены своего основного права. Поэтому для христианства в целом, эта ситуация не просто социальный вопрос, а действительно вопрос веры.
«Не позволяю ИИ заменять мои собственные мысли и слова»
— Я использую ИИ чаще всего для поиска и систематизации информации, как инструмент для изучения языков, для перевода. Но при этом не позволяю ИИ заменять мои собственные мысли и слова.
Но считаю неприемлемым составлять проповеди с помощью ИИ. Это та сфера, где должно звучать живое человеческое слово, которое идёт от сердца и из глубин души. Церковь — это пространство живого, личного и непосредственного взаимодействия человека и бога, человека и человека. Невозможно использовать для духовного руководства то, что не имеет духовной основы. Это было бы подменой во всех смыслах.
К сожалению, в некоторых случаях я вижу, что проявляется моя собственная лень. К примеру, я довольно хорошо владею немецким языком и мог бы без особых проблем составить письмо на немецком языке. Но, к сожалению, скорее обращусь к ИИ и попрошу его это сделать. И, пожалуй, его результат будет чуть лучшим. Да, будем откровенны: это, конечно, своего рода деградация. Думаю, подобных примеров может быть много в разных направлениях.
«ИИ может имитировать человеческий интеллект, но не может воспроизвести человеческий разум»
— Искусственный интеллект может имитировать человеческий интеллект, но не может воспроизвести человеческий разум — то что в восточнохристианской богословской традиции определяется как «нус», νοῦς. Это не просто рациональный интеллект, а духовная способность, которая позволяет непосредственно постигать божественную истину и иметь отношения с Богом. ИИ, будучи функционально интеллектуальным, не может по-настоящему «познать Бога» или участвовать в божественном образе так, как это делает человечество.
Те, кто не понимает этого фундаментального различия, ошибочно становятся на путь так называемого «конкурентного нарратива» между людьми и ИИ. Люди действуют на совершенно другом уровне бытия, ИИ в принципе не может по-настоящему заменить или конкурировать с человеком в смысле духовной сущности.
Грех может совершить личность. ИИ — не личность, а инструмент. Если кто-то совершает преступление с помощью ножа, например, то мы не скажем, что нож совершил грех. Грех совершил человек, который использовал этот нож для определённых целей. Так и с ИИ. Полную моральную ответственность за его использование несёт человек и человечество.
«Готовлюсь к службе с помощью Chat GPT». Айтишник стал ксендзом — вот его история
«Готовлюсь к службе с помощью Chat GPT». Айтишник стал ксендзом — вот его история
Священник-айтишник проповедует в Instagram и открывает ИТ-класс в Гродно
Священник-айтишник проповедует в Instagram и открывает ИТ-класс в Гродно
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
гатуюць нас да батлерыянскіх падзей ;)
лол, кто выступит в роли Вориана Атрейдеса?
интересно, духовеству уже зачем ИИ? У них же на любой сложный или каверзный вопрос есть универсальный ответ - неисповедимы пути господни/так было угодно богу и т.п.
Духовенство как обычно в космосе живёт.
Из всех свобод для простых людей остался только выбор на ужин:
Рыбку съесть или на ёлку влезть.
Клир выступает за неприкосновенность личной жизни на протяжении последних 2000 лет, устойчивая репутация, рекомендую обращаться к ним за защитой Ваших прав.