«Нават дэмакратыям будзе няпроста ўстрымацца ад спакусы». Чаму царква бачыць пагрозу ў AI
Папа Рымскі перасцерагае наконт ШІ — вось што пра гэта думаюць святары.
Папа Рымскі Леў XIV зноў папярэдзіў палітыкаў пра праблемы, звязаныя з развіццём штучнага інтэлекту (ШІ): нагадаў, што ШІ павінен працаваць як інструмент на карысць людзей, а не для таго, каб прынізіць ці нават замяніць іх. І растлумачыў, што «статычная памяць» ШІ ні ў якім разе не параўнальная з «творчай і дынамічнай» сілай чалавечай памяці.
Роберт Фрэнсіс Прэвост, вядомы пасля інтранізацыі як Папа Леў XIV, мае ступень бакалаўра матэматычных навук, атрыманую ва Універсітэце Віланова ў Пенсільваніі, і доктарскую ступень па кананічным праве ад Папскага ўніверсітэта святога Фамы Аквінскага ў Рыме.
Чаму Папа Рымскі бачыць у ШІ пагрозу, ці карыстаюцца чат-ботамі святары і ці можа самы складаны штучны інтэлект мець нешта падобнае на чалавечую душу?
Абмеркаваць хрысціянскія погляды на ШІ з намі пагадзіліся настаяцель беларускага праваслаўнага прыходу Усяленскага патрыярхату ў Вільні святар Георгій Рой і (на ўмовах ананімнасці) вядомы беларускі каталіцкі святар.
Пазіцыі вельмі падобныя: гэта і дабро, і выклік — вось чаму.
Меркаванне ксяндза
«У будучыні можа пагражаць не толькі чалавечай годнасці, але і ўсяму чалавецтву»
— Разумееце, ШІ — гэта дабро. Слава Богу, што ён ёсць. ШІ вельмі карысны, дапамагае многім з нас. І духавенству таксама.
Але перад усім чалавецтвам ШІ ставіць вельмі шмат выклікаў. Калі чалавек безадказна будзе падыходзіць да гэтага інструмента, пры няправільным выкарыстанні ШІ, чалавечая годнасць можа пацярпець. Чалавек можа пацярпець.
Можна сказаць больш: без адказнага падыходу да ШІ ў будучыні ён можа пагражаць не толькі чалавечай годнасці, але і ўсяму чалавецтву.
Залежнасць ад тэхналогій
ШІ і сучасныя тэхналогіі замахваюцца на свабоду волі чалавека. Колькі мы ведаем ужо людзей, залежных ад сацыяльных сетак, ад іншых тэхналогій, у тым ліку ад ШІ? Гэта праблема, якая з кожным годам робіцца ўсё больш актуальнай.
А менавіта тое, што чалавек не можа больш будаваць жывыя, сапраўдныя адносіны з іншым чалавекам. Не кажу ўжо пра сяброўскія ці сямейныя сувязі — але нават сацыяльныя. Замест іх у сацыяльных сетках выбудоўваюцца віртуальныя сувязі. Прагрэс ідзе наперад. Часам ШІ ўжо замяняе жывога чалавека нават у сексуальным жыцці. І гэта насамрэч таксама выклік.
Але ж гэта шлях у нікуды, шлях да знішчэння чалавечнасці.
Мы бачым, як моцна сучасны чалавек змяняецца. Дастаткова зайсці ў гарадскі транспарт, дзе раней людзі чыталі кнігі. Сёння людзі сядзяць з гаджэтамі, увесь час глядзяць у свае экраны. Добра, калі яны чытаюць электронныя кнігі. Але, на жаль, большасць людзей проста тыкаюць у тэлефон. А што чалавеку гэта дае? Ці становіцца ён больш развітым дзякуючы гэтаму? Ці здольны ён больш думаць? Ці становіцца яго мысленне больш крытычным?
Кантроль над прыватным жыццём і «паліцыя думак»
Чалавек мае права на сваё прыватнае жыццё, якое не будзе кантралявацца нікім іншым. Ні іншым чалавекам, ні соцыумам, ні грамадствам, ні ўладай, ні нейкімі палітыкамі, ні тым больш таталітарнымі рэжымамі.
Калі чалавек пазбаўляецца фундаментальных правоў, фундаментальнай свабоды, прыватнасці, інтымнасці, — вядома, гэта парушэнне правоў чалавека, кажучы свецкай мовай. Але гэта ёсць і непасрэдны ўдар па годнасці чалавека. І на гэта царква ў сваім вучэнні ніколі не пагаджалася. І не будзе пагаджацца ў будучыні.
У той жа час мы павінны, вядома, памятаць, што свабода кожнага з нас абмяжоўваецца свабодай іншага чалавека, таму моцная дзяржава, якая клапоціцца пра агульнае дабро і пра дабро кожнага чалавека асабіста, кантроль да пэўных межаў павінна ажыццяўляць.
ШІ развіваецца, ён ужо паўсюль. І гэта ніяк не перашкаджае таталітарным рэжымам у асобных краінах умацоўвацца. З аднаго боку, чалавек мае больш доступу да інфармацыі. А з другога — прапаганда таталітарных рэжымаў знаходзіць магчымасць дасягнуць ледзь не кожнага чалавека. І магчымасць на кожнага чалавека ўплываць. Выглядае так, што развіццё ШІ ніяк не карэлюе з развіццём здольнасцей крытычнага мыслення кожнага чалавека паасобку.
Мэты перад ШІ ставіць распрацоўшчык — а хто гэты распрацоўшчык?
У жывога чалавека ёсць розум і свабодная воля. Ён можа ставіць сабе мэты і крытычна глядзець на іх, карыстаючыся сваімі каштоўнасцямі, удасканальваць іх. Адначасова чалавек нясе адказнасць за ўсё, што робіць.
ШІ, які карыстаецца сваімі алгарытмамі, залежны. Нехта іншы гэтыя алгарытмы прапісвае. І вось пытанне: хто прапісаў гэты алгарытм, дзякуючы якому ШІ мае магчымасць удасканальвацца? Вось гэты першапачатковы код, які быў напісаны, гэты алгарытм, які быў зададзены, — хто гэта пісаў? З якой мэтай ён гэта пісаў? І якую мэту ў сувязі з гэтым мае ШІ?
ШІ, які, напрыклад, можа ўзнікнуць у еўрапейскай краіне, які грунтуецца на каштоўнасцях еўрапейскіх (як ні круці, на каштоўнасцях хрысціянскіх) — гэты ШІ можа радыкальна адрознівацца ад створанага, напрыклад, у Кітаі. Гэта такі, даволі прымітыўны прыклад. Але пытанне такое ёсць.
Чалавек не можа дапусціць, каб узгадаваўся ШІ
Ці не будзе так, што ў нейкі момант штучнаму інтэлекту нехта прапіша (а можа, і ўжо нехта прапісаў — мы не ведаем гэтага) мэту знішчыць чалавецтва?
Гэтая думка можа падацца вельмі прымітыўнай. «Што гэты ксёндз сабе думае, ён абмежаваны, прыдумаў нейкую змову, не ўсё ж так проста!» Я згодны з тым, што не ўсё так проста. Але давайце ацэньваць як ёсць. ШІ можа выйсці з-пад улады чалавека. Чалавек перастане яго кантраляваць.
Нават запраграмаваны ўтылітарызм, згодна з якім маральная каштоўнасць прапісанага алгарытму ацэньвалася б яго карыснасцю грамадству, і нават альтруізм сёння не могуць даць гарантыі таго, што заўтра ШІ не выйдзе з-пад кантролю [у тым ліку распрацоўшчыкаў алгарытмаў].
Чалавецтва не мае права дапусціць таго, каб у гэтым свеце запанаваў не чалавек, не агульная чалавечая думка, якая развівалася тысячагоддзямі, філасофская думка, багаслоўская думка. А каб у адзін момант запанаваў ШІ.
Таму ўжо сёння гэтым пытаннем (ШІ) павінны займацца філосафы, тыя, хто ведае пра этычны бок, павінны думаць пра гэта і багасловы. Я вельмі рады, што мы маем такога разумнага Папу Льва XIV, які бачыць, што ў сучасным свеце ШІ — гэта выклік для ўсяго чалавецтва.
Чаму ШІ не заменіць святара
У сваёй пастырскай працы, калі я рыхтуюся да якіх-небудзь прамоў, да якіх-небудзь сустрэч, вядома, я карыстаюся дапамогай ШІ. Але пры гэтым ніколі не адключаю свой крытычны розум. Я перакананы, што ў пастырскай дзейнасці ШІ з’яўляецца добрым дапаможным інструментам.
На жаль, з сумам, але можна канстатаваць (некаторыя жартуюць такім чынам), што часам ШІ напіша пропаведзь больш асэнсаваную, грунтоўную і адэкватную, чым пропаведзь, якую выходзіць гаварыць святар, які не падрыхтаваўся належным чынам.
Той святар, які па-сапраўднаму паважае сябе, ніколі не звернецца за гатовай пропаведдзю да ШІ. Чаму? Таму што пропаведзь — гэта тваё асабістае перажыванне веры. Гэта твой духоўны досвед. Ты не можаш прапаведаваць тое, чаго сам увогуле не перажываеш. Чаго сам не зведаў.
І вось у гэтым плане ніякі ШІ не заменіць святара. І пастырская дзейнасць святароў заўсёды будзе запатрабаванай.
І так, інтэлект можа падвесці — любы
Вядома, наш інтэлект таксама нас падводзіць. Асобныя індывідуумы жывуць з інтэлектам, які дае збой. Часам у некаторых ёсць толькі пробліскі інтэлекту, яны нібыта і не з’яўляюцца людзьмі. Яны здольныя знішчаць, здольныя ваяваць, здольныя несці нейкі свой «мір», сваю ідэалогію, сваю прапаганду, усё знішчаць. І дзе гэты інтэлект?
Безумоўна, інтэлект чалавека часам дае збой. Але і штучны інтэлект таксама.
Калі я карыстаюся, напрыклад, навігатарам [на базе ШІ], я ніколі не адключаю свой крытычны розум. Таму што вядомыя такія выпадкі, калі чалавек карыстаўся навігатарам, з’ехаў з аўтастрады — і больш няма таго чалавека. Чаму? Таму што адбылася памылка. Таму што навігацыя таксама абмежаваная, несвоечасова былі абноўлены дадзеныя, на аўтастрадзе былі рамонты. І калі ласка, навігатар падвёў.
ШІ можа нас таксама падвесці.
Меркаванне праваслаўнага святара Георгія Роя
— Як і абсалютна любы інструмент, ШІ можна выкарыстоўваць на карысць і на шкоду. Несумненна, ШІ дае шырокія магчымасці для вырашэння мноства праблем чалавека і чалавецтва пачынаючы з побытавага выкарыстання ШІ да выпадкаў, калі ШІ дапамагае ў вырашэнні медыцынскіх пытанняў, навуковых задач, сістэматызацыі. Калі мы справімся з рызыкамі (за што я асабіста вельмі перажываю), то будучыня чалавецтва з ШІ можа быць значна лепшай.
«Ва ўсіх цэрквах ідзе больш ці менш актыўнае абмеркаванне»
— Сёння агульнай кансалідаванай ацэнкі з боку Праваслаўнай царквы адносна праблем развіцця ШІ няма. Але літаральна ва ўсіх памесных праваслаўных цэрквах ідзе больш ці менш актыўнае абмеркаванне гэтай тэмы, праводзяцца спецыяльныя канферэнцыі, публікуюцца артыкулы, выступаюць іерархі.
Я б сказаў, што найбольш актыўныя і глыбокія даследаванні гэтай тэмы адбываюцца ва Усяленскім патрыярхаце і ў Румынскай праваслаўнай царкве. Вельмі цікавыя кантэксты даследавання ШІ назіраюцца сярод праваслаўных багасловаў Амерыкі. Напрыклад, разважанні на такую тэму: у чалавецтва існуе адна з традыцый успрымання Бога як звышрозуму — відавочна, што ШІ таксама ў пэўным сэнсе можа стаць звышрозумам.
У цэлым жа, усе праваслаўныя тэолагі, якія займаюцца гэтай тэмай, сыходзяць з тых самых біблійна-хрысціянскіх антрапалагічных асноў, таму прынцыповых разыходжанняў няма. Іншая справа, што, напрыклад, ёсць шэраг публічных асоб і праваслаўных іерархаў у розных краінах, якія бачаць у развіцці ШІ апакаліптычную з’яву з усімі выцякаючымі адсюль ацэнкамі. То бок, у сусветным праваслаў’і можна бачыць два падыходы у гэтай тэме: навуковы тэалагічна-філасофскі і умоўна рэлігійна-апакаліптычны.
«Нават і некаторым сучасным дэмакратыям будзе няпроста ўтрымацца ад спакусы»
— Годнасць чалавека, як мы ведаем, можа прыніжацца і прыніжаецца ў многіх выпадках: пазбаўленне правоў і свабод, рабства, сацыяльная несправядлівасць. Відавочна, развіццё ШІ можа ўсяму гэтаму спрыяць.
ШІ ўжо зараз дае таталітарным, дыктатарскім рэжымам вялікія магчымасці для ўсталявання ўсё большага і большага кантролю над жыццём прыватным і сацыяльным, а гэта напрамую ўплывае на магчымасці асобы рэалізоўваць сваё права на свабоду. Гэта і ёсць адзін з прыкладаў прыніжанай чалавечай годнасці, які рэалізуецца ўжо зараз з тэндэнцыяй да пагаршэння. А падобных напрамкаў развіцця, на жаль, нямала.
Я думаю, нават і некаторым сучасным дэмакратыям будзе няпроста ўтрымацца ад спакусы выкарыстання сродкаў ШІ для большага кантролю над асобай і грамадствам і сацыяльна-палітычных маніпуляцый, не кажучы ўжо пра недэмакратычныя рэжымы. Калі свабодны свет не ўсталюе зразумелыя і эфектыўныя этычныя правілы ў гэтай сферы, гэта можа стаць пагрозай і свабодзе, і дэмакратыі.
Хрысціянская царква, засноўваючыся на Евангеллі Хрыста, паслядоўна выступае за свабоду чалавечай асобы. Напрыклад, вядомы евангельскі сюжэт пра спакушэнне Хрыста ад дыябла ў пустэльні паказвае, што Іісус змагаецца за чалавечую свабоду, а ўсе тры спакушэнні накіраваныя на тое, каб людзі былі пазбаўлены свайго асноўнага права. Таму для хрысціянства ў цэлым, гэтая сітуацыя не проста сацыяльнае пытанне, а сапраўды пытанне веры.
«Не дазваляю ШІ замяняць мае ўласныя думкі і словы»
— Я выкарыстоўваю ШІ часцей за ўсё для пошуку і сістэматызацыі інфармацыі, як інструмент для вывучэння моў, для перакладу. Але пры гэтым не дазваляю ШІ замяняць мае ўласныя думкі і словы.
Але лічу непрымальным складаць пропаведзі з дапамогай ШІ. Гэта тая сфера, дзе павінна гучаць жывое чалавечае слова, якое ідзе ад сэрца і з глыбінь душы. Царква — гэта прастора жывога, асабістага і непасрэднага ўзаемадзеяння чалавека і бога, чалавека і чалавека. Немагчыма выкарыстоўваць для духоўнага кіраўніцтва тое, што не мае духоўнай асновы. Гэта было б падменай ва ўсіх сэнсах.
На жаль, у некаторых выпадках я бачу, што праяўляецца мая ўласная лянота. Да прыкладу, я даволі добра валодаю нямецкай мовай і мог бы без асаблівых праблем скласці ліст на нямецкай мове. Але, на жаль, хутчэй звярнуся да ШІ і папрашу яго гэта зрабіць. І, бадай, яго вынік будзе крыху лепшым. Так, будзем шчырымі: гэта, вядома, свайго роду дэградацыя. Думаю, падобных прыкладаў можа быць шмат у розных напрамках.
«Штучны інтэлект можа імітаваць чалавечы інтэлект, але не можа ўзнавіць чалавечы розум»
— Штучны інтэлект можа імітаваць чалавечы інтэлект, але не можа ўзнавіць чалавечы розум — тое што ва ўсходнехрысціянскай багаслоўскай традыцыі вызначаецца як «нус», νοῦς. У праваслаўным багаслоўі нус — гэта не проста рацыянальны інтэлект, а духоўная здольнасць, якая дазваляе непасрэдна спасцігаць боскую ісціну і мець зносіны з Богам. ШІ, будучы функцыянальна інтэлектуальным, не можа па-сапраўднаму «спазнаць Бога» або ўдзельнічаць у боскім вобразе так, як гэта робіць чалавецтва.
Тыя, хто не разумее гэтага фундаментальнага адрознення, памылкова станавяцца на шлях так званага «канкурэнтнага наратыву» паміж людзьмі і ШІ. Людзі дзейнічаюць на зусім іншым узроўні быцця, ШІ у прынцыпе не можа па-сапраўднаму замяніць або канкураваць з чалавекам у сэнсе духоўнай сутнасці.
Грэх можа зрабіць асоба. ШІ — не асоба, а інструмент. Калі нехта робіць злачынства з дапамогаю нажа, напрыклад, то мы не скажам, што нож зрабіў грэх. Грэх зрабіў чалавек, які выкарыстаў гэты нож для пэўных мэтаў. Так і з ШІ. Поўную маральную адказнасць за яго выкарыстанне нясе чалавек і чалавецтва.
Читать на dev.by