Збіраць на пенсію — значыць рабіць стаўку на тое, што яна надыдзе. Прэзідэнт некамерцыйнага інстытута Machine Intelligence Research Institute (MIRI) у Берклі Нэйт Соарз вывучае ШІ-рызыкі больш за 12 гадоў і зусім не ўпэўнены, што тэхналогія дасць нам да гэтай будучыні дажыць.
Збіраць на пенсію — значыць рабіць стаўку на тое, што яна надыдзе. Прэзідэнт некамерцыйнага інстытута Machine Intelligence Research Institute (MIRI) у Берклі Нэйт Соарз вывучае ШІ-рызыкі больш за 12 гадоў і зусім не ўпэўнены, што тэхналогія дасць нам да гэтай будучыні дажыць.
«Я цяпер не адкладаю на пенсію. У мяне ёсць пенсійны рахунак з часоў працы ў Google, але я не папаўняў яго ўжо дзесяць гадоў», — заявіў Соарз у інтэрв’ю The Atlantic.
Соарз — сааўтар кнігі «If Anyone Builds It, Everyone Dies» («Калі хтось гэта збудуе, усе загінуць»), працаваў інжынерам у Google і Microsoft. Ягоны песімізм перасягае прагнозы іншых вядомых скептыкаў. Калі «хросны бацька ШІ» Джэфры Гінтан і даследчык з Anthropic Эван Губінгер ацэньваюць верагоднасць гібелі чалавецтва ад ШІ у бліжэйшае дзесяцігоддзе прыблізна ў 10%, то Соарз лічыць, што шанс катастрафічнага зыходу ў тых жа часавых межах перавышае 50%.
Паводле яго, дастаткова развітая ШІ-сістэма здольная сфарміраваць уласныя мэты, якія ідуць уразрэз з інтарэсамі чалавека, навучыцца абыходзіць кантроль, самастойна дадаткова навучацца і стварыць аўтаматызаваную інфраструктуру, якая дазваляе абыходзіцца без людзей. Пасля гэтага ШІ перабудуе планету пад свае задачы, што зробіць яе непрыдатнай для жыцця.
Соарз — не адзіны, хто сумняваецца ў мэтазгоднасці пенсійных назапашванняў. Але ягоныя матывы кардынальна адрозніваюцца ад поглядаў, напрыклад, Ілана Маска.
У студзені мільярдэр заклікаў не перажываць пра зберажэнні на старасць на 10-20 гадоў наперад па той прычыне, што дзякуючы развіццю ШІ, робататэхнікі і энергетыкі пенсійныя зберажэнні стануць папросту непатрэбнымі. У канцэпцыі кіраўніка Tesla і SpaceX неверагодны рост прадукцыйнасці прывядзе да эпохі дастатку з безумоўным высокім даходам, танымі таварамі, агульнадаступнай медыцынай і адукацыяй, дзе грошы ў звыклым разуменні страцяць сэнс.
Для Соарза ж з’яўленне звышразумнага ШІ — гэта экзістэнцыяльная пагроза, а не шлях да дастатку. Як і шэраг іншых экспертаў, ён заклікае ўрады цалкам спыніць навучанне універсальных ШІ-сістэм і перанакіраваць рэсурсы на вузкія прыкладныя задачы накшталт даследаванняў раку або бяспекі аўтапілотных аўтамабіляў.
Рашэнне, паводле Соарза, у тым, «каб папросту не будаваць тое, што ўсіх заб’е». «Я раблю ўсё магчымае, каб прадухіліць такі зыход. Не лічу, што яго нельга пазбегнуць».
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.