«Загінуць усе»: галоўны крытык ШІ патрабуе спыніць распрацоўкі

46-гадовы Юдкоўскі больш за два дзесяцігоддзі выступае ў ролі «прарока канца свету» для Крамянёвай даліны. «Ёсць 99,5 працэнта верагоднасці, што ШІ заб’е мяне, — сказаў ён у інтэрв’ю. — І я не ўспрымаю гэта асабіста. Ён заб’е ўсіх».

Даследчык настойвае, што гаворка ідзе не пра гіпатэтычныя рызыкі, а пра рэальную пагрозу. «Калі любая кампанія ці група дзе-небудзь на планеце створыць штучны суперрозум з выкарыстаннем хаця б аддалена падобных да цяперашніх тэхналогій і ведаў, то ўсе людзі на Зямлі загінуць», — гаворыцца ў яго кнізе If Anyone Builds It, Everyone Dies, напісанай сумесна з прэзідэнтам MIRI Нэйтам Суарэсам.

Паводле слоў Юдкоўскі, галоўная мэта яго і калег — зусім не рэгуляванне і не запавольванне прагрэсу, а поўнае спыненне працы па стварэнні звышразумных сістэм. «Мы гаворым не пра тое, як іх выкарыстоўваць бяспечней, — падкрэслівае ён. — Мы гаворым, што іх не павінна быць наогул».

У Крамянёвай даліне Юдкоўскі вядомы ўжо шмат гадоў: ён папярэджвае кіраўнікоў кампаній і інжынераў, што гонка за стварэннем усё больш магутных мадэляў скончыцца трагедыяй. Цяпер ён звяртаецца да шырокай аўдыторыі, спадзеючыся, што грамадскі ціск прымусіць індустрыю перагледзець курс. «Я разумею, што гэта гучыць як вар’яцтва, — прызнае ён. — Але куды больш вар’яцтва ў тым, каб працягваць будаваць тэхналогіі, якія мы не разумеем і якія могуць знішчыць нас».