Так апісвае свае пачуцці вучоны-камп’ютаршчык Джэфры Хінтан. Ён глыбока заклапочаны тым, у што ператварыліся тэхналогіі, якія ён дапамог стварыць, і тым, што свет не ўспрымае ўзрастаючыя рызыкі сур’ёзна.
Так апісвае свае пачуцці вучоны-камп’ютаршчык Джэфры Хінтан. Ён глыбока заклапочаны тым, у што ператварыліся тэхналогіі, якія ён дапамог стварыць, і тым, што свет не ўспрымае ўзрастаючыя рызыкі сур’ёзна.
«Мне вельмі сумна ад таго, што я прысвяціў жыццё развіццю гэтых тэхналогій, а цяпер яны сталі надзвычай небяспечнымі, і людзі недаацэньваюць гэтыя небяспекі», — сказаў Хінтан у свежым інтэрв’ю BBC Newsnight.
Хінтан стаяў ля вытокаў нейрасетак, але па меры таго як ШІ-сістэмы становяцца ўсё магутнейшымі і шырэй выкарыстоўваюцца, ён ператварыўся ў аднаго з самых жорсткіх крытыкаў тэхналогіі.
Раней Хінтан папярэджваў, што ШІ можа прывесці да масавых страт працоўных месцаў, узмацніць сацыяльную нестабільнасць і перавысіць чалавека па інтэлекце. Ён таксама падкрэсліваў, што даследчыкам варта нашмат больш увагі надаваць таму, як навучаюцца прасунутыя сістэмы, і дамагацца таго, каб яны першапачаткова ствараліся з улікам інтарэсаў людзей.
У інтэрв’ю BBC Newsnight Хінтан заявіў, што чалавецтва набліжаецца да пераломнага моманту, калі вучоныя апынуцца на парозе стварэння машын, якія перавышаюць чалавека па ўзроўні інтэлекту.
«Мы ніколі раней не апыналіся ў сітуацыі, калі можам ствараць нешта разумнейшае, чым мы самі», — сказаў ён. І дадаў, што, на думку многіх экспертаў, ШІ перавысіць чалавечы інтэлект на працягу 20 гадоў, а ў шэрагу абласцей ужо зрабіў гэта. Кантроль над такімі сістэмамі можа аказацца куды больш складанай задачай, чым прынята лічыць, мяркуе Хінтан.
«Ідэя аб тым, што іх можна будзе проста выключыць, не спрацуе», — сказаў Хінтан, патлумачыўшы, што дастаткова развіты ШІ зможа пераканаць людзей не адключаць яго.
Па яго словах, самай сур’ёзнай памылкай чалавецтва зараз стала б не ўкладвацца ў даследаванні таго, як людзі змогуць суіснаваць з ШІ-сістэмамі. «Калі мы створым іх так, што ім будзе на нас напляваць, яны, хутчэй за ўсё, нас знішчаць», — папярэдзіў ён
Пры гэтым Хінтан падкрэсліў, што катастрафічныя сцэнары можна пазбегнуць — усё залежыць ад таго, як менавіта такія сістэмы будуць спраектаваны і кіравацца. У людзей па-ранейшаму ёсць «мноства варыянтаў таго, як іх ствараць», пакуль ШІ ў стадыі развіцця.
У той жа час Хінтан устрывожаны тым, што ШІ выходзіць у свет у момант, калі глабальнае супрацоўніцтва слабее, а аўтарытарныя тэндэнцыі ўзмацняюцца — гэта сур’ёзна ўскладняе магчымасць эфектыўнага рэгулявання. Ён параўнаў неабходнасць кіравання ШІ з міжнароднымі пагадненнямі аб кантролі над хімічнай і ядзернай зброяй.
Нягледзячы на ўсе асцярогі, Хінтан не стаў бы адмаўляцца ад сваёй працы ў галіне ШІ: «Яго ўсё роўна распрацавалі б і без мяне. Я не думаю, што прымаў якія-небудзь рашэнні, якія не прыняў бы зноў, валодаючы тымі ж ведамі».
Ён па-ранейшаму бачыць у ШІ вялікі патэнцыял — у прыватнасці, у адукацыі і медыцыне, прыводзячы ў прыклад ШІ-рэпетытараў і прагрэс у медыцынскай візуалізацыі. Але зараз, па яго словах, ключавым фактарам становіцца тэрміновасць.
«Мы знаходзімся ў надзвычай важнай кропцы гісторыі — вельмі хутка мы створым сістэмы, разумнейшыя, чым мы самі. А даследаванняў аб тым, ці можам мы мірна суіснаваць з імі, мы яшчэ не правялі. Нам вельмі важна заняцца гэтым проста зараз», — сказаў Хінтан.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.