Брытанска-канадскі навуковец Джэфры Хінтан, якога лічаць адным з галоўных піянераў у галіне штучнага інтэлекту, зноў выступіў з папярэджаннем. На ягоную думку, стварэнне звышразумнага ШІ — сістэм, якія перавышаюць магчымасці любога чалавека, кампаніі ці нават цэлай дзяржавы — нясе прамую пагрозу існаванню нашай цывілізацыі.
Брытанска-канадскі навуковец Джэфры Хінтан, якога лічаць адным з галоўных піянераў у галіне штучнага інтэлекту, зноў выступіў з папярэджаннем. На ягоную думку, стварэнне звышразумнага ШІ — сістэм, якія перавышаюць магчымасці любога чалавека, кампаніі ці нават цэлай дзяржавы — нясе прамую пагрозу існаванню нашай цывілізацыі.
«Распрацоўваць звышразум цяпер, калі няма ніякага навуковага кансенсусу адносна таго, ці можна зрабіць яго бяспечным і падкантрольным, было б вельмі недарэчна. Страта кантролю над ШІ, які разумнейшы за нас саміх, можа стаць катастрофай і нават прывесці да знікнення чалавецтва», — заявіў Хінтан.
Сваю заяву навуковец зрабіў на фоне ўнясення ў парламент Вялікабрытаніі законапраекта аб бяспецы штучнага звышразуму, падрыхтаванага грамадскай арганізацыяй ControlAI і прапанаванага лейбарыстам Алексам Собелам. Дакумент прапануе цалкам забараніць распрацоўку звышразумных ШІ-сістэм на тэрыторыі краіны. У ControlAI адзначаюць, што ініцыятыву ўжо падтрымалі больш за 135 парламентарыяў з розных партый. Пазіцыя аўтараў законапраекта зводзіцца да таго, што спецыялізаваныя нейрасеткі ў медыцыне і навуцы рухаюць прагрэс, але некантраляваны звышразум ставіць пад удар нацыянальную і глабальную бяспеку.
Галоўнай мішэнню крытыкі Хінтана стала імкненне тэхгігантаў пазбегнуць дзяржаўнага кантролю. Раней кіраўнікі вядучых лабараторый, у тым кіраўніка OpenAI Сэма Альтмана, заяўлялі, што жорсткія абмежаванні — накшталт прынятых у Еўрасаюзе — будуць «катастрафічнымі» для галіны, а распрацаваць абарончыя механізмы немагчыма, пакуль «праблемы не праявяцца на практыцы». Хінтан лічыць, што такі падыход можа прывесці да гібелі чалавецтва, і заклікае ўвесці заканадаўчыя межы, пакуль не стала занадта позна.
«Калі мы не зможам знайсці рашэнне, як нам выжыць, калі яны стануць значна разумнейшымі і магутнейшымі за нас, нам канец», — адзначаў ён яшчэ летась.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.