«Хросны бацька ШІ» і нобелеўскі лаўрэат Джэфры Гінтан папярэдзіў, што ўжо ў гэтым або наступным годзе тэхналогія можа спракаваць буйны інцыдэнт — накшталт каскаднага адключэння электраэнергіі або часовага калапсу банкаўскай сістэмы, паведамляе The Guardian.
«Хросны бацька ШІ» і нобелеўскі лаўрэат Джэфры Гінтан папярэдзіў, што ўжо ў гэтым або наступным годзе тэхналогія можа спракаваць буйны інцыдэнт — накшталт каскаднага адключэння электраэнергіі або часовага калапсу банкаўскай сістэмы, паведамляе The Guardian.
«Магчыма, нам было б лепш ніколі не ствараць гэтую тэхналогію», — заявіў 78-гадовы вучоны. Паводле яго, у бліжэйшае дзесяцігоддзе стане зразумела, ці здолеем мы справіцца з рызыкамі і прыйсці да «радыкальнага дастатку», ці нас чакае правал: вялікі разрыў паміж багатымі і беднымі, найцяжэйшыя культурныя праблемы, масавы беспрацоўны і фактычны распад грамадства.
Гінтан раскрытыкаваў кіраўнікоў тэхгігантаў, якія ўдзельнічаюць у гонцы за рынкі: «Я думаю, што Цукерберг, Маск і Сэм Альтман разумеюць рызыкі, але ім проста ўсё роўна. Яны аддаюць перавагу грошам. Гэта маё меркаванне». Вучоны падкрэсліў, што яго вельмі непакоіць знаходжанне Альтмана на чале OpenAI, хоць сам Альтман раней сцвярджаў, што свету варта давяраць распрацоўшчыкам, бо яны ўсведамляюць усю адказнасць.
Гаворачы пра дынаміку пагрозаў, Гінтан узгадаў летні ўзлом Hugging Face ШІ-агентамі OpenAI і назваў яго «папераджальным стрэлам», параўнальным з аварыяй на АЭС Тры-Майл-Айленд у 1979 годзе ў Пенсільваніі. Тады абышлося без масавых ахвяр, але сістэма дала збой і паказала, што тэхніка можа выйсці з-пад кантролю. Але ўсё яшчэ наперадзе: «У канцы гэтага года або ў наступным нас чакае свой Чарнобыль, і гэтага, магчыма, будзе дастаткова, каб людзі нарэшце звярнулі ўвагу», — папярэдзіў Гінтан.
Вучоны ўдакладніў, што пад «Чарнобылем» мае на ўвазе не ядравы выбух, а, напрыклад, атаку ШІ на энергасістэму або падзенне фінансавага сектара на тыдзень. На пытанне пра тое, хто менавіта павінен звярнуць на гэта ўвагу, Гінтан адказаў: «Сусветныя лідары, за выключэннем Трампа».
У якасці рашэння ён прапануе стварыць незалежны рэгулятар па аналогіі з амерыканскім FDA, які кантралюе фармацэўтычную індустрыю. Тэхгіганты павінны прадастаўляць незалежным рэгулятарам пераканаўчыя доказы таго, што новая мадэль прыносіць больш карысці, чым шкоды, яшчэ да рэлізу. Падыход, пры якім небяспечны прадукт спачатку выпускаюць на рынак, а потым спрабуюць судзіцца з распрацоўшчыкамі, Гінтан параўнаў з трагедыяй вакол талідаміду. Гэта седатыўны прэпарат, які масава прадаваўся ў 1950-х гадах: яго прызналі «бяспечным» і прызначалі цяжарным жанчынам, што прывяло да нараджэння тысяч дзяцей з цяжкімі ўроджанымі парокамі развіцця.
Нягледзячы на змрочныя прагнозы, Гінтан не лічыць сябе песімістам: «Маё чуццё падказвае, што мы ўсё яшчэ кантралюем сітуацыю. Мы цалкам здольныя прыняць меры, але гэта спрацуе, толькі калі мы прыкладзём каласальныя намаганні».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.