«Мы навучылі пясок думаць»: кіраўнік Google DeepMind папярэдзіў пра блізкасць сінгулярнасці і заклікаў тэрмінова ратаваць чалавецтва
Заснавальнік і кіраўнік Google DeepMind Дэміс Хасабіс выступіў з адкрытым і вельмі трывожным маніфестам. На ягоную думку, чалавецтва стаіць на парозе «сінгулярнасці», а да стварэння паўнавартаснага штучнага агульнага інтэлекту (AGI), здольнага перасягнуць чалавечы мозг, засталося ўсяго некалькі гадоў. Хасабіс папярэджвае, што ў людзей ёсць толькі кароткае «каштоўнае акно», каб узяць тэхналогію пад кантроль, пакуль яна не змяніла сутнасць чалавечай цывілізацыі.
Заснавальнік і кіраўнік Google DeepMind Дэміс Хасабіс выступіў з адкрытым і вельмі трывожным маніфестам. На ягоную думку, чалавецтва стаіць на парозе «сінгулярнасці», а да стварэння паўнавартаснага штучнага агульнага інтэлекту (AGI), здольнага перасягнуць чалавечы мозг, засталося ўсяго некалькі гадоў. Хасабіс папярэджвае, што ў людзей ёсць толькі кароткае «каштоўнае акно», каб узяць тэхналогію пад кантроль, пакуль яна не змяніла сутнасць чалавечай цывілізацыі.
Нараджэнне новай эры
У сваім эсэ Хасабіс падкрэслівае, што AGI нельга параўноўваць са звычайнымі тэхналагічнымі прарывамі накшталт інтэрнэту ці мабільнай сувязі. Маштаб надыходзячых змен будзе ў 10 разоў магутнейшы за прамысловую рэвалюцыю, але адбудзецца ўсё ў 10 разоў хутчэй. ШІ можа як падарыць чалавецтву эру дастатку і перамогу над смяротнымі хваробамі, так і стаць крыніцай беспрэцэдэнтных пагроз:
«AGI значна бліжэй да адкрыцця электрычнасці ці агню. Калі падумаць, мы, па сутнасці, знайшлі спосаб прымусіць пясок думаць. Гэта цуд. Але тое, што мы калектыўна зробім цяпер, вызначыць, як развярнецца наступны этап развіцця нашай цывілізацыі».
Кіраўнік DeepMind прызнае, што цяпер індустрыя апынулася ў ціску камерцыйнай і геапалітычнай гонкі. Гэта паскарае прагрэс, але тэхналогіі развіваюцца хутчэй, чым людзі паспяваюць іх асэнсаваць. Па меры набліжэння да AGI свет непазбежна сутыкнецца з новымі выклікамі — ад кіберпагроз да біялагічных і ядравых рызык. Асаблівую небяспеку, на думку Хасабіса, будуць уяўляць «агентныя» сістэмы, здольныя да пастаяннага самаўдасканалення.
План Хасабіса: рэгулятар паводле мадэлі Уол-стрыт
У якасці надзвычайнай меры Хасабіс прапануе ЗША ўзяць на сябе лідарства і стварыць спецыяльны наглядальны орган — Камітэт па стандартах перадавога ШІ (Standards Body). У якасці мадэлі ён прапануе выкарыстаць FINRA — амерыканскую няўрадавую арганізацыю, якая рэгулюе фінансавыя рынкі. Фінансаваць новы ШІ-рэгулятар павінен сам тэхсектар, каб ва ўстановы былі рэсурсы на закупку магутнасцей і наём лепшых сусветных навукоўцаў.
Усё ў нашых руках: СЕО DeepMind кажа, што ШІ можа зрабіць чалавека геніем або тупіцам
Усе распрацоўшчыкі перадавых сістэм (так званыя Frontier Labs) павінны будуць за 30 дзён да рэлізу добраахвотна адпраўляць свае мадэлі на праверку. Эксперты будуць тэставаць іх на схільнасць да падману, спробы абысці бар’еры бяспекі, а таксама правяраць іх магчымасці ў сферы кіберзброі і біятэхналогій. У будучыні, калі сістэма даведзе сваю эфектыўнасць, гэтыя праверкі павінны стаць абавязковай умовай для допуску ШІ на рынак ЗША. Пры гэтым стартапы і навуковыя інстытуты з прасцейшымі мадэлямі ад гэтых праверак вызваляць.
Ініцыятыва Хасабіса з’явілася на фоне нядаўніх спроб адміністрацыі Дональда Трампа абмежаваць выпуск некаторых ШІ-мадэляў ад OpenAI і Anthropic. Кіраўнік DeepMind прапануе замяніць хаатычнае ўмяшанне палітыкаў зразумелым, гнуткім і навукова абгрунтаваным працэсам. Пры гэтым аўтарытэтны статус «Frontier Lab» павінен стаць прэстыжным знакам якасці для кампаній.
Пытанні, якія нельга даверыць толькі праграмістам
Нават калі тэхнічныя праблемы бяспекі ШІ ўдасца вырашыць, чалавецтву прыйдзецца сутыкнуцца са складанейшымі эканамічнымі і філасофскімі пытаннямі — напрыклад, як будзе выглядаць эканоміка ў свеце, дзе рэсурсы перастануць быць абмежавальнікам прагрэсу, ці ў чым людзі будуць знаходзіць сэнс жыцця, калі іх інтэлектуальная праца перастане быць унікальнай.
«Якімі каштоўнасцямі мы хочам кіравацца ў жыцці, у чым будуць заключацца наш сэнс і мэта, і як можа змяніцца сама прырода чалавека? Відавочна, што вырашэнне гэтых пытанняў нельга і не трэба пакідаць выключна на меркаванне тэхнарэй. Каб дапамагчы вызначыць гэтую новую главу, павінны аб’яднацца ўсе пласты грамадства», — адзначае Хасабіс.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.