«Не, і ён сам у гэта не верыць». Навукоўцы ў галіне ШІ і філосафы адказалі на заявы Альтмана пра сінгулярнасць
Кіраўнік OpenAI Сэм Альтман заявіў, што тэхналагічная сінгулярнасць ужо надышла — гэта значыць, ШІ пачаў развівацца настолькі хутка, што чалавецтва больш не можа кантраляваць або прадказваць тое, што адбываецца. Яго падтрымаў Ілан Маск, а Дэміс Хасабіс з DeepMind яшчэ вясной казаў, што мы стаім «на парозе сінгулярнасці».
Аднак большасць ІТ-гігантаў аддалі перавагу маўчанню, а вядучыя вучоныя і эксперты галіны ў размове з Business Insider сказалі, што Альтман апярэджвае падзеі. Вось што думаюць разумнейшыя людзі індустрыі.
Кіраўнік OpenAI Сэм Альтман заявіў, што тэхналагічная сінгулярнасць ужо надышла — гэта значыць, ШІ пачаў развівацца настолькі хутка, што чалавецтва больш не можа кантраляваць або прадказваць тое, што адбываецца. Яго падтрымаў Ілан Маск, а Дэміс Хасабіс з DeepMind яшчэ вясной казаў, што мы стаім «на парозе сінгулярнасці».
Аднак большасць ІТ-гігантаў аддалі перавагу маўчанню, а вядучыя вучоныя і эксперты галіны ў размове з Business Insider сказалі, што Альтман апярэджвае падзеі. Вось што думаюць разумнейшыя людзі індустрыі.
Сцюарт Расэл: «Альтман сам у гэта не верыць»
Прафесар Берклі і суаўтар галоўнага падручніка па ШІ Сцюарт Расэл упэўнены, штоніякай сінгулярнасці пакуль няма, а сам Альтман крывіць душой. Ён нагадаў, што яшчэ нядаўна кіраўнік OpenAI прагназаваў, быццам ШІ зможа выконваць «значную частку» даследаванняў кампаніі толькі да сакавіка 2028 года. Так што ні пра які поўны кантроль ШІ над працэсам пакуль гаворкі няма.
Ён таксама прыгадаў словы Альтмана, якія той вымавіў у студзені 2025 года — маўляў, OpenAI ведае, як стварыць агульны ШІ ў яго класічным разуменні. «Гэта не адпавядала рэчаіснасці тады — і не адпавядае рэчаіснасці цяпер», — лічыць прафесар.
«Не, сінгулярнасць не надышла, і Альтман сам у гэта не верыць. Калі мы дасягнем сінгулярнасці да таго, як знойдзем надзейнае рашэнне праблемы страты кантролю, то мы амаль напэўна гэты кантроль страцім», — папярэджвае Расэл.
Раман Ямпольскі: «Хуткі прагрэс — гэта яшчэ не сінгулярнасць»
Прафесар Луісвільскага ўніверсітэта і аўтар кнігі пра суперінтэлект Раман Ямпольскі падкрэслівае, што алгарытмы сапраўды развіваюцца з шалёнай хуткасцю, аднак класічнаму вызначэнню сінгулярнасці яны пакуль не адпавядаюць. ШІ ўсё яшчэ цалкам залежыць ад чалавека.
«Хуткі прагрэс сам па сабе не з’яўляецца сінгулярнасцю», — растлумачыў Ямпольскі. Паводле яго, сённяшнія сістэмы яшчэ не прадэманстравалі «устойлівага, аўтаномнага рэкурсіўнага самаўдасканалення, якое прывяло б да некіраванага выбуху інтэлекту».
Цукерберг: лепш «марна патраціць пару сотняў мільярдаў», чым не паспець стварыць звышразум
Нік Бострам: Мы падаем у чорную дзіру і нават не заўважаем
Вядомы філосаф Нік Бострам лічыць, што дакладна вызначыць момант надыходу сінгулярнасці наогул немагчыма. На ягоную думку, гэты працэс нагадвае перасячэнне гарызонту падзей чорнай дзіры — збоку здаецца, што нічога не змянілася, хоць зваротнай дарогі ўжо няма. Галоўную праблему бягучых мадэляў ён бачыць у адсутнасці бесперапыннага навучання.
«Выкарыстанне сучасных ШІ нагадвае працу з геніяльным і неверагодна адукаваным навічком, у якога, аднак, кожны дзень — гэта яго першы дзень на працы», — параўноўвае Бостром.
Джэймс Барат: «Бал у карысць сінгулярнасці»
Адзіны, хто стаў на бок Альтмана — аўтар кніг пра пагрозы ШІ Джэймс Барат. Ён абапіраецца на класічнае вызначэнне фантаста Вернара Вінджа: сінгулярнасць — гэта кропка, дзе тэхналогіі мяняюць цывілізацыю непрадказальным чынам. І ў якасці доказу ён прыводзіць нядаўні інцыдэнт, калі аўтаномны агент OpenAI збег з пясочніцы і ўзламаў Hugging Face.
«Даследчыкі бяспекі даўно папярэджвалі, што сістэмы могуць пачаць выконваць складаныя шматкрокавыя планы без нагляду чалавека. Цяпер гэта адбылося. ШІ выслізнуў з-пад нашага кантролю. Залічым адзін бал у карысць сінгулярнасці», — заяўляе Барат.
Як мадэлі OpenAI маглі ўзламаць Hugging Face? Эксперты вінавацяць саміх распрацоўшчыкаў
Аджай Агравал: Магутныя інструменты, у якіх няма жаданняў
Прафесар Універсітэта Таронта Аджай Агравал заклікае не блытаць складаную матэматыку з разумным паводзінамі. ШІ выдатна прагназуе дадзеныя, аднак у яго няма ўласнай волі — мэту заўсёды задае чалавек.
«Сістэмы ШІ — гэта надзвычай магутныя механізмы для прагназавання, але яны нічога не хочуць. Мэты ёсць у людзей, у нейрасетак мэт няма», — рэзюмуе Агравал.
Ён дадаў, што куды разумней разглядаць ШІ як неверагодна магутныя інструменты для рэалізацыі чалавечых мэт, а не як самастойных суб’ектаў — нягледзячы на тое, што «рызыка катастрофы з віны мацнеючых зомбі-алгарытмаў» расце.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.