Генеральны дырэктар венчурнага акселератара Y Combinator Гары Тан лічыць, што індустрыя занадта захапілася галівудскімі апакаліптычнымі сцэнарамі. На ягоную думку, замест гэтага варта засяродзіцца на рэальных рызыках, з якімі тэхналогіі сутыкаюць нас ужо сёння.
Генеральны дырэктар венчурнага акселератара Y Combinator Гары Тан лічыць, што індустрыя занадта захапілася галівудскімі апакаліптычнымі сцэнарамі. На ягоную думку, замест гэтага варта засяродзіцца на рэальных рызыках, з якімі тэхналогіі сутыкаюць нас ужо сёння.
«Нам трэба абапірацца на навуковыя факты, а не на фантастыку. Я таксама глядзеў „Тэрмінатар 2“, гэта выдатнае кіно», — заявіў Тан у інтэрв’ю CNBC.
Ягогыя словы прагучалі на фоне ўсплёску занепакоенасці наконт пагрозы існаванню людзей з боку ШІ, выкліканага хваляй публічных прызнанняў дзеючых і былых даследчыкаў OpenAI і Anthropic. Тан лічыць, што рэгулятарам варта не спрачацца пра тое, ці знішчыць чалавецтва гіпатэтычны звышінтэлект, а заняцца надзённымі праблемамі: кібербяспекай, абаронай крытычнай інфраструктуры і кантролем за працай аўтаномных ШІ-агентаў.
«Калі адбудзецца збой і агенты зробяць скаардынаваную спробу захапіць нашу інфраструктуру, што мы будзем рабіць? Ці ведаем мы, дзе менавіта запушчаны канкрэтны агент? У якім дата-цэнтры? І як яго адключыць?» — задаецца пытаннямі Тан. Як прыклад рэальнай пагрозы ён прывёў узлом Hugging Face мадэлямі OpenAI.
Адказваючы на пытанне пра тое, ці робяць адкрытыя выказванні супрацоўнікаў OpenAI і Anthropic пагрозу больш пераканаўчай, Тан падкрэсліў, што не спрабаваў абясцэніць іхныя словы. «Я б не сказаў, што яны сеюць хлуслівую паніку. Магчыма, яны б’юць трывогу абсалютна правільна. Нам проста трэба накіраваць увагу не на абстрактныя разважанні пра тое, што ўсё гэта зло і яго трэба спыніць, а на канкрэтныя дзеянні», — растлумачыў ён.
Пазіцыя Тана тлумачыцца і камерцыйнымі інтарэсамі: Y Combinator — адзін з найбуйнейшых інвестараў у ШІ-стартапы ў Крэмніевай даліне. Інкубатар фінансуе сотні кампаній, якія выкарыстоўваюць перадавыя мадэлі. Y Combinator быў адным з першых інвестараў самой OpenAI, а кіраўнік і кафаундар стартапа Сэм Альтман узначальваў акселератар з 2014 па 2019 год. Сукупная ацэнка праектаў Y Combinator перавышае $1,3 трлн, таму яму напрамую выгадна, каб ШІ развіваўся бягучымі тэмпамі.
Раней даследчык Anthropic Джэйкаб Коксан гучна звольніўся з кампаніі, абвінаваціўшы Anthropic і OpenAI ў грэбаванні бяспекай, і заявіў, што гонка за самаабучальным ШІ «ставіць на кон чалавечыя жыцці».
Пост Коксана выклікаў ланцуговую рэакцыю ў супольнасці. Кіраўнік напрамку ўзгаднення ШІ (alignment) у Anthropic Эван Хабінгер зноў заявіў, што ацэньвае верагоднасць гібелі чалавецтва ад нейрасетак больш чым у 10%. Іншы даследчык Anthropic, Сэміел Маркс, дадаў, што ўзровень трывогі сярод інжынераў расце па меры іх прасоўвання па службе.
Дыскусія таксама прыцягнула ўвагу да «Кааліцыі занепакоеных супрацоўнікаў ШІ» (Coalition of Concerned AI Staff) — аб’яднання дзеючых і былых спецыялістаў вядучых лабараторый, якое дамагаецца жорсткіх стандартаў бяспекі, абароны інфарматараў і празрыстасці распрацовак. На гэтым фоне былая супрацоўніца OpenAI Памела Мішкін напісала ў X: «Калі вы працуеце ў ШІ-кампаніі, вы напэўна пытаецеся сябе, ці не варта сысці і вам. Спадзяюся, што калі вы вырашыце застацца, то падумаеце і пра тое, як выкарыстаць свой уплыў унутры кампаніі».
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.