Эксперт па АІ заклікаў бамбіць дата-цэнтры, дзе навучаюць АІ
Спецыяліст у сферы штучнага інтэлекту Еліэзер Юдкоўскі апублікаваў калонку ў часопісе Time, у якой заклікаў цалкам згарнуць распрацоўку тэхналогіі.
Даследчык ужо больш за 20 гадоў працуе над «агульным штучным інтэлектам» і спрабуе перасцерагчы свет ад «АІ-апакаліпсісу». Свой артыкул ён напісаў у адказ на адкрыты ліст, да якога далучыліся больш за тысячу людзей, у тым ліку Ілан Маск і Стыў Возняк. Аўтары запатрабавалі на 6 месяцаў прыпыніць распрацоўку АІ-сістэм, магутнейшых за GPT-4 ад OpenAI.
Юдкоўскі лічыць, што гэтага недастаткова і трэба цалкам спыніць распрацоўку такіх тэхналогій. Падпісвацца пад лістом ён адмовіўся таму, што аўтары недаацэньваюць «сур’ёзнасць сітуацыі» і патрабуюць «занадта мала для яе развязання».
Маск, Возняк ды іншыя заклікалі спыніць навучанне нейрасетак, «разумнейшых» за GPT-4
Маск, Возняк ды іншыя заклікалі спыніць навучанне нейрасетак, «разумнейшых» за GPT-4
«Многія даследчыкі, занураныя ў гэтыя праблемы, уключаючы мяне, лічаць найбольш верагодным вынікам стварэння АІ са звышчалавечым розумам ва ўмовах, хоць што аддалена нагадваюць сённяшнія, тое, што літаральна ўсе на Зямлі загінуць», — вангуе Юдкоўскі. Ён дадаў, што АІ «абыякавыя да нас і разумнага жыцця ў цэлым», і людзі яшчэ вельмі далёкія ад таго, каб надзяліць тэхналогію зваротнай якасцю.
Даследчык прапанаваў накласці «бестэрміновую і агульнасусветную» забарону на распрацоўку АІ — без выключэння для ўладаў і вайскоўцаў.
«Калі выведка данясе, што нейкая краіна, якая не ўдзельнічае ў дамове, будуе кластар GPU, то варта менш баяцца ўзброенага канфлікту паміж дзяржавамі, ніж парушэння мараторыя. Варта быць гатовымі знішчыць непажаданы дата-цэнтр шляхам паветранай атакі», — кажа Юдкоўскі.
Зрэшты, сам кіраўнік OpenAI Сэм Альтман лічыць, што Юдкоўскі «зрабіў больш для паскарэння АШІ, чым хто б там ні было», і заслугоўвае «Нобелеўскай прэміі міру». Альтман таксама прызнае рызыкі і страхі вакол тэхналогіі, але адзначае, што OpenAI імкнецца «мінімізаваць зло і максімізаваць карысць» ад яе.
Кіраўнік OpenAI кажа, што распрацоўшчыкі самі баяцца ChatGPT і што яна многіх пазбавіць працы
Кіраўнік OpenAI кажа, што распрацоўшчыкі самі баяцца ChatGPT і што яна многіх пазбавіць працы
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Вангую, журналистов тут набирают с двача
Да чего уж там - на кострах может ещё предложит учёных сжигать? Какой смысл бороться с прогрессом? Это примерно то же самое, как считать плановую экономику лучше рыночнойи бороться против последней - всё равно экономика себя отрегулирует.
Пока что ни Chatgpt ни прочие не могут, по факту, выдать скрипт длиннее 100 строк, да и тот хромает и оптимизация и логика. Каждый день получаю из него куски кода для работы - полезно, но до идеала там.... Джун с букварём. Не говоря уже о фантазии у chatgpt типа: "напиши мне книжку-сказку". Ждать нового аля Карлсона или Братьев Гримм не стоит. Компиляция бреда.
Так что понятия фантазия и абстрактное мышление ИИ не доступно и вряд-ли скоро будет реализовано. Пока даже чётко не понятно что это такое вообще.
Так что нечего фантазировать на тему Скайнет, с его хитрыми трюками-многоходовками и далеко идущими планами по захвату человечества.
Каждый раз на качественном скачке прогресса пытались его, прогресс, запретить. И книгопечатание, и астрономов жгли, медикам лечить запрещали, и паровые машины ночами ломали...
Вам сразу апокалипсис подавай. Терпение, только терпение
Дело не в том, что они сейчас могут не могут, а в том какой произошел прогресс даже на сырых технологиях развернутых на мощных ПК. Что же будет дальше? Об этом надо думать ДО того как технология заработает и спалит Хиросиму и Нагасаки.
Мой диплом был про то, что потом назвали DPI, и когда мне предложили на восточного для РБ заказчика поработать я сказал что мне это не нужно.
Карыстальнік адрэдагаваў каментарый 2 красавіка 2023, 18:23
del
Карыстальнік адрэдагаваў каментарый 3 красавіка 2023, 10:08
Вот уж у мартых подгорает без работы остаться. А действительно инженерам можно не волноваться. Не потянет действительно большой и требующий инженерного подхода проект.
Может Юдковский и перегибает, но когда я читаю такие коменты как твой и вижу, что люди абсолютно не одупляют, чем опасен полноценный ИИ понимаю что он то как раз прав походу
Ну так поведай нам, сиволапым!
А то когда то против калькуляторов точно так же бурные протесты преподов шли.
ты вообще понимаешь что такое ИИ?)
протесты против калькуляторов)
Пока ИИ обучаются на мусоре из открытого доступа, они никому не грозят. Качественные модели обучения требуют больших человеческих ресурсов и значительных финансовых затрат. А пока ИИ рисуют вместо векторных картинок растровую графику с водяными знаками, пасущиеся на стоковых ресурсах будут с деньгами. В принципе как и другие что-либо представляющие из себя профи.