Пастаянныя папярэджанні пра пагрозы з боку ШІ прывялі да таго, што іх стала ўсё складаней успрымаць сур’ёзна. Ці варта гэта рабіць? Спыталі ў ШІ-энтузіяста Цімура Хашчаватскага.
Сітуацыя вакол небяспекі ШІ (рэальнай ці ўяўнай) нагадвае знакамітую байку Эзопа пра хлопчыка і ваўка.
Інтэлектуалы папярэджвалі пра магчымую пагрозу для чалавецтва з боку разумных машын яшчэ напрыканцы прамысловай рэвалюцыі. Так, у 1863 годзе класік віктарыянскай літаратуры Сэмюэл Батлер выказаў меркаванне, што машыны ў рэшце рэшт змогуць замяніць людзей як дамінуючыя істоты на Зямлі. Гэтую ідэю хутка падхапілі пісьменнікі-фантасты накшталт Карэла Чапека, Джона Кэмбела, Айзека Азімава, Станіслава Лема. А напрыканцы XX стагоддзя цудоўна візуалізавалі ў форме кінафільмаў Джэймс Кэмерон («Тэрмінатар») і тады яшчэ браты Вачоўскі («Матрыца»).
Вучоныя ў асобе Алана Т’юрынга і Джона фон Неймана ўсур’ёз задумаліся пра наступствы развіцця машыннага інтэлекту на мяжы 40–50-х гадоў мінулага стагоддзя. Гэтыя разважанні заканамерна прывялі да ацэнкі магчымых рызык, і ў 1970 годзе (за 14 гадоў да прэм’еры «Тэрмінатара») брытанскі матэматык Джон Гуд прапанаваў узяцца за распрацоўку этычных межаў для машын, каб пазбегнуць праблемаў, звязаных з іх развіццём.
Аднак сапраўды гучна галасы пра ШІ як пра непасрэдную і адчувальную пагрозу для чалавецтва пачалі гучаць у перыяд бурнага развіцця LLM-мадэляў. Вясной 2023 года, неўзабаве пасля рэлізу GPT-4, больш за 30 тысяч экспертаў, у тым Ілана Маска і Стыва Возняка, падпісалі маніфест з патрабаваннем прыпыніць навучанне сістэм магутнейшых за GPT-4 на 6 месяцаў. Прычынай такога рашэння падпісанты заявы назвалі магчымасць страты кантролю чалавекам над уласнай цывілізацыяй, замену машынамі людзей на ўсіх рабочых месцах і напаўненне інфармацыйных рэсурсаў хлуснёй і прапагандай.
У 2023 годзе падобныя апакаліптычныя прагнозы выглядалі ўражаліва, а некага нават шакавалі. Але з цягам часу іх стала настолькі шмат, што недасведчаны абывацель узору 2026 года ўспрымае іх як від інфармацыйнага шуму. Вось, напрыклад, што абрынулася на людзей толькі за першую палову верасня:
Калі самі стваральнікі LLM ужо больш за тры гады б’юць у набат, але пры гэтым канец свету ўсё не надыходзіць, вока пачынае замыльвацца. А ў некаторых выпадках падобныя заявы нават пачынаюць успрымацца як частка нейкіх піяр-кампаній. Напрыклад, калі эксперты распавядаюць пра тое, што ШІ ад OpenAI і Anthropic выглядаюць небяспечней аналагічных кітайскіх мадэляў, міжволі разумееш, што справа тут быццам у больш высокай прадукцыйнасці самых небяспечных LLM.
Ці сапраўды ўсё больш дасканалыя LLM уяўляюць пагрозу для чалавецтва? Можа, алармісцкія заявы ад людзей, прычасных да іх стварэння, — частка хітрых рэкламных кампаній? І да чаго наогул нам рыхтавацца? Распыталі пра гэта ШІ-энтузіяста і кіраўніка праектаў у ізраільскім стартапе Цімура Хашчаватскага, які паўтара года таму ўжо папярэджваў калег пра тое, што ШІ забярэ ў нас працу.
— Як вы лічыце, ці могуць рэгулярныя заявы пра небяспеку ШІ быць часткай маркетынгавых стратэгій іх распрацоўшчыкаў?
— Давайце падзелім пытанне на два: заявы пра патэнцыйную небяспеку ШІ і паведамленні пра ўзломы. Гэта розныя гісторыі.
Заявы пра патэнцыйную небяспеку робяць вельмі многія, сярод іх сур’ёзныя мысліцелі і даследчыкі — напрыклад Эліэзер Юдкоўскі (паслядоўна кажа пра гэта ўжо некалькі гадоў), аўтары AI-2027 і свежага AI-2040. Маркетынгу тут я не бачу: ужо, здаецца, усім відавочна, што небяспекі рэальныя і абмяркоўваць іх трэба максімальна шырока.
У паведамленнях пра узломы маркетынг, вядома, ёсць («божа, якая каварная мая мадэль, які я малайчына, якія магутныя мае рукі»). Але мода хваліцца гэтым пройдзе хутка, а мода на самыя ўзломы — не. Верагодна, будзе расці іх колькасць, і вытанчанасць (а як яны могуць не расці?). Таму паводле абодвух пунктаў — не расслабляемся.
— ШІ можа стаць сапраўдным «ваўком» і загубіць сваіх стваральнікаў?
— Пагрозу чалавецтву ад ШІ я ацэньваю максімальна высока. Прычым менавіта самы сумны яе варыянт — выцісненне людзей з усіх відаў дзейнасці за непатрэбнасцю і наступнае за ім выраджэнне на працягу некалькіх пакаленняў не ад голаду і холаду, а ад адсутнасці стымулаў да разумнай дзейнасці.
— Але ў кнігах і кіно звычайна апісваюць больш драматычныя і эфектныя шляхі развіцця падзей…
— Больш кінематаграфічныя варыянты (ашалелы ШІ альбо трэцяя сусветная) магчымыя, але не прадвызначаны — міма іх рэальна праскочыць, над гэтым трэба старанна працаваць. А вось выйграць у ШІ канкурэнцыю за працоўныя месцы наўрад ці атрымаецца. Штучна затармазіць развіццё ШІ наўрад ці ўдасца — з прычын, падрабязна разабраных у Лю Цысіня ў «Цёмным Лесе».
— Выходзіць, мы асуджаныя?
— Калі надзея і ёсць, то на фантастычныя сцэнары: напрыклад Маску з Нейралінкам удасца перацягнуць нас на крэмній ды інтэграваць з ШІ. Чаму б, уласна, і не — тым больш, што гэта адзіны спосаб адправіць чалавецтва да зорак (скураныя мяхі для гэтага падыходзяць слаба). Для аптымізму, вядома, варыянт дастатковы паколькі пастолькі — але нічога лепшага ў мяне для вас сёння няма.
Пагрозы і магчымасці, звязаныя з ШІ, ужо тут — яны неадваротна зменяць чалавецтва ў бліжэйшае дзесяцігоддзе.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Хм, на мой взгляд угроза реальна. Но реальна не тем что машины восстанут, а тем что в ИИ инвестируют бабла больше чем надо. И потом этот пузырь как лопнет и привет 4 мировая война...
//
А то что ИИ заберет рабочие места. Ну да, это возможно. Но это же не помешает тем кто потерял работу купить несколько роботов и отладить своё производство.
//
Единственная проблема это то что останется прослойка тупых, которые не хотят меняться, и очень нервные. В некоторых странах найдут решение чтобы они не буянили, ну там достойная плата, отдых и т.д.
//
Единственное кому стоит волноваться, это жителям таких стран как рашка или белорашка. Там скорее заморачиваться не будут, вылезит какая-нибудь зараз и выкосит процент населения. Ну или просто война - как сейчас...
Да бояться, что ИИ просто логично рассчитает и уберет людей, которые мешают прогрессу. Там забавно читать про конец света и что ИИ поработит людей, когда людей пачками валят в разных конца света и особо не задумываются. Там может ИИ меньшими жертвами наладит на земле спокойствие и развитие.
когда то водители кобыл лет 100 назад тоже говорили что водители авто движутся куда то не туда
И в чём они были не правы
в том что мир движется куда то не туда. Они просто не понимали куда. Мир всегда куда то не туда движется. Если ты понял куда - будешь на гребне волны
А я думал стоит волноваться людям с низким IQ потому что даже то что сейчас есть, уже заменяет вас. :)
Мне ещё интересно свинорылы понимают в чем разница между ИИ и AI))
Пользователь отредактировал комментарий 19 сентября 2026, 20:16
"Кибериада: начало"
Как помочь AGI обнулить этот мир? Куда отправить CV?
Писал, напиши скрипты, что где и как запустить чтобы обнулить эту матрицу.
Но как пока не отозвалось...
Пользователь отредактировал комментарий 21 сентября 2026, 16:30