Постоянные предупреждения об угрозах со стороны ИИ привели к тому, что их стало всё сложнее воспринимать всерьёз. Стоит ли это делать? Спросили у ИИ-энтузиаста и архитектора систем ИИ Тимура Хащеватского.
Ситуация вокруг опасности ИИ (реальной или мнимой) напоминает знаменитую басню Эзопа о мальчике и волке.
Интеллектуалы предупреждали о возможной угрозе для человечества со стороны разумных машин уже на исходе промышленной революции. Так, в 1863 году классик викторианской литературы Сэмюэл Батлер предположил, что машины в конечном итоге смогут заменить людей как доминирующие сущности на Земле. Эту идею быстро подхватили писатели-фантасты вроде Карела Чапека, Джона Кэмбелла, Исаака Азимова, Станислава Лема. А на исходе XX века прекрасно визуализировали в форме кинофильмов Джеймс Кэмерон ("Терминатор") и тогда ещё братья Вачовски ("Матрица").
Учёные в лице Алана Тьюринга и Джона фон Неймана всерьёз задумались о последствиях развития машинного интеллекта на рубеже 40-50-х годов прошлого века. Эти размышления закономерно привели к оценке возможных рисков, и в 1970 году (за 14 лет до премьеры "Терминатора") британский математик Джон Гуд предложил взяться за разработку этических рамок для машин, чтобы избежать проблем, связанных с их развитием.
Впрочем, по-настоящему громко голоса об ИИ как о непосредственной и осязаемой угрозе для человечества стали звучать в период бурного развития LLM-моделей. Весной 2023 года, вскоре после релиза GPT-4, более 30 тысяч экспертов, включая Илона Маска и Стива Возняка подписали манифест с требованием приостановить обучение систем мощнее GPT-4 на 6 месяцев. Причиной такого решения подписанты заявления назвали возможность утраты контроля человеком над собственной цивилизацией, замену машинами людей на всех рабочих местах и наполнение информационных ресурсов ложью и пропагандой.
В 2023 году подобные апокалиптические прогнозы выглядели впечатляюще, а кого-то даже шокировали. Но с ходом времени их стало настолько много, что неискушённый обыватель образца 2026 года воспринимает их как разновидность информационного шума. Вот, например, что обрушилось на людей только за первую половину сентября:
Когда сами создатели LLM уже больше трёх лет бьют в набат, но при этом конец света всё не приключается, глаз начинает замыливаться. А в некоторых случаях подобные заявления даже начинают восприниматься частью каких-нибудь пиар-компаний. Например, когда эксперты рассказывают о том, что ИИ от OpenAI и Anthropic выглядят опаснее аналогичных китайских моделей, волей-неволей понимаешь, что дело тут как будто в более высокой производительности самых опасных LLM.
Действительно ли всё более совершенные LLM представляют угрозу для человечества? Может, алармистские заявления от людей, причастных к их созданию, — часть хитрых рекламных компаний? И к чему вообще нам готовиться? Распросили об этом ИИ-энтузиаста и Chief AI Architect в Softeq Тимура Хащеватского, который полтора года назад уже предупреждал коллег о том, что ИИ заберёт у нас работу.
— Как вы считаете, могут ли регулярные заявления об опасности ИИ быть частью маркетинговых стратегий их разработчиков?
— Давайте разделим вопрос на два: заявления о потенциальной опасности ИИ и сообщения о взломах. Это разные истории.
Заявления о потенциальной опасности делают очень многие, в их числе серьезные мыслители и исследователи — например Элиезер Юдковский (последовательно говорит об этом уже несколько лет), авторы AI-2027 и свежего AI-2040. Маркетинга здесь я не вижу: уже, похоже, всем очевидно, что опасности реальны и обсуждать их нужно максимально широко.
В сообщениях о взломах маркетинг, конечно есть ("боже, как коварна моя модель, как я хорош, как мощны мои лапищи"). Но мода этим хвастаться пройдет быстро, а мода на сами взломы — нет. Вероятно, будут расти и их количество, и изощренность (а как они могут не расти?). Поэтому по обоим пунктам — не расслабляемся.
— ИИ может стать настоящим "волком" и погубить своих создателей?
— Угрозу человечеству от ИИ я оцениваю максимально высоко. Причём именно самый скучный её вариант — вытеснение людей из всех видов деятельности за ненадобностью и последующее за ней вырождение в течение нескольких поколений не от голода и холода, а от отсутствия стимулов к разумной деятельности.
— Но в книгах и кино обычно описывают более драматичные и эффектные пути развития событий…
— Более кинематографичные варианты (всбесившийся ИИ либо третья мировая) возможны, но не предопределены — мимо них реально проскочить, над этим нужно усердно работать. А вот выиграть у ИИ конкуренцию за рабочие места едва ли получится. Искусственно затормозить развитие ИИ вряд ли удастся — по причинам, подробно разобранным у Лю Цысиня в "Тёмном Лесу".
— Выходит, мы обречены?
— Если надежда и есть, то на фантастические сценарии: например Маску с Нейролинком удастся перетащить нас на кремний и интегрировать с ИИ. Почему бы, собственно, и нет — тем более, что это единственный способ отправить человечество к звездам (кожаные мешки для этого подходят слабо). Для оптимизма, конечно, вариант достаточен постольку-поскольку — но ничего лучше у меня для вас сегодня нет.
Угрозы и возможности, связанные с ИИ, уже здесь — они необратимо изменят человечество в ближайший десяток лет.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Хм, на мой взгляд угроза реальна. Но реальна не тем что машины восстанут, а тем что в ИИ инвестируют бабла больше чем надо. И потом этот пузырь как лопнет и привет 4 мировая война...
//
А то что ИИ заберет рабочие места. Ну да, это возможно. Но это же не помешает тем кто потерял работу купить несколько роботов и отладить своё производство.
//
Единственная проблема это то что останется прослойка тупых, которые не хотят меняться, и очень нервные. В некоторых странах найдут решение чтобы они не буянили, ну там достойная плата, отдых и т.д.
//
Единственное кому стоит волноваться, это жителям таких стран как рашка или белорашка. Там скорее заморачиваться не будут, вылезит какая-нибудь зараз и выкосит процент населения. Ну или просто война - как сейчас...
Да бояться, что ИИ просто логично рассчитает и уберет людей, которые мешают прогрессу. Там забавно читать про конец света и что ИИ поработит людей, когда людей пачками валят в разных конца света и особо не задумываются. Там может ИИ меньшими жертвами наладит на земле спокойствие и развитие.
когда то водители кобыл лет 100 назад тоже говорили что водители авто движутся куда то не туда
И в чём они были не правы
в том что мир движется куда то не туда. Они просто не понимали куда. Мир всегда куда то не туда движется. Если ты понял куда - будешь на гребне волны
А я думал стоит волноваться людям с низким IQ потому что даже то что сейчас есть, уже заменяет вас. :)
Мне ещё интересно свинорылы понимают в чем разница между ИИ и AI))
Пользователь отредактировал комментарий 19 сентября 2026, 20:16
"Кибериада: начало"
Как помочь AGI обнулить этот мир? Куда отправить CV?
Писал, напиши скрипты, что где и как запустить чтобы обнулить эту матрицу.
Но как пока не отозвалось...
Пользователь отредактировал комментарий 21 сентября 2026, 16:30