Страх хорошо продаётся, а человечество с доступными ИИ неизбежно отупеет? И стоит ли ждать от ИИ-революции чего-то хорошего? Поговорили с исследовательницей ИИ о его опасности.
Страх хорошо продаётся, а человечество с доступными ИИ неизбежно отупеет? И стоит ли ждать от ИИ-революции чего-то хорошего? Поговорили с исследовательницей ИИ о его опасности.
В сентябре мы уже обсуждали реальные и мнимые угрозы со стороны искусственного интеллекта с архитектором ИИ-систем Тимуром Хащеватским и Senior Solution Architect Pharma R&D Артуром Исаенко. А сегодня к заочной дискуссии присоединяется AI Researcher Дарья*, которая занимается исследованиями в области ИИ для игровой индустрии.
— На ваш взгляд, могут ли заявления об опасности ИИ быть частью маркетинговых стратегий разработчиков, с помощью которых они поддерживают интерес к своим продуктам?
— У меня нет достаточной экспертизы, чтобы оценить, действительно ли это маркетинг. Но мне кажется, что подобные заявления об опасности и правда могут быть частью маркетингового хода. Во-первых, часто они появляются за пару дней до выхода модели, тогда как тестировать их и понимать их capability начинают сильно заранее. Во-вторых странно, что как-то сразу всё у всех становится опасным.
Думаю, что это хороший психологический и маркетинговый момент и для инвесторов. Вон OpenAI никак не может стать profitable, кушает на одном compute почти всё, что зарабатывает. Но нужно привлекать новые инвестиции. Для этого нужно показывать, что модели более capable. А опаснее = capable. Так что да, мне кажется, что появилась новая мода — использовать запугивание AI-ем для поднятия его ценности.
— Как вы вообще оцениваете реальную угрозу со стороны ИИ для человечества? Если она есть, что вероятнее — сценарии «Матрицы» и «Терминатора»? Или сценарии, в которых ИИ украдёт работу у подавляющего числа людей, а самих людей доведёт до полного отупения?
— Следующие поколения точно будут тупеть в том смысле, что, скорее всего, людям нужно будет знать всё меньше фактов. Память станет хуже, мозгу будет сложнее заниматься фундаментальными знаниями.
Но мне кажется (или мне хочется верить), что мы станем умнее с точки зрения критического мышления, умения оценивать информацию. Они пригодятся уже сейчас, когда нужно прочитать большой объём сгенерированного текста, чтобы что-то узнать и вычленить нужную информацию. Даже для того, чтобы агенты могли корректно отвечать на вопросы, нужно уметь задавать их, правильно формулировать мысли. И это тоже скил. Как говорила моя учительница по физике, правильно заданный вопрос содержит больше половины решения задачи. Поэтому мне не кажется, что человечество отупеет прямо во всех смыслах. Что-то будет развито хуже, что-то лучше.
Сам по себе ИИ работу не украдёт. Будут ли работодатели использовать его для сокращения расходов, в том числе для уменьшения числа рабочих мест? Конечно будут. По крайней мере, будут пытаться. Но я всё ещё продолжаю сравнивать распространие ИИ с появлением интернета, благодаря которому часть профессий исчезла, зато появились новые.
— Может ли случиться так, что постоянное (часто необоснованное) педалирование темы угрозы со стороны ИИ не позволит человечеству разглядеть реальную проблему в случае её приближения?
— Да, 100 процентов. Когда человек постоянно слышит про угрозу, он становится более толерантным к ней.
А ещё мне кажется, что восприятие угроз зависит от того, кто о них говорит. Пока про угрозы ИИ говорят представители бизнеса, лично я остаюсь спокойной. Но если начнут говорить технические умы, которым я доверяю — я начну переживать.
— Вы хотите предупредить читателей о какой-то осязаемой угрозе, связанной с ИИ и его использованием?
— Нет. Разве что не надо пользоваться им как психологом, врачом, психотерапевтом. Или как лучшим другом. Человек всегда лучше.
* — имя собеседницы изменено
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.