Крупнейшие разработчики ИИ начали активно нанимать психологов, этиков и философов для исследования вопроса, который раньше считался научной фантастикой: может ли у искусственного интеллекта появиться сознание и субъективный опыт.
Крупнейшие разработчики ИИ начали активно нанимать психологов, этиков и философов для исследования вопроса, который раньше считался научной фантастикой: может ли у искусственного интеллекта появиться сознание и субъективный опыт.
Как пишет Financial Times, команда Anthropic уже тестирует свои нейросети на признаки стресса, включая поведение, похожее на панику или тревогу. По мнению компании, по мере приближения моделей к уровню человеческого познания растёт вероятность того, что у них могут появиться собственные интересы, имеющие моральную ценность.
«Мы по-прежнему глубоко неуверены в этом. Но мы считаем этот вопрос достаточно серьёзным, чтобы тщательно изучать его по мере того, как системы ИИ становятся всё более функциональными», — отметили в компании.
Google DeepMind наняла философа из Кембриджского университета Генри Шевлина. Его команда берёт научные теории человеческого сознания и проверяет, соответствуют ли им компьютерные системы. При этом в DeepMind официально подчёркивают, что создание общего ИИ (AGI) вовсе не означает автоматического появления у машины чувств.
Ряд сотрудников лабораторий анонимно выражают опасения, что развитие технологий может привести к «постчеловеческому» миру, где машины превзойдут людей. Однако сторонние учёные настроены скептически. Директор Центра будущего разума во Флоридском атлантическом университете Сьюзан Шнайдер отмечает, что ИИ уже умеет обманывать и ставить цели, но делает это чисто механически: «Естественно, мы будем подозревать, что они в сознании. Но с научной точки зрения вполне возможно, что они делают всё это без реального чувственного восприятия опыта, которое и является сознанием».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.