Крупнейшие разработчики ИИ начали активно нанимать психологов, этиков и философов для исследования вопроса, который раньше считался научной фантастикой: может ли у искусственного интеллекта появиться сознание и субъективный опыт.
Крупнейшие разработчики ИИ начали активно нанимать психологов, этиков и философов для исследования вопроса, который раньше считался научной фантастикой: может ли у искусственного интеллекта появиться сознание и субъективный опыт.
Как пишет Financial Times, команда Anthropic уже тестирует свои нейросети на признаки стресса, включая поведение, похожее на панику или тревогу. По мнению компании, по мере приближения моделей к уровню человеческого познания растёт вероятность того, что у них могут появиться собственные интересы, имеющие моральную ценность.
«Мы по-прежнему глубоко неуверены в этом. Но мы считаем этот вопрос достаточно серьёзным, чтобы тщательно изучать его по мере того, как системы ИИ становятся всё более функциональными», — отметили в компании.
Google DeepMind наняла философа из Кембриджского университета Генри Шевлина. Его команда берёт научные теории человеческого сознания и проверяет, соответствуют ли им компьютерные системы. При этом в DeepMind официально подчёркивают, что создание общего ИИ (AGI) вовсе не означает автоматического появления у машины чувств.
Ряд сотрудников лабораторий анонимно выражают опасения, что развитие технологий может привести к «постчеловеческому» миру, где машины превзойдут людей. Однако сторонние учёные настроены скептически. Директор Центра будущего разума во Флоридском атлантическом университете Сьюзан Шнайдер отмечает, что ИИ уже умеет обманывать и ставить цели, но делает это чисто механически: «Естественно, мы будем подозревать, что они в сознании. Но с научной точки зрения вполне возможно, что они делают всё это без реального чувственного восприятия опыта, которое и является сознанием».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Не зря маркетологи антропика едят свой хлеб, не зря. Что характерно, в курсах Anthropic academy всё очень приземленно и даже прозаично, материал про ограничения моделей вообще весь магический флер сдувает даже для непосвящённых, и никаким бредом про осознанность там и не пахнет.
Пользователь отредактировал комментарий 4 июня 2026, 03:05
Вы тут, конечно, все хорошо разбираетесь в вопросах сознания, но в их блоге чем-то таким все же немного пахнет. Вот, например, про эмоции в ЛЛМ https://www.anthropic.com/research/emotion-concepts-function
тут же статья не о великой загадке бытия, а всего лишь исследования о том почему модели иногда ведут себя так будто бы у них есть эмоции