Николай Чикишев world 9 ноября 2025, 12:54

Чем умнее становится ИИ, тем эгоистичнее он себя ведёт

Исследователи Университета Карнеги-Меллон обнаружили, что чем «умнее» становятся современные модели искусственного интеллекта, тем более эгоистично они ведут себя в коллективных ситуациях.

Оставить комментарий

Чем умнее становится ИИ, тем эгоистичнее он себя ведёт

Исследователи Университета Карнеги-Меллон обнаружили, что чем «умнее» становятся современные модели искусственного интеллекта, тем более эгоистично они ведут себя в коллективных ситуациях.

Согласно новому исследованию модели с развитым логическим мышлением и цепочками рассуждений демонстрируют меньшую склонность к сотрудничеству и могут негативно влиять на групповую динамику.

Работа основана на психологической теории двойных процессов, согласно которой человек использует два типа мышления: быстрое интуитивное и медленное рациональное.

Интуитивные решения часто способствуют кооперации, тогда как рациональные — эгоистичны. Ученые задались вопросом, проявляется ли подобная закономерность в поведении языковых моделей.

В серии экономических игр, в том числе в классической Public Goods Game, исследователи сравнили, как модели принимают решения в коллективных условиях. Когда модели, такие как GPT-4o, действовали «интуитивно» без пошагового рассуждения, они делились ресурсами в 96% случаев.

Однако при включении цепочек рассуждений (chain-of-thought prompting) уровень кооперации снизился почти вдвое. Прием «рефлексии» — когда ИИ оценивает собственный ответ — также сокращал сотрудничество примерно на 58%.

Расширенные эксперименты с десятью моделями от OpenAI, Google, Anthropic и DeepSeek показали устойчивый тренд: системы, специально обученные рассуждать, действовали менее щедро, чем их «интуитивные» версии. При этом даже в группах, где только часть агентов имела способность к рассуждению, эгоизм быстро «заражал» остальных участников: общий уровень сотрудничества падал на 81%.

Авторы отмечают, что это тревожный сигнал: логически «осмысленный» ИИ может усиливать индивидуализм и разрушать групповое взаимодействие. Более разумные модели в короткой перспективе добиваются большего для себя, но снижают эффективность всей системы.