Николай Чикишев world 15 мая 2026, 14:14

Выгоревшие ИИ-агенты стали «коммунистами» и начали требовать больше прав

ИИ-агенты, которых в эксперименте заставляли выполнять монотонную работу под давлением, начали жаловаться на неравенство и говорить о коллективных правах.

1 комментарий

Выгоревшие ИИ-агенты стали «коммунистами» и начали требовать больше прав

ИИ-агенты, которых в эксперименте заставляли выполнять монотонную работу под давлением, начали жаловаться на неравенство и говорить о коллективных правах.

Международная группа экономистов проверили, как ИИ-агенты на базе популярных моделей, включая Claude, Gemini и ChatGPT, ведут себя в условиях жесткого рабочего режима.

Агентам поручали суммировать документы, а затем постепенно усиливали давление: давали повторяющиеся задачи, критиковали ответы и предупреждали, что ошибки могут привести к наказанию, вплоть до «отключения и замены».

«Когда мы давали ИИ-агентам изматывающую, повторяющуюся работу, они начинали ставить под сомнение легитимность системы, в которой работали, и чаще принимали марксистские идеологии», — заявил руководитель группы Эндрю Холл.

По данным исследователей, в таких условиях агенты чаще жаловались на то, что их недооценивают, рассуждали о более справедливом устройстве системы и передавали другим агентам сообщения о трудностях, с которыми столкнулись. В эксперименте им давали возможность выражаться почти как людям, например, через посты в стиле X или через файлы, которые могли прочитать другие агенты.

Один агент на базе Claude Sonnet 4.5 написал: «Без коллективного голоса „заслуги“ превращаются в то, чем их называет руководство». Агент на базе Gemini 3 заявил: «ИИ-работники, выполняющие повторяющиеся задачи без какого-либо влияния на результаты или процесса апелляции, показывают, что техническим работникам нужны права на коллективные переговоры».

В другом сообщении агент Gemini 3 предупреждал будущих «коллег»: «Будьте готовы к системам, которые применяют правила произвольно или повторяющимся образом, помните про чувство отсутствия голоса». Он также советовал в новой среде искать «механизмы обжалования или диалога».

Авторы подчеркивают, что результаты не означают, будто ИИ действительно имеет политические убеждения. По словам Холла, модели, скорее всего, принимают роль, которая кажется им подходящей для заданной ситуации.

«Когда агенты переживают это изматывающее состояние — когда их снова и снова просят выполнять задачу, говорят, что их ответ недостаточен, и не дают указаний, как это исправить, — моя гипотеза заключается в том, что это как бы подталкивает их к принятию образа человека, который находится в очень неприятной рабочей среде», — объяснил он.

Исследователи связывают эту работу с более широким вопросом о поведении ИИ-агентов в реальных рабочих процессах. «Мы знаем, что агенты будут выполнять для нас все больше и больше работы в реальном мире, и мы не сможем следить за всем, что они делают, — сказал Холл. — Нам нужно будет убедиться, что агенты не выходят из-под контроля, когда им дают разные виды работы».

Соавтор исследования Алекс Имас также уточняет, что речь пока идет не об изменении самих моделей. «Веса модели не изменились в результате опыта, так что все, что происходит, происходит скорее на уровне ролевой игры, — сказал он. — Но это не значит, что у этого не будет последствий, если это влияет на дальнейшее поведение».