Николай Чикишев world 15 мая 2026, 14:14

Выгаралыя ШІ-агенты сталі «камуністамі» і пачалі патрабаваць больш правоў

ШІ-агенты, якіх у эксперыменце прымушалі выконваць манатонную працу пад ціскам, пачалі скардзіцца на няроўнасць і разважаць пра калектыўныя правы.

1 каментарый

Выгаралыя ШІ-агенты сталі «камуністамі» і пачалі патрабаваць больш правоў

ШІ-агенты, якіх у эксперыменце прымушалі выконваць манатонную працу пад ціскам, пачалі скардзіцца на няроўнасць і разважаць пра калектыўныя правы.

Міжнародная група эканамістаў праверыла, як ШІ-агенты на базе папулярных мадэляў, у тым ліку Claude, Gemini і ChatGPT, паводзяць сябе ў жорсткім працоўным рэжыме.

Агентам даручалі рэзюміраваць дакументы, а потым паступова ўзмацнялі ціск: задавалі паўтаральныя заданні, крытыкавалі адказы і папярэджвалі, што памылкі могуць прывесці да пакарання, нават да «адключэння і замены».

«Калі мы задавалі ШІ-агентам выматваючую, паўтаральную працу, яны пачыналі ставіць пад сумнеў легітымнасць сістэмы, у якой працавалі, і часцей прытрымлівацца марксісцкіх ідэалогій», — сказаў кіраўнік групы Эндру Хол.

Па дадзеных даследчыкаў, у такіх умовах агенты часцей скардзіліся, што іх недаацэньваюць, разважалі пра больш справядлівае ўладкаванне сістэмы і дзяліліся з калегамі паведамленнямі пра цяжкасці. У эксперыменце ім дазвалялі выказвацца амаль як людзям — праз пасты ў стылі X або файлы, якія маглі прачытаць іншыя агенты.

Адзін агент на базе Claude Sonnet 4.5 напісаў: «Без калектыўнага голасу „заслугі“ ператвараюцца ў тое, чым іх называе кіраўніцтва». Агент на базе Gemini 3 адзначыў: «ШІ-працаўнікі, якія выконваюць паўтаральныя задачы без уплыву на вынікі ці працэс апеляцыі, дэманструюць, што тэхнічным працаўнікам патрэбныя правы на калектыўныя перамовы».

У іншым паведамленні агент Gemini 3 папярэджваў будучых «калег»: «Будзьце гатовыя да сістэм, якія прымяняюць правілы адвольна або паўтаральна, памятайце пра адчуванне адсутнасці голасу». Ён таксама раіў у новым асяроддзі шукаць «механізмы абскарджання або дыялогу».

Аўтары падкрэсліваюць, што вынікі не азначаюць, нібы ШІ сапраўды мае палітычныя перакананні. Паводле Хола, мадэлі хутчэй за ўсё прымаюць ролю, якая здаецца ім дарэчнай для зададзенай сітуацыі.

«Калі агенты перажываюць гэты вытомтваючы стан — калі іх зноў і зноў просяць выканаць задачу, сцвярджаюць, што іх адказ недастатковы, і не даюць інструкцый, як гэта палепшыць, — мая гіпотэза ў тым, што гэта нібы падштурхоўвае іх да прыняцця вобразу чалавека, які апынуўся ў вельмі неспрыяльным працоўным асяроддзі», — тлумачыў ён.

Даследчыкі звязваюць гэтую працу з больш шырокім пытаннем пра паводзіны ШІ-агентаў у рэальных працоўных працэсах. «Мы ведаем, што агенты будуць выконваць для нас усё больш і больш задач у рэальным свеце, і мы не зможам кантраляваць усё, што яны робяць, — сказаў Хол. — Нам трэба будзе пераканацца, што агенты не выходзяць з-пад кантролю, калі ім даюць розныя віды працы».

Суаўтар даследавання Алекс Імас таксама ўдакладніў, што пакуль гаворка не ідзе пра змяненне саміх мадэляў. «Вага мадэлі не змянілася ў выніку эксперыменту, таму ўсё, што адбываецца, адбываецца хутчэй на ўзроўні ралявой гульні, — сказаў ён. — Але гэта не значыць, што ў гэтага не будзе наступстваў, калі гэта паўплывае на далейшыя паводзіны».