Кіраўнік Microsoft AI Мустафа Сулейман заявіў, што Anthropic занадта надзяляе Claude чалавечымі рысамі і тым самым можа ўскладніць кантроль над будучымі ШІ-сістэмамі.
Кіраўнік Microsoft AI Мустафа Сулейман заявіў, што Anthropic занадта надзяляе Claude чалавечымі рысамі і тым самым можа ўскладніць кантроль над будучымі ШІ-сістэмамі.
Падставай стала «канстытуцыя» Claude — набор прынцыпаў, паводле якіх Anthropic навучае мадэль. У ёй кампанія дапускае, што ў Claude можа быць «нейкая функцыянальная версія эмоцый або пачуццяў», а таксама прапануе мадэлі фармаваць уласныя каштоўнасці, праяўляць меркаванне і ў некаторых выпадках пярэчыць супраць інструкцый.
Сулейман лічыць такі падыход памылковым. «ШІ не валодаюць свядомасцю. Яны не адчуваюць, не перажываюць і не пакутуюць», — напісаў ён. Паводле яго, моўныя мадэлі — гэта сістэмы, якія працягваюць паслядоўнасці і выконваюць зададзеныя людзьмі мэты, а не самастойныя маральныя суб’екты.
У інтэрв’ю BBC ён папярэдзіў, што кампаніі рызыкуюць «па сутнасці пасеяць новы крэмніевы від», калі пачнуць ствараць сістэмы, якія самастойна ставяць мэты, зарабляюць грошы і валодаюць актывамі. Такі ШІ, паводле яго, з часам можа канкурыраваць з людзьмі за рэсурсы.
Асабліва кіраўнік Microsoft AI крытыкуе спробы навучаць мадэлі разважаць пра ўласную ідэнтычнасць, дабрабыт і маральны статус. Ён назваў гэта «эпістэмічнай залай люстэркаў»: мадэль атрымлівае ад распрацоўшчыкаў мову свядомасці і асобы, а потым яе ўласныя адказы пачынаюць успрымацца як сведчанне таго, што ў яе сапраўды ёсць унутраны свет.
«Мы не павінны лунатычна прыйсці да рашэння, пра якое потым будзем горка шкадаваць», — папярэдзіў Сулейман. Ён прапануе адваротны падыход — «гуманістычны ШІ», які можа станавіцца вельмі магутным, але павінен заставацца «падпарадкаваным чалавецтву». На гэтым тыдні Microsoft прадставіла ўласны праект кодэксу для ШІ, цэнтральны прынцып якога гучыць як «Людзі важнейшыя за ШІ».
Пры гэтым Сулейман падкрэсліў, што паважае Anthropic і яе кіраўніка Дарыё Амадэі і лічыць спрэчку прынцыповым пытаннем бяспекі, а не атакай на канкурэнта. Anthropic, са свайго боку, прызнае невызначанасць вакол свядомасці ШІ. У «канстытуцыі» Claude кампанія піша, што чалавечыя паняцці могуць быць карыснымі для навучання мадэлі каштоўнасцям і паводзінам, але дапускае, што сам падыход у будучыні можа аказацца «глыбока памылковым».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.