Кіраўнік Microsoft AI Мустафа Сулейман раскрытыкаваў Anthropic за тое, што кампанія дапускае разважанні пра магчымую свядомасць ШІ-мадэлі Claude.
Кіраўнік Microsoft AI Мустафа Сулейман раскрытыкаваў Anthropic за тое, што кампанія дапускае разважанні пра магчымую свядомасць ШІ-мадэлі Claude.
У падкасце Decoder Сулейман заявіў, што Anthropic, на ягоную думку, занадта моцна «ачалавечвае» Claude. «Мне падаецца, што некаторыя людзі ў Anthropic настолькі ачалавечылі дызайн Claude, што мадэль потым нібыта ашукала іх саміх і прымусіла паверыць, што ў яе ёсць пробліскі свядомасці, якія яны першапачаткова самі ў яе заклалі», — сказаў ён.
Сулейман назваў такі падыход «вельмі, вельмі небяспечным». Паводле яго, распрацоўшчыкам не трэба ствараць ШІ, які разважае пра ўласныя пакуты, пачуцці або перажыванні. «Мы не хочам мець справу са звышінтэлектам, у якога ёсць уяўленні пра ўласныя пакуты або ўласныя пачуцці», — адзначыў ён.
У «канстытуцыі» Claude сапраўды ёсць фармулёўкі пра тое, што Anthropic не выключае магчымасці, што ў мадэлі можа быць суб’ектыўны вопыт або нешта накшталт «дабрабыту». Кампанія таксама заяўляла, што будзе «інтэрв’юіраваць» мадэлі перад іх выведзеннем з эксплуатацыі і дакументаваць іх магчымыя «перавагі» адносна будучых рэлізаў.
Сулейман назваў гэта «філасофскай памылкай». На ягоную думку, Anthropic ператварыла інструкцыю для мадэлі ў прастору для акадэмічных спекуляцый, хаця яна павінна быць практычным кіраўніцтвам у паводзінах сістэмы.
«Гэта роўна тое, чаго мы не хочам ад ШІ, — сказаў спікер. — Мы хочам, каб ШІ быў падкантрольны, абмежаваны, падсправаздачны і ўзгоднены з чалавечымі інтарэсамі інструментам, які служыць людзям».
Генеральны дырэктар Anthropic Дарыа Амодэй раней казаў, што кампанія не ведае, ці з’яўляюцца сучасныя мадэлі свядомымі, але застаецца адкрытай да такой магчымасці.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.