CEO Anthropic: ШІ памыляецца радзей за людзей — дайце яму шанец

На першай канферэнцыі Anthropic для распрацоўшчыкаў Амадэй падкрэсліў, што галюцынацыі ШІ не з’яўляюцца перашкодай на шляху да стварэння агульнага штучнага інтэлекту (AGI) — сістэм з інтэлектам на чалавечым узроўні або вышэй. «Залежыць ад таго, як гэта вымяраць, але я падазраю, што мадэлі ШІ памыляюцца радзей за людзей, хоць іх памылкі больш нечаканыя», — сказаў ён.

Амадэй адзначыў, што памыляюцца не толькі ШІ, але і тэлевядучыя, палітыкі і прафесіяналы з розных сфер. Паводле яго слоў, памылкі ШІ не змяншаюць яго інтэлект, хоць упэўненасць, з якой мадэлі падаюць ілжывую інфармацыю, можа быць праблемай. Кіраўнік Anthropic — адзін з найбольш аптымістычных лідэраў у індустрыі, прагназуе з’яўленне AGI ўжо да 2026 года, адзначаючы «стабільны прагрэс» у гэтым напрамку.

У адрозненне ад Амадэя, кіраўнік Google DeepMind Дэміс Хасабіс лічыць галюцынацыі сур’ёзнай перашкодай для AGI, указваючы на «дзіркі» ў сучасных мадэлях, якія часта даюць няправільныя адказы на відавочныя пытанні. Нядаўні інцыдэнт, калі юрыст Anthropic быў вымушаны прасіць прабачэння ў судзе за выкарыстанне Claude для стварэння спасылак, у якіх ШІ прыдумаў імёны і тытулы, ілюструе гэтую праблему.

Прамое параўнанне галюцынацый ШІ і памылак людзей ускладненае, бо большасць тэстаў параўноўваюць мадэлі ШІ паміж сабой, а не з чалавечымі памылкамі. Новыя функцыі, такія як доступ да вэб-пошуку, дапамагаюць знізіць узровень галюцынацый, і некаторыя мадэлі, напрыклад OpenAI GPT-4.5, праяўляюць меншую схільнасць да выдуманых дадзеных у параўнанні з папярэднімі пакаленнямі. Аднак існуюць даследаванні, якія паказваюць, што ў прасунутых мадэлях, такіх як OpenAI o3 і o4-mini, узровень галюцынацый расце, і прычыны гэтага застаюцца незразумелымі.