Николай Чикишев world 23 мая 2025, 14:51

CEO Anthropic: ШІ памыляецца радзей за людзей — дайце яму шанец

Генеральны дырэктар Anthropic Дарыа Амадэй заявіў, што праблема галюцынацый у мадэляў штучнага інтэлекту не з’яўляецца крытычнай для развіцця тэхналогіі, а памылкі натуральныя для любога інтэлекту.

3 каментарыя

CEO Anthropic: ШІ памыляецца радзей за людзей — дайце яму шанец

Генеральны дырэктар Anthropic Дарыа Амадэй заявіў, што праблема галюцынацый у мадэляў штучнага інтэлекту не з’яўляецца крытычнай для развіцця тэхналогіі, а памылкі натуральныя для любога інтэлекту.

На першай канферэнцыі Anthropic для распрацоўшчыкаў Амадэй падкрэсліў, што галюцынацыі ШІ не з’яўляюцца перашкодай на шляху да стварэння агульнага штучнага інтэлекту (AGI) — сістэм з інтэлектам на чалавечым узроўні або вышэй. «Залежыць ад таго, як гэта вымяраць, але я падазраю, што мадэлі ШІ памыляюцца радзей за людзей, хоць іх памылкі больш нечаканыя», — сказаў ён.

Амадэй адзначыў, што памыляюцца не толькі ШІ, але і тэлевядучыя, палітыкі і прафесіяналы з розных сфер. Паводле яго слоў, памылкі ШІ не змяншаюць яго інтэлект, хоць упэўненасць, з якой мадэлі падаюць ілжывую інфармацыю, можа быць праблемай. Кіраўнік Anthropic — адзін з найбольш аптымістычных лідэраў у індустрыі, прагназуе з’яўленне AGI ўжо да 2026 года, адзначаючы «стабільны прагрэс» у гэтым напрамку.

У адрозненне ад Амадэя, кіраўнік Google DeepMind Дэміс Хасабіс лічыць галюцынацыі сур’ёзнай перашкодай для AGI, указваючы на «дзіркі» ў сучасных мадэлях, якія часта даюць няправільныя адказы на відавочныя пытанні. Нядаўні інцыдэнт, калі юрыст Anthropic быў вымушаны прасіць прабачэння ў судзе за выкарыстанне Claude для стварэння спасылак, у якіх ШІ прыдумаў імёны і тытулы, ілюструе гэтую праблему.

Прамое параўнанне галюцынацый ШІ і памылак людзей ускладненае, бо большасць тэстаў параўноўваюць мадэлі ШІ паміж сабой, а не з чалавечымі памылкамі. Новыя функцыі, такія як доступ да вэб-пошуку, дапамагаюць знізіць узровень галюцынацый, і некаторыя мадэлі, напрыклад OpenAI GPT-4.5, праяўляюць меншую схільнасць да выдуманых дадзеных у параўнанні з папярэднімі пакаленнямі. Аднак існуюць даследаванні, якія паказваюць, што ў прасунутых мадэлях, такіх як OpenAI o3 і o4-mini, узровень галюцынацый расце, і прычыны гэтага застаюцца незразумелымі.

OpenAI працуе над сакрэтным ШІ-гаджэтам. Альтман у захапленні ад прататыпа

Крамянёвая даліна ганялася за моладдзю але болей не. У тым ліку праз ШІ

Mistral выпусціла ШІ-мадэль для праграмавання з адкрытым кодам

3 каментарыя

Тэкст: Николай Чикишев Крыніца: TechCrunch Тэгі: agi, anthropic, ии, искусственный интеллект

Знайшлі памылку ў тэксце-вылучыце яе і націсніце Ctrl+Enter. Знайшлі памылку ў тэксце-вылучыце яе і націсніце кнопку «Паведаміць пра памылку».

Сайт компании Вакансии

Размяшчэнне рэкламы

Разработка роботов, дронов и робомобилей: где учат специалистов с зарплатой $100k+

Искусственный интеллект уже стал повседневностью: голосовой помощник включает музыку, робот-пылесос сканирует пространство и убирает квартиру, алгоритм ранжирования настраивает ленту в TikTok, а беспилотные такси уже свободно курсируют по городам. Получить профессию в сфере ИИ с зарплатой от $100k в год тоже стало проще — собрали 5 интересных курсов от Udacity.