Генеральны дырэктар Anthropic Дарыа Амадэй заявіў, што праблема галюцынацый у мадэляў штучнага інтэлекту не з’яўляецца крытычнай для развіцця тэхналогіі, а памылкі натуральныя для любога інтэлекту.
Генеральны дырэктар Anthropic Дарыа Амадэй заявіў, што праблема галюцынацый у мадэляў штучнага інтэлекту не з’яўляецца крытычнай для развіцця тэхналогіі, а памылкі натуральныя для любога інтэлекту.
На першай канферэнцыі Anthropic для распрацоўшчыкаў Амадэй падкрэсліў, што галюцынацыі ШІ не з’яўляюцца перашкодай на шляху да стварэння агульнага штучнага інтэлекту (AGI) — сістэм з інтэлектам на чалавечым узроўні або вышэй. «Залежыць ад таго, як гэта вымяраць, але я падазраю, што мадэлі ШІ памыляюцца радзей за людзей, хоць іх памылкі больш нечаканыя», — сказаў ён.
Амадэй адзначыў, што памыляюцца не толькі ШІ, але і тэлевядучыя, палітыкі і прафесіяналы з розных сфер. Паводле яго слоў, памылкі ШІ не змяншаюць яго інтэлект, хоць упэўненасць, з якой мадэлі падаюць ілжывую інфармацыю, можа быць праблемай. Кіраўнік Anthropic — адзін з найбольш аптымістычных лідэраў у індустрыі, прагназуе з’яўленне AGI ўжо да 2026 года, адзначаючы «стабільны прагрэс» у гэтым напрамку.
У адрозненне ад Амадэя, кіраўнік Google DeepMind Дэміс Хасабіс лічыць галюцынацыі сур’ёзнай перашкодай для AGI, указваючы на «дзіркі» ў сучасных мадэлях, якія часта даюць няправільныя адказы на відавочныя пытанні. Нядаўні інцыдэнт, калі юрыст Anthropic быў вымушаны прасіць прабачэння ў судзе за выкарыстанне Claude для стварэння спасылак, у якіх ШІ прыдумаў імёны і тытулы, ілюструе гэтую праблему.
Прамое параўнанне галюцынацый ШІ і памылак людзей ускладненае, бо большасць тэстаў параўноўваюць мадэлі ШІ паміж сабой, а не з чалавечымі памылкамі. Новыя функцыі, такія як доступ да вэб-пошуку, дапамагаюць знізіць узровень галюцынацый, і некаторыя мадэлі, напрыклад OpenAI GPT-4.5, праяўляюць меншую схільнасць да выдуманых дадзеных у параўнанні з папярэднімі пакаленнямі. Аднак існуюць даследаванні, якія паказваюць, што ў прасунутых мадэлях, такіх як OpenAI o3 і o4-mini, узровень галюцынацый расце, і прычыны гэтага застаюцца незразумелымі.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
лишь бы продать
CEO Anthropic ошибается.
А я подозреваю, что всё Дарио Амодеи понимает, но просто **** всем в глаза не стесняясь.
Ему выгодно врать нагло. Вот он и врёт нагло.
Пользователь отредактировал комментарий 25 мая 2025, 01:52