CEO Google: патрэбны новы тэрмін для ШІ, бо ён бывае дурнаваты

У нядаўнім эпізодзе падкаста Лекса Фрыдмана Пічаі прадставіў тэрмін Artificial Jagged Intelligence (AJI), «штучны зубчасты інтэлект». Кіраўнік Google выказаў здагадку, што гэты тэрмін, магчыма, упершыню выкарыстаў эксперт па глыбокім навучанні Андрэй Карпаты, сузаснавальнік OpenAI.

Пічаі адзначыў, што AJI адлюстроўвае дзіўную рэальнасць сучасных сістэм ШІ, якія могуць бліскуча спраўляцца са складанымі задачамі, напрыклад, вырашаць заблытаныя матэматычныя праблемы, але пры гэтым спатыкаюцца на простых памылках — такіх, як параўнанне лічбаў 9.9 і 9.11 або падлік літар у слове «strawberry».

У допісе на X у 2024 годзе пад назвай «Jagged Intelligence» Карпаты падрабязней растлумачыў гэтую канцэпцыю, апісаўшы яе як «дзіўную, неінтуітыўную» з’яву, пры якой самыя перадавыя вялікія моўныя мадэлі дэманструюць уражальныя вынікі ў складаных задачах, але церпяць няўдачу ў простых. Ён прывёў прыклады, такія як нелагічныя хады ШІ ў «крыжыках-нуліках» або праблемы з базавымі лічбавымі параўнаннямі, падкрэсліваючы непрадказальныя «зубчастыя» межы магчымасцяў ШІ.

У адрозненне ад чалавечага інтэлекту, які развіваецца паслядоўна — ад дзяцінства да сталасці, прагрэс ШІ з’яўляецца хаатычным. «Вы бачыце, на што яны здольныя, а потым лёгка заўважаеце, што яны дапускаюць лічбавыя памылкі або не могуць палічыць колькасць літар R у слове strawberry, што, здаецца, бянтэжыць большасць мадэляў», — адзначыў Пічаі. Ён ахарактарызаваў бягучую фазу развіцця ШІ як фазу AJI, якой уласцівыя ўражальныя прарывы разам з устойлівымі недахопамі.

Успамінаючы пачатак працы Google DeepMind у 2010 годзе, калі абмяркоўвалася 20-гадовая перспектыва дасягнення агульнага штучнага інтэлекту (AGI), Пічаі выказаў меркаванне, што да 2030 года ШІ дасягне «неверагодна прагрэсу» ў розных сферах — нават калі AGI застанецца недасягальным. Пічаі падкрэсліў неабходнасць стварэння сістэм для маркіроўкі кантэнту, створанага ШІ, каб захаваць давер да рэальнасці.