АІ надзялілі «ўнутраным маналогам» — вынікі значна палепшыліся
Навукоўцы стварылі новую тэхніку пад назвай Quiet-STaR, якая палягае ў тым, каб АІ-сістэма «падумала», перш як выдаць адказ на запыт — падобна таму, як людзі прадумваюць, што адказаць суразмоўцу. Свайго роду «ўнутраны маналог» дазволіў палепшыць якасць агульных разваг і ўдвая павысіць выніковасць на матэматычных задачах, піша Live Science.
Навукоўцы стварылі новую тэхніку пад назвай Quiet-STaR, якая палягае ў тым, каб АІ-сістэма «падумала», перш як выдаць адказ на запыт — падобна таму, як людзі прадумваюць, што адказаць суразмоўцу. Свайго роду «ўнутраны маналог» дазволіў палепшыць якасць агульных разваг і ўдвая павысіць выніковасць на матэматычных задачах, піша Live Science.
Метад адрозніваецца ад падыходу да трэніроўкі традыцыйных чат-ботаў накшталт ChatGPT, якія не «думаюць» пра тое, што выдаюць, і не прадбачаць магчымых варыянтаў наступных крокаў у гутарцы.
Па метадзе Quiet-STaR АІ-сістэма «сама сабе» генеруе мноства паралельных разваг, перш як адказаць. Пры адказе АІ генеруе камбінацыю прадказанняў з і без гэтых лагічных абгрунтаванняў і выдае лепшы адказ, які далей можа быць правераны чалавекам у залежнасці ад сутнасці пытання. У працэсе навучання АІ адкідвае развагі, якія выявіліся памылковымі. Па сутнасці, метад дае АІ-агентам магчымасць прадказваць далейшыя дыялогі і вучыцца на бягучых.
Метад праверылі на оўпэнсорснай моўнай мадэлі Mistral 7B. Навучаная па ім версія мадэлі паказала вынік у 47,2% у тэсце на разумовыя здольнасці супраць 36,3% да навучання. Школьны тэст па матэматыцы яна ўсё роўна «заваліла», набраўшы толькі 10,9%, але гэта амаль удвая лепш за 5,9% да навучання.
Даследчыкі адзначаюць, што метад можа прымяняцца «ў фоне» да розных тыпаў мадэляў незалежна ад характару зыходных навучальных даных. Цяпер яны маюць намер вывучыць, як падобныя метады могуць наблізіць АІ-сістэмы на базе нейрасетак да чалавечых разумовых здольнасцяў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.