OpenAI: ШІ навучыўся самастойна генераваць новыя веды

У інтэрв’ю часопісу Nature Пахоцкі расказаў, як так званыя мадэлі разважання гатовыя самастойна ствараць веды. «Я б сказаў, што гэта форма разважання, але гэта не значыць, што яна ідэнтычная чалавечаму мысленню», — адзначыў ён.

Пахоцкі апісаў двухэтапны працэс навучання гэтых мадэляў. Першы этап — гэта некантраляванае папярэдняе навучанне, у ходзе якога ШІ паглынае велізарныя аб’ёмы дадзеных для пабудовы «мадэлі свету» — унутранага ўяўлення рэальнасці без свядомай структуры або часавай шкалы.

Другі этап выкарыстоўвае навучанне з падмацаваннем і зваротнай сувяззю ад чалавека (RLHF), каб ператварыць гэтую базу ў функцыянальнага памочніка. RLHF асабліва важны для мадэляў разважання, падкрэсліў Пахоцкі, хаця OpenAI таксама ўжывае традыцыйнае навучанне з падмацаваннем для задач з дакладнымі правільнымі і няправільнымі адказамі. RLHF лепш спраўляецца з складанымі, неадназначнымі праблемамі, але горш маштабуецца.

Навуковец паставіў пад сумнеў традыцыйнае падзяленне паміж папярэднім навучаннем і навучаннем з падмацаваннем, выказаўшы здагадку, што яны шчыльна звязаныя. «Мадэлі разважання не вучацца думаць у вакууме, яны заснаваныя на мадэлі, якая навучалася падчас папярэдняга навучання», — растлумачыў ён.

Погляд Пахоцкага на агульны штучны інтэлект (AGI) з цягам часу эвалюцыянаваў. Будучы студэнтам, ён лічыў авалоданне гульнёй у го далёкай мэтай, але перамога AlphaGo ў 2016 годзе перавярнула яго чаканні. Наступныя этапы, такія як праходжанне тэсту Цьюрынга і рашэнне складаных матэматычных задач, былі дасягнуты значна хутчэй, чым меркаваў навуковец.

Цяпер даследчык вызначае AGI ў эканамічных тэрмінах: гэта сістэмы ШІ, якія прыносяць значную камерцыйную каштоўнасць і праводзяць аўтаномныя даследаванні. «Для мяне гэта найбліжэй да таго, што я раней эмацыйна лічыў AGI», — сказаў ён у інтэрв’ю.

Даследчык прагназуе «істотны прагрэс» у аўтаномных даследаваннях ШІ да канца дзесяцігоддзя, а раннія практычныя прымяненні — такія, як сістэмы ШІ, здольныя распрацоўваць праграмнае забеспячэнне «амаль аўтаномна» — могуць з’явіцца ўжо ў гэтым годзе.