Аддзел навін 6 ліпеня 2023, 12:47

OpenAI збірае каманду для кантролю над распрацоўкай «звышразумнага» АІ

OpenAI фарміруе каманду для стварэння сістэм «звышразумнага» АІ і кантролю над імі. Пра гэта паведамляецца ў ейным карпаратыўным блогу.

Пакінуць каментарый

OpenAI фарміруе каманду для стварэння сістэм «звышразумнага» АІ і кантролю над імі. Пра гэта паведамляецца ў ейным карпаратыўным блогу.

Паводле прагнозу кампаніі, штучны інтэлект стане разумнейшым за чалавека ўжо ў гэтым дзесяцігоддзі. Аднак прадказаць, якімі будуць паводзіны і мэты штучнага розуму, немагчыма, таму неабходна кантраляваць распрацоўку звышразумных АІ-сістэм і прадумаць спосабы іх утаймавання. Цяпер такіх рашэнняў не існуе.

Новую групу — Superalignment team — узначаліць сузаснавальнік і галоўны навуковы супрацоўнік OpenAI Ілля Суцкевер і адзін з яе менеджараў Ян Лейке. Туды ўвойдуць навукоўцы, даследчыкі і праграмісты з розных падраздзяленняў кампаніі. Найбліжэйшыя чатыры гады яны зоймуцца рашэннем тэхнічных праблем, звязаных з кантролем над звышрозумам. У іх распараджэнні будзе 20% вылічальных магутнасцей OpenAI.

Мэта — стварыць спецыяльны штучны інтэлект са зваротнай сувяззю, які будзе ацэньваць іншыя АІ-сістэмы на прадмет таго, ці працуюць яны ў адпаведнасці са сваім прызначэннем. У OpenAI лічаць, што нягледзячы на магчымыя перадузятасці, памылкі і ўразлівасці, АІ будзе даваць рады гэтай задачы лепш і хутчэй за людзей.