Генеральны дырэктар BelHard навучыў OpenAI, як кантраляваць нейрасеткі, каб не ўзбунтаваліся. Гэта беларуская распрацоўка

Ён адзначыў, што з развіццём ШІ усё больш вострай робіцца праблема непрадказальнасці і патэнцыйнай небяспекі аўтаномных нейронных сетак.

«Сучасныя ШІ-мадэлі здольныя да самаадукацыі і адаптацыі, што робіць іх магутным інструментам, але адначасова спараджае рызыкі, звязаныя з некарэктнымі высновамі, адхіленнем ад зададзеных мэтаў і нават пагрозай бунту сістэмы супраць чалавека. Вырашэннем гэтай праблемы можа стаць укараненне семантычнага „кокана“, які забяспечвае лагічны кантроль над дзеяннямі нейрасеткі. Адной з найбольш перспектыўных платформаў для рэалізацыі такога падыходу з’яўляецца тэхналогія OSTIS (Open Semantic Technology for Intelligent Systems)», — адзначыў Мамоненка.

Па яго словах, нейрасеткі дэманструюць выдатныя поспехі ў распазнаванні вобразаў, машынным перакладзе, прагназаванні і прыняцці рашэнняў. Але яны маюць фундаментальныя недахопы, напрыклад нават распрацоўшчыкам складана інтэрпрэтаваць іх унутраныя працэсы, яны могуць даваць розныя вынікі пры аднолькавых уваходных, прымаць рашэнні, якія супярэчаць здароваму сэнсу, і галюцынаваць, а таксама могуць узбунтавацца супраць чалавека. Усё гэта можа прывесці да памылак з катастрафічнымі наступствамі.

Вырашэнне гэтых праблем Маманенка бачыць у гібрыдных ШІ-сістэмах, якія спалучаюць нейрасеткавыя мадэлі і фармалізаваныя семантычныя тэхналогіі.

Такія сістэмы складаюцца з двух кампанентаў:

• нейроннай часткі, якая адказвае за апрацоўку дадзеных, навучанне і адаптацыю;
• семантычнай часткі, якая забяспечвае праверку лагічнай карэктнасці высноў, кантралюе адпаведнасць устаноўленым мэтам і правілам.

Пры такой архітэктуры ствараецца семантычны кокан, які атачае нейрасетку і прадухіляе выхад за рамкі зададзеных нормаў. У такіх «кайданках» нейрасетка не можа ўплываць на семантычную частку ні праз перанавучанне, ні праз спробы самапраграмавання, і яе паводзіны цалкам кантралявальныя.

Тэхналогія OSTIS, распрацаваная беларускімі навукоўцамі, выключае нявызначанасць, уласцівую нейрасеткам, дазваляе чалавеку разумець, чаму было прынята тое ці іншае рашэнне, гнутка інтэгруецца з вонкавымі модулямі накшталт экспертных сістэм і баз дадзеных, забяспечвае маштабаванасць і інтэраперабельнасць, гэта значыць магчымасць аб’ядноўваць разнастайныя нейрасеткі ў адзіную сістэму для вырашэння комплексных задач.

Раней Мамоненка адзначаў, што «ў цяперашні момант аналагаў OSTIS у свеце няма, і менавіта мы зможам стаць абаронцам чалавецтва». Ён абяцаў у хуткім часе апублікаваць вынікі выпрабаванняў.

Тэхналогія ўжо выкарыстоўваецца ў розных галінах, уключаючы медыцыну, адукацыю, права, робататэхніку, лагістыку і іншыя. «OSTIS — гэта не проста платформа, а крок да вырашэння адной з глабальных праблем XXI стагоддзя: бяспечнага суіснавання чалавека і аўтаномнага штучнага інтэлекту», — падсумоўвае гендырэктар BelHard.

Гендырэктар BelHard кажа, што Беларусь можа стаць глабальным лідарам у ШІ. Вось што трэба рабіць

Па тэме

Гендырэктар BelHard кажа, што Беларусь можа стаць глабальным лідарам у ШІ. Вось што трэба рабіць

ChatGPT знішчыў больш за палову вакансій для джуноў у брытанскім ІТ

Па тэме

ChatGPT знішчыў больш за палову вакансій для джуноў у брытанскім ІТ