Відаць, давядзецца патрываць: Альтман назваў інцыдэнты з ШІ «непазбежнымі» і заклікаў вучыцца на памылках
Некаторых інцыдэнтаў пры развіцці ШІ пазбегнуць не ўдасца, але галоўнае пытанне ў тым, як індустрыя будзе вучыцца на гэтых памылках. Пра гэта кіраўнік OpenAI Сэм Альтман заявіў у аўторак на канферэнцыі Dreamforce, арганізаванай Salesforce. На ягоную думку, тэхнасектару трэба ўкараняць культуру празрыстай справаздачнасці пра такія кейсы — па аналогіі з тым, як гэта ўладкавана з аварыямі ў грамадзянскай авіяцыі.
Некаторых інцыдэнтаў пры развіцці ШІ пазбегнуць не ўдасца, але галоўнае пытанне ў тым, як індустрыя будзе вучыцца на гэтых памылках. Пра гэта кіраўнік OpenAI Сэм Альтман заявіў у аўторак на канферэнцыі Dreamforce, арганізаванай Salesforce. На ягоную думку, тэхнасектару трэба ўкараняць культуру празрыстай справаздачнасці пра такія кейсы — па аналогіі з тым, як гэта ўладкавана з аварыямі ў грамадзянскай авіяцыі.
«Я сапраўды лічу, што пэўная ступень аварыйнасці з новай тэхналогіяй непазбежная. Што для мяне сапраўды важна, дык гэта наяўнасць у нас развітой культуры паведамлення пра інцыдэнты і навучання на іх», — заявіў Альтман.
У якасці прыкладу для ШІ-галіны ён прывёў працу Федэральнага ўпраўлення грамадзянскай авіяцыі ЗША (FAA) і Нацыянальнага савета па бяспецы на транспарце (NTSB). Падыход гэтых ведамстваў да расследавання кожнай падзеі павысіў бяспеку палётаў.
«Аварыі ўсё роўна будуць адбывацца», — пракаментаваў ён авіярэгулятараў. І дадаў, што «мы збіраемся здабываць максімум урокаў і рэагаваць на кожны асобны выпадак».
Заявы Альтмана прагучалі на фоне ўсплёску дыскусій пра тое, што вядучыя лабараторыі занадта хутка рухаюцца да стварэння магутных аўтаномных сістэм. Градус спрэчак падняў даследчык Джэйкаб Коксан, які на мінулым тыдні звольніўся з Anthropic (а да гэтага працаваў у OpenAI). Ён заявіў, што кампаніі напралом імчацца да самаўдасканальвальнага звышінтэлекту, рызыкуючы жыццямі.
OpenAI раскрыла яшчэ 6 аномалій: ІІ хавае памылкі, крадзе API-ключы і мае зносіны ў абыход правілаў
Альтман прызнаў, што страхі перад апакаліптычнымі сцэнарыямі апраўданыя: «Свет законна гэтага баіцца». Сярод галоўных рызык ён вылучыў верагоднасць страты кантролю над сістэмамі і небяспечную канцэнтрацыю ўлады ў руках вузкай групы ШІ-распрацоўшчыкаў.
Пры гэтым Альтман перакананы, што поўная адмова ад тэхналогій не вырашыць праблему. Замест гэтага кампаніі абавязаны гарантаваць, што «алайнмент, бяспека і маніторынг» будуць «значна апярэджваць магчымасці мадэляў». Ён дадаў, што распрацоўшчыкі павінны быць гатовыя «запаволіцца або спыніцца», калі не змогуць забяспечыць такі апераджальны кантроль.
Дарэчы, падобныя тэзісы толькі ўзмацняюць крытыку з боку абаронцаў бяспекі ШІ — маўляў, ІТ-гіганты на словах усё разумеюць, а на справе працягваюць ствараць яшчэ больш магутныя мадэлі.
Альтман прызнаў, што людзей палохае адчуванне, нібы камерцыйныя інтарэсы могуць «перашкодзіць кампаніям або краінам рабіць правільна». Ён дадаў, што мэта — не змірыцца з катастрофамі, а своечасова раскрываць інфармацыю пра інцыдэнты, хутка вучыцца на іх і не дапускаць іх распаўсюду. «Магчыма, нам удасца ўвогуле пазбегнуць сітуацыі, калі стаўкі падымуцца да такога ўзроўню», — рэзюмаваў ён.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.