ШІ масава знаходзіць старыя ўразлівасці ў ПЗ, на якім трымаецца інтэрнэт. Гадамі іх не выпраўлялі праз эканомію і недахоп рэсурсаў, лічыць аглядальнік Business Insider Алістэр Бар.
ШІ масава знаходзіць старыя ўразлівасці ў ПЗ, на якім трымаецца інтэрнэт. Гадамі іх не выпраўлялі праз эканомію і недахоп рэсурсаў, лічыць аглядальнік Business Insider Алістэр Бар.
Бягучую хвалю ўразлівасцяў, якая атрымала назву «чорны кастрычнік», памылкова ўспрымаць выключна як пагрозу з боку ШІ, лічыць журналіст. «На першы погляд здаецца, што вінаваты ШІ. Але ў асноўным гэта праблема, створаная людзьмі», — піша ён.
На думку аглядальніка, бягучы крызіс паказаў, колькі памылак назапасілася ў праграмным забеспячэнні за дзесяцігоддзі. Некаторыя ўразлівасці заставаліся незаўважанымі, іншыя распрацоўшчыкі свядома не выпраўлялі праз недахоп часу і грошай.
Раней эксплуатацыя такіх памылак патрабавала высокай кваліфікацыі і значных намаганняў. Цяпер ШІ можа знаходзіць іх значна хутчэй, таму рызыкі, з якімі кампаніі гадамі мірыліся, сталі значна сур’ёзнейшымі.
Бар прыводзіць выказванне партнёраў венчурнай кампаніі Andreessen Horowitz Джоэла дэ ла Гарсы і Зэйна Лэкі. У сваім артыкуле яны сцвярджаюць, што за апошнія дзесяць гадоў працэдуры прыняцця рызык у кампаніях з інструмента кіравання бяспекай ператварыліся ў спосаб апраўдваць адмову ад выпраўлення ўразлівасцяў.
Адсюль, на думку Бара, узнікае іронія. Апошнія гады індустрыя абмяркоўвала праблему ШІ-слопа — няякаснага кантэнту і праграмнага кода, якія масава ствараюць нейрасеткі. Але цяпер ШІ выяўляе мноства памылак у кодзе, напісаным людзьмі.
Яшчэ адна праблема — арганізацыя экасістэмы адкрытага ПЗ. Крытычна важныя кампаненты інтэрнэту часта падтрымліваюцца невялікімі камандамі або валанцёрамі, хоць іх распрацоўкамі карыстаюцца найбуйнейшыя тэхналагічныя кампаніі.
Бар апісвае гэта як «трагедыю агульнага»: усе атрымліваюць карысць ад агульнага рэсурсу, але ў асобных удзельнікаў недастаткова стымулаў укладвацца ў яго ўтрыманне. Напрыклад, нядаўнія крытычныя ўразлівасці ў PHP. Памылкі існавалі гадамі, а PHP Foundation прызнала, што абмежаваныя рэсурсы і рознагалоссі наконт выпраўленняў спрыялі затрымкам.
Пры гэтым вінаваціць валанцёраў, якія падтрымліваюць адкрытае ПЗ, няправільна. На думку Бара, значна большую адказнасць павінны несці кампаніі, якія зарабляюць на выкарыстанні гэтых распрацовак.
Магчымае выйсце прапанаваў дырэктар прадуктаў Vercel Том Акіна. У ягонай кампаніі абмяркоўваюць стварэнне фонду або кааліцыі для пошуку ўразлівасцяў і замены небяспечнага ПЗ больш надзейнымі рашэннямі. Удзельнікі маглі б прадастаўляць вылічальныя рэсурсы і ШІ-інструменты для такой працы.
У якасці ўжо дзеючага прыкладу Бар прыводзіць ініцыятыву OpenAI Patch the Planet, у межах якой ШІ выкарыстоўваюць для пошуку і выпраўлення памылак у адкрытым ПЗ. Аглядальнік лічыць, што замест панікі праз выяўленыя ўразлівасці тэхналагічнай індустрыі варта накіраваць магчымасці нейрасетак на ліквідацыю назапашаных праблем. «ШІ не ствараў дзесяцігоддзямі закінутае праграмнае забеспячэнне. Гэта зрабілі мы», — падсумоўвае Бар.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.