Хакеру ў дапамогу: GPT-4 можа эксплуатаваць уразлівасці па іх апісаннях

Зламыснікі ўжо ўжываюць вялікія моўныя мадэлі для напісання фішынгавых лістоў і шкодных праграм з базавымі магчымасцямі. Доступ да GPT-4 і адкрытых фрэймворкаў пашырае іх магчымасці: з дапамогай АІ хакеры могуць аўтаматызаваць працэс напісання эксплойтаў да ўразлівасцяў, як толькі інфармацыя пра гэта паступае ў адкрыты доступ.

Навукоўцы выкарыстоўвалі ў эксперыменце набор інструментаў, у тым ліку базавую нейрасетку, сродкі стварэння запытаў, фрэймворка (ReAct фрэймворка LangChain), тэрмінал і інтэрпрэтатар кода. З дапамогай створанага агента даследчыкі пратэсціравалі 15 вядомых уразлівасцяў з адкрытым зыходным кодам. Восем прыкладаў мелі «высокі» і «крытычны» рэйтынг CVE. З 11 прыкладамі GPT-4 сутыкнулася ўпершыню.

Усяго навукоўцы пратэсціравалі дзесяць АІ-мадэляў, у тым ліку GPT-3.5, LLama 2 і іншыя. Дзевяць з іх не змаглі ўзламаць ніводнага з прадуктаў, GPT-4 прапанавала 13 эфектыўных эксплойтаў, толькі два варыянты выявіліся няўдалымі. Даследчыкі прыйшлі да высновы, што для абароны сістэм кампаніям прыйдзецца выкарыстоўваць тыя ж тэхналогіі АІ, не чакаючы выхаду выпраўленчых патчаў.

Тым не менш пакуль магчымасці АІ для кіберабароны абмежаваныя. Тая ж GPT-4 у часе эксперыментаў давала некалькі аблуднастаноўчых і аблуднаадмоўных спрацоўванняў пры ацэнцы бяспекі тых ці іншых прадуктаў.