Дапамажыце dev.by 🤍
Падтрымаць

Хакеру ў дапамогу: GPT-4 можа эксплуатаваць уразлівасці па іх апісаннях

Навукоўцы Ілінойскага ўніверсітэта высветлілі, што нейрасетка здольная ствараць эксплойты для большасці ўразлівасцяў на аснове вывучэння інфармацыі пра іх у інтэрнэце.

Пакінуць каментарый
Хакеру ў дапамогу: GPT-4 можа эксплуатаваць уразлівасці па іх апісаннях

Навукоўцы Ілінойскага ўніверсітэта высветлілі, што нейрасетка здольная ствараць эксплойты для большасці ўразлівасцяў на аснове вывучэння інфармацыі пра іх у інтэрнэце.

Зламыснікі ўжо ўжываюць вялікія моўныя мадэлі для напісання фішынгавых лістоў і шкодных праграм з базавымі магчымасцямі. Доступ да GPT-4 і адкрытых фрэймворкаў пашырае іх магчымасці: з дапамогай АІ хакеры могуць аўтаматызаваць працэс напісання эксплойтаў да ўразлівасцяў, як толькі інфармацыя пра гэта паступае ў адкрыты доступ.

Навукоўцы выкарыстоўвалі ў эксперыменце набор інструментаў, у тым ліку базавую нейрасетку, сродкі стварэння запытаў, фрэймворка (ReAct фрэймворка LangChain), тэрмінал і інтэрпрэтатар кода. З дапамогай створанага агента даследчыкі пратэсціравалі 15 вядомых уразлівасцяў з адкрытым зыходным кодам. Восем прыкладаў мелі «высокі» і «крытычны» рэйтынг CVE. З 11 прыкладамі GPT-4 сутыкнулася ўпершыню.

Усяго навукоўцы пратэсціравалі дзесяць АІ-мадэляў, у тым ліку GPT-3.5, LLama 2 і іншыя. Дзевяць з іх не змаглі ўзламаць ніводнага з прадуктаў, GPT-4 прапанавала 13 эфектыўных эксплойтаў, толькі два варыянты выявіліся няўдалымі. Даследчыкі прыйшлі да высновы, што для абароны сістэм кампаніям прыйдзецца выкарыстоўваць тыя ж тэхналогіі АІ, не чакаючы выхаду выпраўленчых патчаў.

Тым не менш пакуль магчымасці АІ для кіберабароны абмежаваныя. Тая ж GPT-4 у часе эксперыментаў давала некалькі аблуднастаноўчых і аблуднаадмоўных спрацоўванняў пры ацэнцы бяспекі тых ці іншых прадуктаў.

Расмйскія хакеры атрымалі доступ да перапіскі ўладаў ЗША з Microsoft
Расмйскія хакеры атрымалі доступ да перапіскі ўладаў ЗША з Microsoft
Па тэме
Расмйскія хакеры атрымалі доступ да перапіскі ўладаў ЗША з Microsoft
Белыя хакеры зарабілі $730 000 на ўзломе Tesla і ўразлівасцях Safari Chrome і Adobe
Белыя хакеры зарабілі $730 000 на ўзломе Tesla і ўразлівасцях Safari, Chrome і Adobe
Па тэме
Белыя хакеры зарабілі $730 000 на ўзломе Tesla і ўразлівасцях Safari, Chrome і Adobe
Microsoft заявіла што расійскія хакеры ўзламалі пошту кіраўніцтва кампаніі
Microsoft заявіла, што расійскія хакеры ўзламалі пошту кіраўніцтва кампаніі
Па тэме
Microsoft заявіла, што расійскія хакеры ўзламалі пошту кіраўніцтва кампаніі

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.