ШІ-агенты замяняюць багхантэраў: ручны пошук багаў сыходзіць у мінулае

Журналіст Уіл Найт з Wired падзяліўся асабістым досведам: яго новы сайт, створаны з дапамогай Claude Code для аналізу даследаванняў ШІ, быў выпрабаваны 10-хвіліннай «атакай» з боку ШІ-агентаў RunSybil — стартапа, заснаванага былым спецыялістам па бяспецы OpenAI Арыэлем Герберт-Восам.

Тэхналогія RunSybil працуе па наступным прынцыпе: галоўны агент Sybil каардынуе некалькі ШІ-ботаў, якія выконваюць розныя задачы. У адрозненне ад стандартных сканераў, якія шукаюць толькі вядомыя ўразлівасці, боты RunSybil аналізуюць структуру сайта, правяраюць анамаліі доступу, камбінуюць параметры, шукаюць нечаканыя лазейкі, як гэта робіць дасведчаны хакер.

Сістэма здольная запускаць тысячы працэсаў паралельна, не прапускаючы дэталяў і не стамляючыся — вынік нагадвае працу цэлай каманды пентэстэраў, але з машыннай дакладнасцю. Сайт журналіста аказаўся занадта простым — уразлівасцяў выяўлена не было. Аднак на дэманстрацыйным сайце крамы з вядомымі ўразлівасцямі боты Sybil хутка пабудавалі карту сэрвісу, знайшлі слабыя месцы і паспяхова правялі серыю атак.

На думку экспертаў, такія тэхналогіі могуць стаць прарывам: калі злачынцы выкарыстоўваюць ШІ, то і абарона павінна быць «разумнай» і пастаяннай. Каманды RunSybil здольныя праводзіць аўтаматычнае тэставанне сістэм гэтак жа рэгулярна, як буйныя кампаніі робяць гэта ўручную.

«Мы на парозе тэхналагічнага выбуху ў кібербяспецы: і добрыя, і дрэнныя гульцы будуць усё актыўней выкарыстоўваць ШІ», — адзначае Герберт-Вос. Даследаванні Універсітэта Карнегі-Мелан і Anthropic таксама пацвярджаюць перспектыўнасць такога падыходу: хоць сучасныя моўныя мадэлі пакуль не ўмеюць праводзіць складаныя сеткавыя атакі, аўтаномныя мэты і высокаўзроўневыя задачы яны ўжо вырашаюць усё лепш.