Найбуйнейшыя сусветныя цэнтры кібербяспекі выступілі з рэзкім папярэджаннем: карпаратыўным карыстальнікам варта адмовіцца ад выкарыстання браўзераў з убудаванымі ШІ-агентамі.
Найбуйнейшыя сусветныя цэнтры кібербяспекі выступілі з рэзкім папярэджаннем: карпаратыўным карыстальнікам варта адмовіцца ад выкарыстання браўзераў з убудаванымі ШІ-агентамі.
Паводле новай справаздачы Gartner і заявы Нацыянальнага цэнтра кібербяспекі Вялікабрытаніі (NCSC), такія сэрвісы ствараюць высокую рызыку ўзломаў і не гатовыя да масавага ўкаранення ў арганізацыях.
У справаздачы Gartner гаворыцца, што «аддзелы кібербяспекі павінны блакаваць ШІ-браўзеры ўжо зараз». Даследчыкі падкрэсліваюць, што прадукты кшталту Comet ад Perplexity і Atlas ад OpenAI дазваляюць аўтаматызаваць дзеянні ў сетцы — ад пошуку да напісання лістоў, — але менавіта гэта робіць іх уразлівымі для атак з ін’екцыяй промптаў.
Сутнасць пагрозы ў тым, што шкоднасныя каманды могуць быць схаваныя ў змесце сайтаў ці лістоў, а ШІ-агент выканае іх гэтак жа, як і звычайныя ўказанні карыстальніка. Gartner рэкамендуе кампаніям «заблакаваць усе ШІ-браўзеры ў агляднай будучыні», адзначыўшы, што іх налады арыентаваныя на выгоду карыстальніка, а не на бяспеку ці канфідэнцыйнасць.
На гэтым тыдні брытанскі цэнтр NCSC таксама заявіў, што цалкам абараніцца ад промпт-атак, верагодна, ніколі не атрымаецца, параўнаўшы пагрозу з SQL-ін’екцыямі — уразлівасцю, якую можна толькі мінімізаваць, але не ліквідаваць цалкам. «Лепшае, на што мы можам разлічваць, — зніжэнне імавернасці ці наступстваў атакі», адзначае ведамства.
Тэхналагічныя кампаніі, якія развіваюць ШІ-браўзеры, рыхтуюцца да супраціву. Microsoft, OpenAI і Perplexity сцвярджаюць, што ўжо ўкараняюць меры абароны: мяркуюць, што любы вэб-кантэнт патэнцыйна шкодны, патрабуюць дадатковых пацверджанняў карыстальніка пры выкананні небяспечных каманд. Google таксама абвясціла пра ўласныя пратаколы бяспекі для Chrome, які інтэгруе ШІ Gemini.
Пакуль жа выпрабаванні ШІ-браўзераў паказваюць, што яны не толькі небяспечныя, але і нярэдка расчароўваюць карыстальнікаў нізкай прадукцыйнасцю і тэхнічнымі абмежаваннямі. Эксперты папярэджваюць: рызыкі канфідэнцыйнасці і бяспекі сёння пераважваюць патэнцыйныя выгоды такіх інструментаў.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.