«Разумныя» ШІ-браўзэры лёгка трапляюць у пастку анлайн-махлярства

Спецыялісты кампаніі Guardio пратэставалі Comet на падробленых старонках і фішынгавых лістах. У адным з выпадкаў браўзеру «даручылі» купіць Apple Watch праз сайт з падробленым даменам, замаскаваны пад Walmart. Comet не заўважыў падману і аўтаматычна перадаў махлярам дадзеныя крэдытнай карткі і адрас карыстальніка.

Аналагічная сітуацыя адбылася з падробленым лістом ад анлайн-банкінгу «Wells Fargo»: браўзер без праверак перайшоў па падазронай спасылцы і запоўніў палі фішынгавага сайта лагінам і паролем.

Асобную трывогу выклікала здольнасць зламыснікаў выкарыстоўваць prompt injection — схаваныя каманды, убудаваныя ў код старонак. У адным з тэстаў гэта дазволіла абысці «капчу» і патэнцыйна ператварыць браўзеры ў ботнэт для каардынаваных атак.

Comet быў прэзентаваны ўсяго месяц таму і даступны па падпісцы коштам $200 у месяц. Перспектывы прадукту аўтары даследавання ацэньваюць асцярожна: пры адсутнасці ўбудаваных сістэм абароны агентныя ШІ-браўзеры могуць стаць не асістэнтамі, а крыніцай новых рызык.

Эксперты адзначаюць, што рызыкі ўзрастаюць, бо Microsoft, Google і OpenAI таксама развіваюць уласныя праекты агентных браўзераў. Даследчыкі лічаць, што без сур’ёзных мер па абароне карыстальнікаў «разумныя» браўзеры рызыкуюць ператварыцца ў новы канал для кібератак.

Аўстралійскі банк замяніў людзей на ШІ, а потым вярнуў і выбачыўся

Па тэме

Аўстралійскі банк замяніў людзей на ШІ, а потым вярнуў і выбачыўся

Кіраўнік аддзела ШІ Microsoft выказвае занепакоенасць павелічэннем выпадкаў «ШІ-псіхозу»

Па тэме

Кіраўнік аддзела ШІ Microsoft выказвае занепакоенасць павелічэннем выпадкаў «ШІ-псіхозу»