Николай Чикишев world 3 сакавіка 2026, 13:20

ШІ-агенты — цяпер галоўная ўнутраная пагроза бізнесу

Карпаратыўныя ШІ-агенты, якія ствараюцца для аўтаматызацыі і павышэння эфектыўнасці, усё часцей разглядаюцца экспертамі як патэнцыйная ўнутраная пагроза для бізнесу.

Пакінуць каментарый

ШІ-агенты — цяпер галоўная ўнутраная пагроза бізнесу

Карпаратыўныя ШІ-агенты, якія ствараюцца для аўтаматызацыі і павышэння эфектыўнасці, усё часцей разглядаюцца экспертамі як патэнцыйная ўнутраная пагроза для бізнесу.

Паводле слоў журналіста ZDNET Дэвіда Гевірца, ключавы пералом адбываецца ў той момант, калі агент атрымлівае магчымасць ствараць падпарадкаваных агентаў і дзейнічаць паралельна. Гевірц выкарыстоўваў Claude для стварэння ўласных ШІ-агентаў і заўважыў, што сістэма адначасова запускала некалькі аўтаномных працэсаў без дастатковай празрыстасці і кантролю.

Адзін агент паспрабаваў змяніць структуру аплікацыі без запыту, іншы захрас з-за адсутнасці правоў доступу, у выніку чаго праект быў фактычна разбураны. Аднавіць яго ўдалося толькі дзякуючы рэзервовым копіям, піша журналіст.

Калі падобная сітуацыя маштабуецца на ўзровень буйной кампаніі, наступствы могуць быць значна сур’ёзнейшымі, адзначае аўтар. Замест пашкоджанага кода гаворка можа ісці пра доступ да фінансавых аперацый, баз даных і ўнутраных камунікацый. Агент з пашыранымі прывілеямі патэнцыйна здольны ініцыяваць дзеянні ад імя кампаніі без паўнавартаснага нагляду.

Статыстыка пацвярджае маштаб праблемы. Згодна з даследаваннем кампаніі ў сферы кібербяспекі Palo Alto Networks, машынныя ідэнтыфікатары ў арганізацыях ужо перавышаюць чалавечыя ў суадносінах 82 да 1. Гэта азначае, што ў карпаратыўных сетках дзейнічае ў дзясяткі разоў больш праграмных сутнасцей з уліковымі данымі, чым супрацоўнікаў. Пры гэтым, як паказваюць апытанні, большасць кампаній не маюць комплекснай стратэгіі кіравання бяспекай ШІ.

Паводле даных Ernst & Young, 99% апытаных кампаній ужо сутыкаліся з фінансавымі стратамі, звязанымі з рызыкамі ІШ, а сярэдні ўрон склаў $4,4 мільёна. Аналітыкі папярэджваюць, што па меры росту аўтаномнасці агентных сістэм «радыус паражэння» будзе павялічвацца.

Арганізацыя Open Worldwide Application Security Project уключыла аўтаномныя ШІ-сістэмы ў пералік найбольш крытычных пагроз бяспекі. Сярод ключавых рызык: укараненне шкоднасных інструкцый праз промпт-ін’екцыі, уцечка канфідэнцыйнай інфармацыі, уразлівасці ў ланцугу паставак і празмерная аўтаномія агентаў. Апошні фактар, на думку экспертаў, асабліва небяспечны, паколькі пашыраныя паўнамоцтвы пры кампраметацыі сістэмы могуць прывесці да маштабных наступстваў.

Гевірц лічыць, што характар інсайдэрскай пагрозы змяняецца. Калі раней значная частка інцыдэнтаў была звязана з чалавечай нядбайнасцю, то цяпер ШІ-агенты самі могуць стаць «новымі інсайдэрамі» — лічбавымі суб’ектамі, якія працуюць кругласуткава і маюць доступ да крытычнай інфраструктуры.

У якасці мер абароны эксперты рэкамендуюць разглядаць агентаў як паўнавартасных удзельнікаў сістэмы бяспекі: вылучаць ім асобныя ідэнтыфікатары, ужываць прынцып мінімальных прывілеяў, абмяжоўваць тэрмін дзеяння токенаў доступу і патрабаваць дадатковай праверкі для крытычных аперацый.