Кампаніі масава ўкараняюць ШІ, але не выбудоўваюць адзінай стратэгіі: большасць выкарыстоўвае адразу некалькі платформаў, спрабуючы не залежаць ад аднаго вендара. У выніку кантроль і бяспека аказваюцца слабейшымі, чым лічаць у самых кампаніях.
Кампаніі масава ўкараняюць ШІ, але не выбудоўваюць адзінай стратэгіі: большасць выкарыстоўвае адразу некалькі платформаў, спрабуючы не залежаць ад аднаго вендара. У выніку кантроль і бяспека аказваюцца слабейшымі, чым лічаць у самых кампаніях.
Паводле дадзеных даследавання VentureBeat, 72% арганізацый выкарыстоўваюць адразу дзве і больш платформы, якія лічаць «асноўнымі» — ад рашэнняў Microsoft, Google, OpenAI і Anthropic да карпаратыўных сервісаў як Workday і ServiceNow. У выніку замест адзінай стратэгіі фармуецца разрозненая інфраструктура, якую аўтары справаздачы называюць «міражом кіравання».
Упэўненасць кампаній не адпавядае рэальнай сітуацыі, лічаць даследчыкі. 56% рэспандэнтаў заявілі, што «вельмі ўпэўнены» ў здольнасці выявіць збоі ў працы ШІ, аднак амаль траціна прызнала, што ў іх няма сістэмных механізмаў маніторынгу — праблемы выяўляюцца ўжо постфактум. Гэта крытычна на фоне росту рызык: паводле дадзеных Wiz, 34% інцыдэнтаў з генератыўным ШІ звязаныя з уцечкамі тэлеметрыі, а сярэдні кошт уцечкі дадзеных дасягнуў $4,4 мільёна.
Адказнасць за ўкараненне ШІ таксама размыта. Толькі 43% кампаній паведамілі, што кіраванне ШІ сканцэнтравана ў адной камандзе. У астатніх выпадках адказнасць альбо не вызначана (23%), альбо размеркавана паміж камандамі (20%), альбо наогул не фармалізавана (6%). Пры гэтым адсутнасць кіраўніка ШІ-напрамку назвалі адной з галоўных праблем — 29% рэспандэнтаў указалі гэта як ключавую перашкоду.
Дадатковую складанасць стварае рост колькасці ШІ-агентаў ад розных пастаўшчыкоў. Яны працуюць па-рознаму, і кампаніям даводзіцца будаваць уласныя сістэмы каардынацыі. Праблема пагаршаецца распаўсюджваннем «ценявога ШІ». Паводле прадстаўніка распрацоўніка карпаратыўнага ПЗ Red Hat Брайана Грэйслі, выкарыстоўваць такія інструменты надзвычай проста, але потым прыходзяць наступствы.
«Пачаць вельмі лёгка. Але на другі дзень прыходзіць рахунак», — патлумачыў Грэйслі. Ён прывёў прыклад: адзін з банкаў-кліентаў выявіў, што да 10 тысяч супрацоўнікаў ужо ўкараняюць агентныя інструменты без кантролю. Паводле дадзеных IBM, такія інцыдэнты абыходзяцца кампаніям у сярэднім на $670 тысяч даражэй звычайных уцечак.
Парадаксальна, але тыя ж платформы, якія ствараюць рызыкі, часта выкарыстоўваюцца для іх кантролю. У справаздачы гэта апісваецца як сітуацыя «прасіць лісу ахоўваць куратнік». Напрыклад, 26% кампаній указалі рашэнні OpenAI як асноўны інструмент бяспекі.
На фоне нестабільнасці рынку кампаніі не спяшаюцца рабіць стаўку на аднаго пастаўшчыка. «Усё змяняецца так хутка, што складана зразумець, хто ў выніку апынецца лідарам», — адзначыў топ-менеджар страхавой кампаніі MassMutual Сірс Мэрыт.
У выніку многія кампаніі аказваюцца ў пастцы: яны не давяраюць ні аднаму вендару цалкам, але і не здольны пабудаваць уласную сістэму з нуля. Эксперты лічаць, што выхадам можа стаць стварэнне адзінага ўзроўню кантролю. «Нам трэба вялікая чырвоная кнопка: спыніць усё», — кажа дырэктар у тэхналогіях амерыканскай медычнай сістэмы Mass General Brigham Налан Шрыраман.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.