Бизнес внедряют искусственный интеллект в инфраструктуру быстрее, чем настраивают контроль: 93% компаний сообщили об ИИ-инцидентах, а формальные политики есть лишь у 19%.
Бизнес внедряют искусственный интеллект в инфраструктуру быстрее, чем настраивают контроль: 93% компаний сообщили об ИИ-инцидентах, а формальные политики есть лишь у 19%.
Консалтинговая фирма Panterra Group опросила 406 руководителей, принимающих решения в сфере ИТ. Авторы называют разрыв в результатах опроса «дефицитом готовности к ИИ»: компании уже поручают моделям писать инфраструктурный код, но не успевают настроить проверку, контроль доступа и процессы реагирования на ошибки.
Среди последствий таких инцидентов респонденты назвали необходимость переделывать изменения, предложенные ИИ, — на это указали 37%. Еще 36% сообщили о небезопасных настройках, которые дошли до рабочих систем, столько же — о нарушениях требований комплаенса.
У 35% компаний ИИ-изменения привели к расхождению между описанной и фактической конфигурацией инфраструктуры, а 33% столкнулись с проблемами из-за автономных ИИ-агентов.
При этом использование ИИ в разработке уже стало массовым. 82% участников опроса заявили, что от четверти до трех четвертей кода в их компаниях создается с помощью ИИ.
На фоне роста такого объема изменений команды сталкиваются с новыми рисками. 40% респондентов заметили, что уязвимости стали появляться чаще, еще 40% заявили, что управление ИИ стало сложнее. 37% указали на рост числа изменений в инфраструктуре, а по 35% — на перегрузку процессов разработки и расхождение конфигураций.
В отчете также отмечается разрыв между уверенностью компаний и их реальной готовностью. 86% опрошенных считают, что способны контролировать использование ИИ, но формальная политика управления ИИ есть только у 30%.
Panterra Group разделила компании на четыре группы. 24% оказались в категории «уязвимых»: они используют ИИ, но не имеют достаточных правил и процессов контроля. Еще 32% названы «фрагментированными»: они внедряют ИИ неравномерно и без единого плана. 25% активно внедряют ИИ быстрее, чем выстраивают внутренний контроль.
Только 19% компаний исследователи отнесли к «первопроходцам», которые совмещают активное использование ИИ с формальными правилами безопасности и управления.
Среди «уязвимых» компаний хотя бы один инцидент, связанный с ИИ, зафиксировали 97%. В группе с наиболее зрелыми процессами 17% респондентов сообщили, что не сталкивались с такими проблемами вовсе.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.