По данным опроса Ivanti, 85% ИТ-специалистов считают, что у каждого ИИ-агента в компании есть назначенный ответственный. Однако только 42% уверены, что в реальности понятно, кто именно отвечает за работу таких агентов.
По данным опроса Ivanti, 85% ИТ-специалистов считают, что у каждого ИИ-агента в компании есть назначенный ответственный. Однако только 42% уверены, что в реальности понятно, кто именно отвечает за работу таких агентов.
Еще одна проблема — скрытое использование ИИ. Среди руководителей 42% признались, что пользовались ИИ-инструментами без раскрытия этого факта. Среди рядовых сотрудников таких было 23%. Более половины руководителей, скрывавших использование ИИ, объяснили это тем, что такие инструменты давали им «секретное преимущество».
Исследование также показало, что даже при наличии корпоративных правил они часто не работают. Среди компаний с политиками по ИИ только 24% сотрудников сказали, что эти правила «очень последовательно» соблюдаются в повседневной работе.
Проблему усиливает рост числа ИИ-инструментов. По словам главы Prompt Security Итамара Голана, компания ежедневно видит около 50 новых ИИ-приложений и уже каталогизировала более 12 тысяч таких сервисов. Примерно 40% из них по умолчанию могут использовать введенные данные для обучения моделей.
Эксперты считают, что компаниям уже недостаточно просто вести список разрешенных и запрещенных ИИ-инструментов. ИИ все чаще встроен в браузеры, офисные приложения и корпоративные сервисы, поэтому его использование становится сложнее отследить.
Отдельный риск связан с автономными ИИ-агентами. Такие системы могут получать доступ к почте, платежным инструментам, терминалу и внутренним сервисам. Если их права настроены слишком широко, агент может выполнять действия, на которые пользователь не давал прямого разрешения.
По данным Ivanti, 68% ИТ-специалистов уже сталкивались с ИИ-галлюцинациями, которые могли повлиять на операционные процессы. При этом среди самых продвинутых пользователей ИИ 49% полностью доверяют результатам, которые влияют на ИТ-решения.
VentureBeat пишет, что ключевая проблема — не отсутствие правил, а отсутствие контроля во время реальной работы ИИ-агентов. Документы и проверки перед запуском не помогают, если агент уже действует в системе и каждое его действие не проходит отдельную авторизацию.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.