Один ИИ-агент может парализовать работу всей компании. Как этого избежать

Эксперты предупреждают: один «неправильный» агент с доступом к ERP, CRM или базам данных способен причинить больше ущерба, чем злонамеренный инсайдер. В отличие от человека, агент может реплицироваться и распространять уязвимости за считанные секунды. Без соответствующей инфраструктуры и систем контроля компании рискуют столкнуться не только с утечками, но и с резким ростом расходов и кризисами на уровне всей организации.

Часто бизнес считает, что готов к внедрению ИИ, выбрав «правильную» модель или вендора. Однако реальная готовность связана не с ПО, а с архитектурой и управлением. По оценкам Gravitee, только 27% компаний сегодня имеют полноценное управление использованием ИИ, в то время как применяют его 78%. Это означает, что большая часть агентных сценариев остается вне поля зрения руководства.

Ключевые проблемы внедрения ИИ заключаются в отсутствии единых стандартов для идентификации агентов и неконтролируемый рост их числа. В организациях появляются десятки и сотни агентов с дублирующими функциями, что ведет к бесконтрольным API-запросам и большим счетам за облачные сервисы. Дополнительный риск кроется в API: большинство из них проектировались для разработчиков, а не для автономных машин, что оставляет дыры в аутентификации и ограничении доступа.

Решение эксперты видят в создании централизованных платформ управления агентами: с каталогами, где зафиксированы их функции и владельцы, системами наблюдения, ограничениями на вызовы API и применением новых протоколов вроде A2A (Agent-to-Agent), предложенного Google. Такой подход позволяет одновременно обеспечить безопасность и сохранить гибкость в инновациях.

Но помимо технологий существует и человеческий фактор: сотрудники устают от постоянных трансформаций, и внедрение агентного ИИ без прозрачности и доверия может вызвать сопротивление. Эксперты подчеркивают: успеха добьются не те компании, что быстрее всех внедрят агентов, а те, кто выстроит ответственное управление, балансируя между скоростью инноваций и безопасностью.