Директора по информационным технологиям уверены в своем управлении ИИ. Однако количество используемых ими инструментов говорит об обратном. На вопрос о том, успевает ли их система управления за внедрением ИИ, 82% руководителей отвечают утвердительно. В том же опросе 72% заявляют, что используют более 20 различных ИИ-инструментов и платформ.
Обе цифры получены от одних и тех же руководителей, но они не создают реалистичной картины. Управление и бесконтрольное разрастание находятся на противоположных концах спектра, а возможно, и вовсе в разных плоскостях.
Компания OutSystems совместно с KPMG и CIO Dive Studio опросила 858 руководителей в Северной Америке, Европе, Японии, Индии и Австралии о том, как они используют агентный ИИ. В опубликованном отчете Engineering Business Outcomes: The Shift to Agentic Systems измеряется дистанция между контролем, который, по мнению руководителей, у них есть, и контролем, который позволяют их рабочие среды.
Агенты теперь выполняют важную работу
Агентный ИИ внедрился в бизнес-процессы, управляющие компаниями, и 73% организаций используют его в операциях, связанных с рисками и комплаенсом. Это самый распространенный вариант использования, за которым следуют обслуживание клиентов (69%), ИТ-операции (63%), а также финансы и бухучет (63%).
Эти агенты действуют в разных системах и передают работу друг другу. Гонсалу Боррега (Gonçalo Borrêga), старший вице-президент по управлению продуктами в OutSystems, описал возможные риски: «Ошибка в одной системе может привести к 10 ошибкам в дальнейшем». И эта тенденция будет только усиливаться, считают 71% респондентов. Они ожидают, что корпоративные приложения станут еще более интегрированными, а сети агентов будут координировать задачи и передавать их между приложениями и рабочими процессами.
Уверенность, построенная на процессах
У руководителей есть основания для уверенности. Фактически 83% управляют агентами с помощью устоявшихся механизмов, таких как согласительные комиссии и централизованные политики.
Эти механизмы проверяют агента перед его запуском. Однако после этого агенты продолжают меняться. Майкл Харпер (Michael Harper), управляющий директор KPMG, отметил, что корректировка промпта или обновление базовой модели «могут полностью изменить поведение агента, не затронув при этом ни один из формальных этапов жизненного цикла разработки ПО (SDLC)».
Только 5% предприятий имеют автоматизированные средства контроля выполнения в реальном времени и журналы аудита для своих агентных систем. В Европе этот показатель падает до 3%, а в Северной Америке — до 2%. Лишь 26% руководителей заявляют, что они «очень хорошо подготовлены» к разрешению конфликтов, когда агенты сталкиваются в рабочей среде.
Боррега связывает готовность с проектированием. «Обратимость действия является ключевым критерием при принятии решения о том, стоит ли проектировать эскалацию как основной путь или как управление исключениями», — сказал он. Агенту, который может выдать возврат средств или обновить бухгалтерскую книгу, путь эскалации должен быть заложен с самого начала.
Харпер привел поразительный расчет. «Агент с надежностью 98%, вызываемый пять раз подряд, на самом деле гораздо менее надежен, чем предполагает большинство руководителей», — сказал он. Пять шагов с надежностью 98% каждый дают правильный результат примерно в 90% случаев. Добавьте больше агентов и больше шагов, и этот показатель продолжит падать.
Он также установил стандарт для надзора. Команды должны иметь возможность восстановить в памяти, почему агент принял то или иное решение и какой контекст он использовал. «Без такого уровня наблюдаемости управление превращается в простое гадание на кофейной гуще», — отметил он.
Бесконтрольное распространение скрывает пробелы
Каждый ИИ-инструмент несет в себе собственную модель разрешений и собственные журналы. Агенты, созданные в отдельных инструментах, редко видят действия друг друга. Боррега считает эту ситуацию тревожной для руководителей. «Мы видим, во многих предприятиях агенты создаются изолированно, поэтому управление конфликтами, происходящими с реальными транзакционными данными, — это скрытая проблема, о которой, я бы сказал, многие предприятия даже не подозревают», — заявил он.
Опрос демонстрирует существующее напряжение. Обеспечение безопасности и соблюдение политик для агентов является главной сложностью при оркестрации для 67% респондентов. А 36% описывают свой подход к выбору мест применения агентного ИИ как фрагментированный.
Наибольшее распространение ИИ-инструменты получили в технологических и страховых компаниях. Организации с меньшим количеством инструментов все равно несут издержки по управлению агентами по отдельности для каждого инструмента, и из-за этих накладных расходов становится сложнее управлять затратами и функциональной совместимостью. Согласительная комиссия может одобрить каждый из таких инструментов. Но она не в состоянии уследить за тем, что происходит, когда агенты из пяти разных систем работают с одной и той же клиентской записью.
Как лидеры ликвидируют этот разрыв
Лидеры, преодолевающие этот разрыв, встраивают управление непосредственно в работу своих агентных систем. Последовательное применение политик во всей ИИ-экосистеме является главным приоритетом для 87% респондентов, а 81% говорят то же самое о тестировании и валидации поведения агентов.
Контекст является частью контроля. Обеспечение контекста для агентов с помощью управления и контроля является приоритетом для 73% респондентов, а 74% оценивают интеграцию с существующими приложениями и системами как очень или чрезвычайно важную. Агентам нужны актуальные бизнес-данные, причем доступ к ним должен ограничиваться идентичностью и правами того лица или процесса, от имени которого они действуют.
Харпер охарактеризовал цель как «центральную платформу, которая делает самый безопасный путь самым простым путем, предоставляя бизнес-подразделениям автономию для безопасного создания ценности». В отчете эта идея оформлена в виде плана действий, состоящего из четырех частей. В нем показано, как руководители переходят от процедурного надзора к контролю выполнения в реальном времени, сохраняя при этом возможность выбора моделей и инструментов.
Прочитайте отчет Engineering Business Outcomes: The Shift to Agentic Systems, чтобы узнать больше об этой методологии.
Узнайте больше о результатах исследования
Присоединяйтесь к экспертам из OutSystems и KPMG 3 ноября 2026 года на прямой трансляции The Control Paradox: Governance and Runtime Execution for AI ROI, где пройдет обсуждение того, что полученные результаты означают для вашей стратегии внедрения агентов.
С тех пор как много веков назад она впервые воспользовалась зеленым экраном, Форсайт была очарована компьютерами, ИТ, программированием и разработчиками. На своей текущей должности в сфере продуктового маркетинга она рассказывает миру об удивительных передовых командах и инновациях, стоящих за платформой OutSystems.
Посмотреть все публикации этого автора
