В этой статье под «AI-агентами» понимаются развернутые клиентами агенты, которые анализируют контекст, выбирают инструменты, выполняют действия или координируют работу с другими агентами.
В этой статье под «AI-агентами» понимаются развернутые клиентами агенты, которые анализируют контекст, выбирают инструменты, выполняют действия или координируют работу с другими агентами.
Предприятия все чаще переводят AI-агентов из стадии экспериментов в промышленную эксплуатацию. Однако агент может быть доступен и при этом выдавать неточные ответы или выполнять рабочий процесс, выбирая неверный путь. Традиционного мониторинга может быть недостаточно, чтобы понять, использовал ли агент надлежащий контекст, инструменты или политики. В этой статье используются материалы нового технического отчета от Deloitte и Dynatrace, а также анализируется, как эти выводы соотносятся с практическим опытом команд.
Наблюдаемость агентного ИИ связывает контекст, решения, действия и результаты работы агента с приложениями и инфраструктурой, от которых он зависит. Эти данные помогают командам определить, работает ли агент так, как задумано, а не просто функционирует ли он. Согласно отчету Deloitte’s State of AI in Enterprise report, только 21% организаций имеют зрелую модель управления автономными агентами.
Основные выводы
- Проектируйте с учетом необходимого уровня автономности. Повышайте его только тогда, когда показатели производительности и контроля стабильно соответствуют требованиям, с использованием политик и контроля со стороны человека.
- Внедряйте наблюдаемость на этапе проектирования. Определите требования к прослеживаемости, пороги качества, контроль затрат и пути эскалации до того, как агенты станут критически важными.
- Стандартизируйте доказательную базу для ИИ и промышленной среды. Общая телеметрия, метаданные и история принятия решений помогают связать поведение ИИ с бизнес-результатами.
- Развивайте операционную модель по мере масштабирования автономности. Пересмотрите права на принятие решений, механизмы контроля и подотчетность в бизнес-подразделениях, инженерных отделах, службах безопасности и управления рисками.
Традиционный мониторинг не подходит для AI-агентов
Развернутые клиентами AI-агенты отличаются от обычного программного обеспечения: они могут анализировать контекст, выбирать инструменты и взаимодействовать с другими агентами. Одна и та же задача может выполняться по разным путям и приводить к разным результатам. Традиционный мониторинг сервисов и API показывает, ответил ли сервис или произошел ли сбой API. Он не может показать, использовал ли агент правильный контекст или инструмент, следовал ли политике или привел ли результат к оправданным затратам.
В техническом отчете это называется «разрывом в наблюдаемости агентов». Цель состоит не в добавлении еще одного уровня телеметрии, а в том, чтобы связать контекст, полученный агентом, принятое им решение, предпринятое действие и влияние на бизнес.
Внедрение ИИ опережает возможности контроля и видимости
Выводы отчета подтверждаются данными с мест. В отчете Dynatrace Pulse of Agentic AI Report 2026, в котором приняли участие 919 руководителей в сфере ИТ и ИИ, 51% респондентов назвали управление и мониторинг AI-агентов в масштабе своей главной операционной задачей, а 45% заявили об отсутствии четких правил относительно того, когда агенты могут действовать автономно. Кроме того, 42% имеют ограниченную видимость в реальном времени для отслеживания и устранения неполадок в поведении агентов.
Разработка ИИ и эксплуатация в промышленной среде развивались как отдельные дисциплины с использованием разных инструментов. Инженеры по ИИ видят поведение агента через трассировки, оценки и эксперименты. Команды платформы и SRE следят за приложениями, сложностью облачных сред и инфраструктурой. Ни одна из сторон не может полностью объяснить, как поведение ИИ взаимодействует с поведением системы, и причина сбоя часто находится вне модели: медленный вышестоящий сервис, ухудшение результатов поиска или инфраструктурное ограничение.
Соответствие наблюдаемости уровню автономности
Для развернутых клиентами агентов в отчете описаны четыре уровня: «Предложение» (AI советует, человек решает — фокус на использовании, затратах и качестве вывода); «Внедрение» (вывод AI поступает в процесс и может незаметно ухудшаться — нужны обнаружение отклонений и корреляция с бизнес-результатами); «Действие» (агенты исполняют решения — важны прослеживаемость решений и защитные барьеры); «Системный масштаб» (когда координируются несколько агентов — могут потребоваться корреляция между агентами и подтверждающие причинно-следственные доказательства). Поймите влияние каждого шага, прежде чем определять следующую базовую линию наблюдаемости.
Чтобы помочь командам оценить свое текущее положение, в отчете также представлена система Enterprise Agentic Scale. Она предлагает структуру оценки, организованную по шести измерениям, 12 подразделам и 60 возможностям: от стратегии наблюдаемости и покрытия телеметрией ИИ до стандартизации метаданных, корреляции на базе ИИ, управления рисками и операционной интеграции.
Связь доказательств работы агента с контекстом промышленной среды
Уверенная эксплуатация ИИ означает его оценку, наблюдение в промышленной среде и действия на основе полученных знаний. Dynatrace позиционирует свои возможности как «Созданные для ИИ и работающие на базе ИИ».
- Оценка с помощью Arize. Arize углубляется в рабочие процессы разработки ИИ, включая оценку, исследование работы агентов и эксперименты, через Arize AX и проект с открытым исходным кодом Phoenix.
- Наблюдение с помощью Dynatrace. Dynatrace предоставляет более широкий контекст промышленной среды для приложений и инфраструктуры, включая производительность, затраты, качество и соблюдение защитных барьеров.
- Действие с помощью Dynatrace Intelligence. Dynatrace Intelligence сочетает детерминированный причинно-следственный ИИ с агентным ИИ для получения точных ответов. Это обеспечивает автоматизированный анализ первопричин, обнаружение аномалий и автономные агентные операции.
Эти роли дополняют друг друга, и клиенты могут использовать Arize, Dynatrace или оба решения. Arize помогает ответить на вопрос, является ли агент точным и улучшается ли он. Dynatrace помогает ответить на вопрос, надежно ли работает окружающая система и сколько это стоит.
Связь доказательств работы агента с контекстом промышленной среды дает командам общую базу для исследования качества ИИ, надежности системы, производительности и затрат. Dynatrace и Arize предлагают взаимодополняющие возможности, а интеграция продуктов продолжается после приобретения, состоявшегося 1 октября 2026 года.
Четыре результата, к которым могут стремиться команды
Dynatrace и Arize помогают предприятиям создавать, запускать и постоянно улучшать ИИ, за который они могут поручиться.
- Затраты и производительность: корреляция потребления токенов с контекстом выполнения для поиска неэффективных циклов рассуждений и дорогостоящих промптов.
- Качество и точность: понимание поведения агента, оценка качества, расследование сбоев и тестирование изменений.
- Управление и соответствие требованиям: мониторинг защитных барьеров, установленных вашим приложением и поставщиками моделей, а также сохранение истории от контекста до решения и результата для поддержки аудиторских доказательств в соответствии с такими нормативными актами, как EU AI Act.
- Контролируемые автономные операции: с помощью Dynatrace Intelligence выявляйте первопричины в приложениях, инфраструктуре и агентах, запускайте исправление под контролем человека и эскалируйте исключения.
Люди устанавливают цели, политики и защитные барьеры. Агенты действуют в их рамках. Наблюдаемость предоставляет непрерывные доказательства, которые связывают эти два аспекта.
«Автономность должна быть заслужена продемонстрированной производительностью и соответствием требованиям через наблюдаемость, а не предполагаться только потому, что технология это позволяет». – Технический отчет Enterprise Agentic Observability, Deloitte
«Автономность должна быть заслужена продемонстрированной производительностью и соответствием требованиям через наблюдаемость, а не предполагаться только потому, что технология это позволяет».
– Аналитический документ по корпоративной агентной наблюдаемости, Deloitte
Чтобы начать работу, Deloitte и Dynatrace рекомендуют четыре этапа: оценка, проектирование, внедрение и масштабирование. Докажите ценность в рамках пилотного проекта, а затем расширяйте автономность по мере укрепления уверенности и контроля.
- Загрузите аналитический документ «Корпоративная агентная наблюдаемость».
- Читайте анонс: Dynatrace завершает приобретение Arize.












