Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Otsenka nablyudenie deystvie prakticheskiy podhod k uverennoy ekspluatatsii ai a
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Оценка, наблюдение, действие: практический подход к уверенной эксплуатации AI-агентов

Фото: Mick Haupt (Unsplash) — https://unsplash.com/photos/blue-and-white-love-print-on-gray-concrete-wall-avjGi7AgBPE?utm_source=dev48&utm_medium=referral

Источник: Dynatrace news•16 ноября 2026 г. в 22:07

Оценка, наблюдение, действие: практический подход к уверенной эксплуатации AI-агентов

В этой статье под «AI-агентами» понимаются развернутые клиентами агенты, которые анализируют контекст, выбирают инструменты, выполняют действия или координируют работу с другими агентами. Предприятия все чаще переводят AI-агентов из стадии экспериментов в промышленную эксплуатацию. Однако агент…

В этой статье под «AI-агентами» понимаются развернутые клиентами агенты, которые анализируют контекст, выбирают инструменты, выполняют действия или координируют работу с другими агентами.

В этой статье под «AI-агентами» понимаются развернутые клиентами агенты, которые анализируют контекст, выбирают инструменты, выполняют действия или координируют работу с другими агентами.

Предприятия все чаще переводят AI-агентов из стадии экспериментов в промышленную эксплуатацию. Однако агент может быть доступен и при этом выдавать неточные ответы или выполнять рабочий процесс, выбирая неверный путь. Традиционного мониторинга может быть недостаточно, чтобы понять, использовал ли агент надлежащий контекст, инструменты или политики. В этой статье используются материалы нового технического отчета от Deloitte и Dynatrace, а также анализируется, как эти выводы соотносятся с практическим опытом команд.

Наблюдаемость агентного ИИ связывает контекст, решения, действия и результаты работы агента с приложениями и инфраструктурой, от которых он зависит. Эти данные помогают командам определить, работает ли агент так, как задумано, а не просто функционирует ли он. Согласно отчету Deloitte’s State of AI in Enterprise report, только 21% организаций имеют зрелую модель управления автономными агентами.

Основные выводы

  • Проектируйте с учетом необходимого уровня автономности. Повышайте его только тогда, когда показатели производительности и контроля стабильно соответствуют требованиям, с использованием политик и контроля со стороны человека.
  • Внедряйте наблюдаемость на этапе проектирования. Определите требования к прослеживаемости, пороги качества, контроль затрат и пути эскалации до того, как агенты станут критически важными.
  • Стандартизируйте доказательную базу для ИИ и промышленной среды. Общая телеметрия, метаданные и история принятия решений помогают связать поведение ИИ с бизнес-результатами.
  • Развивайте операционную модель по мере масштабирования автономности. Пересмотрите права на принятие решений, механизмы контроля и подотчетность в бизнес-подразделениях, инженерных отделах, службах безопасности и управления рисками.

Традиционный мониторинг не подходит для AI-агентов

Развернутые клиентами AI-агенты отличаются от обычного программного обеспечения: они могут анализировать контекст, выбирать инструменты и взаимодействовать с другими агентами. Одна и та же задача может выполняться по разным путям и приводить к разным результатам. Традиционный мониторинг сервисов и API показывает, ответил ли сервис или произошел ли сбой API. Он не может показать, использовал ли агент правильный контекст или инструмент, следовал ли политике или привел ли результат к оправданным затратам.

В техническом отчете это называется «разрывом в наблюдаемости агентов». Цель состоит не в добавлении еще одного уровня телеметрии, а в том, чтобы связать контекст, полученный агентом, принятое им решение, предпринятое действие и влияние на бизнес.

Внедрение ИИ опережает возможности контроля и видимости

Выводы отчета подтверждаются данными с мест. В отчете Dynatrace Pulse of Agentic AI Report 2026, в котором приняли участие 919 руководителей в сфере ИТ и ИИ, 51% респондентов назвали управление и мониторинг AI-агентов в масштабе своей главной операционной задачей, а 45% заявили об отсутствии четких правил относительно того, когда агенты могут действовать автономно. Кроме того, 42% имеют ограниченную видимость в реальном времени для отслеживания и устранения неполадок в поведении агентов.

Разработка ИИ и эксплуатация в промышленной среде развивались как отдельные дисциплины с использованием разных инструментов. Инженеры по ИИ видят поведение агента через трассировки, оценки и эксперименты. Команды платформы и SRE следят за приложениями, сложностью облачных сред и инфраструктурой. Ни одна из сторон не может полностью объяснить, как поведение ИИ взаимодействует с поведением системы, и причина сбоя часто находится вне модели: медленный вышестоящий сервис, ухудшение результатов поиска или инфраструктурное ограничение.

Соответствие наблюдаемости уровню автономности

Для развернутых клиентами агентов в отчете описаны четыре уровня: «Предложение» (AI советует, человек решает — фокус на использовании, затратах и качестве вывода); «Внедрение» (вывод AI поступает в процесс и может незаметно ухудшаться — нужны обнаружение отклонений и корреляция с бизнес-результатами); «Действие» (агенты исполняют решения — важны прослеживаемость решений и защитные барьеры); «Системный масштаб» (когда координируются несколько агентов — могут потребоваться корреляция между агентами и подтверждающие причинно-следственные доказательства). Поймите влияние каждого шага, прежде чем определять следующую базовую линию наблюдаемости.

Чтобы помочь командам оценить свое текущее положение, в отчете также представлена система Enterprise Agentic Scale. Она предлагает структуру оценки, организованную по шести измерениям, 12 подразделам и 60 возможностям: от стратегии наблюдаемости и покрытия телеметрией ИИ до стандартизации метаданных, корреляции на базе ИИ, управления рисками и операционной интеграции.

Связь доказательств работы агента с контекстом промышленной среды

Уверенная эксплуатация ИИ означает его оценку, наблюдение в промышленной среде и действия на основе полученных знаний. Dynatrace позиционирует свои возможности как «Созданные для ИИ и работающие на базе ИИ».

  • Оценка с помощью Arize. Arize углубляется в рабочие процессы разработки ИИ, включая оценку, исследование работы агентов и эксперименты, через Arize AX и проект с открытым исходным кодом Phoenix.
  • Наблюдение с помощью Dynatrace. Dynatrace предоставляет более широкий контекст промышленной среды для приложений и инфраструктуры, включая производительность, затраты, качество и соблюдение защитных барьеров.
  • Действие с помощью Dynatrace Intelligence. Dynatrace Intelligence сочетает детерминированный причинно-следственный ИИ с агентным ИИ для получения точных ответов. Это обеспечивает автоматизированный анализ первопричин, обнаружение аномалий и автономные агентные операции.

Эти роли дополняют друг друга, и клиенты могут использовать Arize, Dynatrace или оба решения. Arize помогает ответить на вопрос, является ли агент точным и улучшается ли он. Dynatrace помогает ответить на вопрос, надежно ли работает окружающая система и сколько это стоит.

Связь доказательств работы агента с контекстом промышленной среды дает командам общую базу для исследования качества ИИ, надежности системы, производительности и затрат. Dynatrace и Arize предлагают взаимодополняющие возможности, а интеграция продуктов продолжается после приобретения, состоявшегося 1 октября 2026 года.

Четыре результата, к которым могут стремиться команды

Dynatrace и Arize помогают предприятиям создавать, запускать и постоянно улучшать ИИ, за который они могут поручиться.

  • Затраты и производительность: корреляция потребления токенов с контекстом выполнения для поиска неэффективных циклов рассуждений и дорогостоящих промптов.
  • Качество и точность: понимание поведения агента, оценка качества, расследование сбоев и тестирование изменений.
  • Управление и соответствие требованиям: мониторинг защитных барьеров, установленных вашим приложением и поставщиками моделей, а также сохранение истории от контекста до решения и результата для поддержки аудиторских доказательств в соответствии с такими нормативными актами, как EU AI Act.
  • Контролируемые автономные операции: с помощью Dynatrace Intelligence выявляйте первопричины в приложениях, инфраструктуре и агентах, запускайте исправление под контролем человека и эскалируйте исключения.

Люди устанавливают цели, политики и защитные барьеры. Агенты действуют в их рамках. Наблюдаемость предоставляет непрерывные доказательства, которые связывают эти два аспекта.

«Автономность должна быть заслужена продемонстрированной производительностью и соответствием требованиям через наблюдаемость, а не предполагаться только потому, что технология это позволяет». – Технический отчет Enterprise Agentic Observability, Deloitte

«Автономность должна быть заслужена продемонстрированной производительностью и соответствием требованиям через наблюдаемость, а не предполагаться только потому, что технология это позволяет».

– Аналитический документ по корпоративной агентной наблюдаемости, Deloitte

Чтобы начать работу, Deloitte и Dynatrace рекомендуют четыре этапа: оценка, проектирование, внедрение и масштабирование. Докажите ценность в рамках пилотного проекта, а затем расширяйте автономность по мере укрепления уверенности и контроля.

  • Загрузите аналитический документ «Корпоративная агентная наблюдаемость».
  • Читайте анонс: Dynatrace завершает приобретение Arize.
← Все статьи

О чём эта статья

Ещё в разделе «Данные и аналитика»

Все →
AI Red Teaming: что тестировать и как реагировать на результаты
Anaconda

AI Red Teaming: что тестировать и как реагировать на результаты

Производство делает большую ставку на ИИ и качество данных.
Collibra

Производство делает большую ставку на ИИ и качество данных.

Модернизация облачных баз данных: сравнение Capella с MongoDB Atlas, Amazon DynamoDB и NoSQL с самостоятельным хостингом
Couchbase

Модернизация облачных баз данных: сравнение Capella с MongoDB Atlas, Amazon DynamoDB и NoSQL с самостоятельным хостингом

Как проверить, готовы ли ваши рабочие нагрузки EC2 к IMDSv2
Datadog

Как проверить, готовы ли ваши рабочие нагрузки EC2 к IMDSv2

Сравнение CAS и обычных дисков S3 в ClickHouse®
Altinity

Сравнение CAS и обычных дисков S3 в ClickHouse®

Эйлер встречает Кодда
Neo4j

Эйлер встречает Кодда

Ещё от Dynatrace

Что Dynatrace и Microsoft привносят в эру ИИ на Microsoft Ignite 2026
Dynatrace

Что Dynatrace и Microsoft привносят в эру ИИ на Microsoft Ignite 2026

Получайте больше от OpenTelemetry: от связанных данных к быстрому анализу первопричин
Dynatrace

Получайте больше от OpenTelemetry: от связанных данных к быстрому анализу первопричин

От оповещений к ответам: новый Dynatrace Event Connector для ServiceNow ITOM
Dynatrace

От оповещений к ответам: новый Dynatrace Event Connector для ServiceNow ITOM

SRE Agent теперь общедоступен: расследование и приоритизация начинаются в момент обнаружения проблемы
Dynatrace

SRE Agent теперь общедоступен: расследование и приоритизация начинаются в момент обнаружения проблемы

Повышение планки корпоративной устойчивости в эпоху ИИ
Dynatrace

Повышение планки корпоративной устойчивости в эпоху ИИ

Исследование Dynatrace показывает, что амбиции в сфере ИИ опережают операционное подтверждение
Dynatrace

Исследование Dynatrace показывает, что амбиции в сфере ИИ опережают операционное подтверждение