Модели становятся товаром. Контекст накапливается.

В последние несколько лет большая часть дискуссий о корпоративном ИИ была сосредоточена на самих моделях. Какая модель самая умная? Какая лучше рассуждает? Какая работает быстрее, эффективнее или лучше справляется с постоянно усложняющимися задачами?

Эти вопросы по-прежнему важны, но они могут играть все меньшую роль как источник долгосрочного конкурентного преимущества. Мощные модели ИИ становятся широко доступными, организации все чаще могут выбирать между несколькими моделями, а возможности, которые когда-то отличали одну модель от другой, распространяются по рынку удивительно быстро.

По мере того как это происходит, простой доступ к мощной модели перестает быть фактором дифференциации. Начинает возникать более важный вопрос: что ваш ИИ понимает о вашем бизнесе такого, чего не понимает чужой ИИ?

Для корпоративных операций это различие может иметь огромное значение. Две системы ИИ могут использовать одну и ту же модель и получать одно и то же первоначальное оповещение, но приходить к совершенно разным выводам, потому что одна понимает операционную среду, окружающую это оповещение, а другая — нет.

Одна может увидеть, что задержка приложения увеличилась. Другая может понять, что увеличение началось вскоре после развертывания, распознать, какие службы изменились, понять их восходящие и нисходящие зависимости, определить команду, ответственную за затронутую службу, связать это поведение с похожими инцидентами в прошлом и осознать потенциальное влияние на клиентов.

Базовая модель может быть идентичной. Меняется глубина понимания, доступная ей. И по мере взросления корпоративного ИИ это различие может стать одним из важнейших источников дифференциации.

Почему контекст становится фактором дифференциации

У каждого предприятия есть операционная среда, которая уникальна. Приложения, инфраструктура, зависимости, модели развертывания, владение службами, исторические инциденты, организационные знания, бизнес-приоритеты и годы инженерных решений объединяются, создавая операционную реальность, которой нет ни у одной другой организации.

Опытные инженеры понимают многое из этого почти инстинктивно. Когда что-то идет не так, они редко принимают решения, основываясь на одной метрике или оповещении. Они объединяют телеметрию с архитектурными знаниями, недавними изменениями, прошлым опытом, беседами с коллегами и пониманием того, какие системы и клиенты наиболее важны.

Эти накопленные знания позволяют опытному инженеру заполнить пробелы, которые могут никогда не появиться на информационной панели.

У ИИ нет эквивалентной интуиции. Он рассуждает на основе доступной ему информации, а это означает, что качество его выводов фундаментально зависит от качества операционного контекста, окружающего проблему. Высокопроизводительная модель, работающая с фрагментарной или неполной информацией, все равно может прийти к неверному выводу, в то время как модель, основанная на более глубоком понимании производственной среды, может дать рекомендации, которые будут гораздо полезнее для инженера.

Вот почему гонка за созданием все более сложных моделей — это лишь часть истории корпоративного ИИ. Модели можно все чаще приобретать, изменять или заменять. Операционное понимание организации — нет. Оно развивается со временем благодаря накопленным знаниям и опыту самой организации.

Именно это дает контексту потенциал для накопления.

Возникающий разрыв в доверии к ИИ

Различие между интеллектом и пониманием также помогает объяснить то, с чем сталкиваются многие предприятия при внедрении ИИ в операционные рабочие процессы.

Возможности ИИ быстро развиваются. Интеллектуальные системы уже могут помогать обобщать инциденты, сопоставлять информацию, исследовать аномалии, разрабатывать гипотезы, рекомендовать следующие шаги и помогать инженерам на протяжении всего операционного рабочего процесса. Тем не менее, организации остаются вполне обоснованно осторожными в отношении того, какой объем ответственности эти системы должны брать на себя в сложных производственных средах.

Эта осторожность все чаще создает разрыв между тем, что способен делать ИИ, и тем, что организации готовы ему позволить. Поэтому вопрос, стоящий перед технологическими лидерами, смещается от простого «Что может делать ИИ?» к чему-то более важному: «Что мы должны доверить делать ИИ?»

Расстояние между этими вопросами — это то, что мы называем разрывом в доверии к ИИ.

Этот разрыв не обязательно существует из-за того, что модели ИИ не хватает интеллекта. Часто проблема заключается в том, что организация не может быть уверена, что система достаточно понимает ее среду, чтобы дать надежную рекомендацию.

Рассмотрим значительный производственный инцидент. Система ИИ может определить на основе доступной телеметрии, что откат недавнего развертывания выглядит разумным. Опытный инженер, однако, может знать, что развертывание устранило критическую проблему безопасности, что другая зависимая служба изменилась примерно в то же время или что похожая ситуация произошла шесть месяцев назад по совершенно другой причине.

Без этого более широкого понимания ответ может казаться разумным, но при этом не отражать операционную реальность.

Это различие меняет то, как организации должны думать о создании доверия к ИИ. Ответ заключается не просто в ожидании более мощной модели. Он заключается в предоставлении интеллектуальным системам достаточно полного, актуального и заслуживающего доверия понимания среды, в которой их просят рассуждать.

От наблюдаемости к операционному пониманию

Наблюдаемость создала исключительный фундамент для современной разработки программного обеспечения, предоставив командам видимость все более сложных и распределенных сред. Метрики, события, журналы, трассировки и другая телеметрия помогают инженерам понимать поведение системы в масштабах, которые в противном случае были бы невозможны.

Этот фундамент остается важным, но ИИ меняет то, что организациям нужно от него.

Исторически сложилось так, что наблюдаемость в основном служила людям. Инженеры интерпретируют телеметрию, связывают сигналы, исследуют взаимосвязи, применяют институциональные знания и в конечном итоге решают, что означает эта информация. Поскольку ИИ все глубже участвует в этом же процессе исследования, ему нужен доступ не только к телеметрии, но и к контексту, который инженеры традиционно предоставляли сами.

Это означает связь того, что происходит в производстве, с окружающей средой: взаимосвязями служб, топологией, изменениями, владением, операционной историей, организационными знаниями и другим релевантным контекстом. Вместо того чтобы рассматривать их как отдельные фрагменты информации, которые инженер или система ИИ должны реконструировать во время каждого расследования, они могут способствовать постоянно развивающемуся пониманию того, как на самом деле работает производственная среда.

В New Relic мы называем это доверенным операционным интеллектом.

Цель заключается не просто в том, чтобы собрать больше информации или предоставить ИИ доступ к большему объему данных. Задача состоит в том, чтобы преобразовать операционные данные в надежное понимание, которым могут делиться люди и интеллектуальные системы. Телеметрия помогает понять, что произошло. Достоверная операционная аналитика помогает определить, что это означает в контексте конкретной среды.

Такое общее понимание приобретает все большую важность по мере того, как организации привлекают ИИ к более глубокому участию в операционной деятельности.

Доверие растет через понимание

Преодоление разрыва в доверии к ИИ не требует немедленного перехода от операций под управлением людей к автономному устранению неполадок. В сложных корпоративных средах доверие чаще развивается постепенно, по мере того как организации обретают уверенность как в качестве контекста, информирующего ИИ, так и в средствах контроля за его участием.

Сначала ИИ может помочь инженеру понять происходящее, объединив релевантную информацию. По мере роста уверенности он может помогать в расследовании, оценивать возможные объяснения и рекомендовать следующие шаги. Затем организации могут определить, где ИИ должен участвовать дальше, какие действия требуют проверки человеком и какие решения должны оставаться под непосредственным контролем человека.

Именно поэтому управление (гувернанс) и ответственность человека неотделимы от эволюции в сторону автономных операций (Autonomous Operations). Организациям необходимо решить, где участвует ИИ, к какой информации он имеет доступ, какие рекомендации требуют проверки и как применяются операционные политики.

Цель состоит не в том, чтобы заменить инженерную экспертизу. Задача в том, чтобы предоставить инженерам и интеллектуальным системам общую операционную основу, чтобы каждый мог внести свой лучший вклад. ИИ обеспечивает скорость, масштаб, последовательность и способность анализировать огромные объемы информации. Инженеры привносят опыт, ответственность, бизнес-суждения и понимание рисков, выходящее за рамки технических сигналов.

Когда обе стороны рассуждают на основе одного и того же достоверного понимания производственной среды, отношения становятся скорее совместными, чем конкурентными.

Преимущество накапливается со временем

Есть еще одна причина, по которой операционный контекст может стать стратегически важным. В отличие от доступа к модели, он может становиться тем ценнее, чем дольше организация его использует.

Каждое развертывание раскрывает что-то новое об изменении среды. Каждый инцидент вносит свой вклад в операционную историю. Каждое расследование выявляет взаимосвязи между системами. каждое инженерное решение добавляет знаний, а каждый результат дает еще одну возможность улучшить понимание организацией того, как ведет себя ее производственная среда.

Сегодня значительная часть этих знаний фрагментирована между телеметрией, инструментами, тикетами, документацией, обсуждениями и памятью опытных инженеров. Когда эти части остаются разрозненными, организации раз за разом заново воссоздают одно и то же понимание каждый раз, когда что-то идет не так.

Но когда эта информация вносит свой вклад в общее операционное понимание, каждый опыт может помочь сделать следующее расследование более осознанным. Новые инженеры могут начать с контекста, который раньше существовал главным образом в виде негласных знаний команды. Опытные инженеры могут тратить меньше времени на восстановление одной и той же операционной истории. И ИИ может начинать расследование с более глубоким пониманием среды, а не собирать воедино разрозненные фрагменты информации каждый раз.

Именно здесь идея накопления контекста становится чем-то большим, чем просто запоминающейся фразой. Она описывает потенциально долгосрочное преимущество предприятия.

Новую модель можно внедрить быстро. Годы накопленного понимания того, как ведут себя системы организации, — нельзя.

Иной путь к автономным операциям

Это также дает полезный способ осмысления автономных операций (Autonomous Operations).

Автономные операции не следует понимать просто как операции без участия людей или как массовую автоматизацию операционных решений. Они представляют собой эволюцию в сторону операционной модели, в которой люди и интеллектуальные системы могут исследовать, рассуждать, давать рекомендации и участвовать в операционной работе на основе единого достоверного понимания производственной среды.

Что касается New Relic, то Ground Truth создается для помощи в формировании этого достоверного операционного понимания, в то время как Autopilot позволяет ИИ помогать инженерам, используя операционный контекст, сохраняя при этом человеческий контроль и гувернанс в центре процесса.

Вместе они иллюстрируют более масштабные изменения в том, чем может стать наблюдаемость (observability) в мире, управляемом ИИ. Вместо того чтобы быть просто системой для сбора и представления телеметрии, наблюдаемость может все в большей степени обеспечивать основу операционной аналитики, которая помогает как людям, так и ИИ понимать происходящее, определять, что важно, и принимать более обоснованные решения о том, что делать дальше.

Это фундамент для более широкого видения, которое мы называем автономными операциями (Autonomous Operations).

Следующее конкурентное преимущество в корпоративном ИИ

Модели ИИ будут продолжать совершенствоваться с невероятной скоростью. Они станут быстрее, мощнее, эффективнее и все более доступными практически для каждой организации.

Этот прогресс создаст огромные возможности, но он также сделает доступ к мощному ИИ менее уникальным фактором, чем сегодня. Организации, которые в конечном итоге извлекут наибольшую пользу из ИИ, возможно, окажутся не теми, кто просто выберет лучшую модель. Возможно, это будут те, кто предоставит интеллектуальным системам наиболее глубокое и заслуживающее доверия понимание сред, в которых они работают.

Для программных операций значительная часть такого понимания уже существует. Оно содержится в телеметрии, связях между сервисами, развертываниях, инцидентах, зонах ответственности, бизнес-контексте, документации и годах инженерных решений. Возможность заключается в том, чтобы соединить эти фрагменты и превратить их в надежную операционную аналитику, которую могут использовать как люди, так и ИИ.

Это меняет роль наблюдаемости (observability). Вместо того чтобы просто помогать инженерам понять, что произошло, наблюдаемость может все в большей степени помогать формировать общее операционное понимание, которое позволяет людям и интеллектуальным системам вместе исследовать, рассуждать, давать рекомендации и участвовать в операционной работе.

И в конечном итоге это может стать более долгосрочным преимуществом предприятия в сфере ИИ. Модели можно внедрять, заменять и обновлять. Накопленное организацией понимание того, как ведут себя ее системы, как работают ее команды и что важно для ее бизнеса, воспроизвести гораздо сложнее.

Узнайте, как New Relic объединяет наблюдаемость, надежную операционную аналитику и ИИ, чтобы помочь командам понять свои среды и управлять реакцией на события. https://newrelic.com/platform/autonomous-operations

Даг Браун — менеджер по продуктовому маркетингу в New Relic, специализирующийся на AIOps и агентной наблюдаемости. Он тесно сотрудничает с командами по разработке продуктов и инженерии, помогая организациям повышать надежность, снижать эксплуатационную сложность и превращать данные наблюдаемости в практические результаты. Даг обладает глубоким опытом в области кибербезопасности, облачных платформ и операций на базе ИИ, а также стремится переводить сложные технологии на понятный язык, ориентированный на потребности клиентов.

Мнения, выраженные в этом блоге, принадлежат автору и не обязательно отражают точку зрения New Relic. Любые решения, предлагаемые автором, зависят от конкретной среды и не являются частью коммерческих решений или поддержки, предоставляемой New Relic. Пожалуйста, обращайтесь исключительно в Explorers Hub (support.newrelic.com) по вопросам и за поддержкой, связанными с этой публикацией в блоге. Этот блог может содержать ссылки на контент сторонних сайтов. Предоставляя такие ссылки, New Relic не принимает, не гарантирует, не одобряет и не поддерживает информацию, взгляды или продукты, доступные на таких сайтах.