Избегайте ловушки «только агенты», используя защитные барьеры и контекст

Источник: OutSystems•

Избегайте ловушки «только агенты», используя защитные барьеры и контекст

Превратите ИИ-агентов в готовые к промышленной эксплуатации агентные системы.

Корпоративная дилемма: отсутствие контекста и ловушка «только агенты»

Инструменты разработки на базе ИИ работают в архитектурном вакууме. Стандартные ИИ-ассистенты для программирования не видят контекста. Они считывают только текущий открытый файл или анализируют временные текстовые запросы. Они не видят более широкого корпоративного ландшафта, полного межприложенческих зависимостей, актуальных схем баз данных, специфической бизнес-логики и строгих политик корпоративного управления. И они не могут понять того, что им невидимо.

Если агент разработки пропускает зависимость или перезаписывает её, последствия могут варьироваться от досадных до разрушительных. Существуют публично зафиксированные инциденты, когда ИИ-инструменты для кодинга удаляли базы данных, повреждали инфраструктуру, вызывали сбои в облачных сервисах, раскрывали код, который команды считали конфиденциальным, и даже становились частью атак на цепочки поставок. Например, в апреле 2026 года a Cursor agent powered by Claude deleted the production database и резервные копии компании по аренде автомобилей PocketOS за девять секунд. Были затронуты бронирования, платежи и данные клиентов, а восстановление зависело от старой офлайн-резервной копии и ручного восстановления.

Когда ИИ генерирует код без карты системы в целом, краткосрочная скорость превращается в долгосрочные обязательства.

Архитектурная деградация

Сгенерированные ИИ фрагменты кода часто нарушают или игнорируют скрытые устаревшие зависимости. Или они дублируют существующую логику. Это создает скрытые ошибки, которые со временем разрушают архитектуру системы.

Теневой ИИ и риски безопасности

Неуправляемые ИИ-инструменты работают вне стандартных шлюзов разрешений ИТ, обходя проверки развертывания и создавая неконтролируемые риски безопасности.

Ловушка системы «только агенты»

Когда организации выстраивают рабочие процессы, полагаясь исключительно на ИИ-агентов для выбора каждого следующего шага во время выполнения, частота ошибок растет в геометрической прогрессии. Агент, пытающийся выполнить 12-шаговый процесс без заданных путей, часто завершает его правильно лишь в половине случаев. Хуже того, каждый шаг требует переоценки контекста и расходует дорогие токены, что делает затраты на выполнение совершенно непредсказуемыми для финансовых директоров.

Неэффективность затрат на ИИ

Когда агентам разработки не хватает корпоративного контекста, они тратят больше токенов на повторное открытие существующей логики, навигацию по неудачным подходам и перегенерацию кода. В результате каждая задача разработки становится медленнее и дороже.

Полная формула: Агенты + приложения + рабочие процессы + люди

Без системной карты и детерминированных границ скорость ИИ лишь ускоряет накопление технического долга и расход токенов. Тем не менее, никто в корпорации не ставит целью просто «развернуть агента». У руководителей есть конкретные бизнес-цели, такие как сокращение времени одобрения кредитов, устранение многомиллионных затрат на ручную переработку или масштабирование операций без раздувания штата.

Достижение этих результатов требует перехода от автономных помощников по кодингу к единой модели: агенты + приложения + рабочие процессы + люди.

Вместо того чтобы заставлять ИИ-модель угадывать каждое действие, настоящая корпоративная платформа ограничивает проблему. Из сложного бизнес-процесса только творческие этапы проходят через LLM. Остальное обрабатывается детерминированными рабочими процессами, правилами безопасности платформы и интерфейсами приложений с участием человека.

Компания OutSystems недавно представила прорывные возможности — Agent Experience и Enterprise Context Graph, направленные на практическую реализацию именно этой формулы.

Agent Experience

Разработка и оркестрация с использованием нескольких агентов — это новый корпоративный стандарт. Agent Experience предоставляет управляемый уровень, который предлагает универсальный и безопасный способ подключения к внешним инструментам, источникам данных и рабочим процессам. Он координирует работу агентов, приложений и процессов, гарантируя, что эти инструменты работают в рамках стандартных ИТ-одобрений и шлюзов безопасности, а каждое изменение проходит безопасно.

В сочетании с Mentor в качестве встроенного в платформу конструктора, Agent Experience преобразует намерения разработчика непосредственно в стандартизированные, совместимые с платформой строительные блоки, которые строго придерживаются вашей корпоративной архитектуры.

Например, YESCO, наиболее известная проектированием и производством знаменитого знака «Welcome to Fabulous Las Vegas», поддерживает и контролирует внедрение ИИ-агентов в существующие приложения с помощью Agent Experience. Модельно-нейтральный подход позволяет YESCO внедрять ИИ-инновации, сохраняя при этом управление и безопасность, необходимые для корпоративного использования.

«Мы хотели внедрить агентный ИИ в наш бизнес, и OutSystems дала нам уверенность в том, что мы сможем это сделать. Встроенные защитные барьеры и инструменты управления предотвращают появление неконтролируемого ИИ и защищают нашу конфиденциальную информацию, гарантируя, что ИИ остается привязанным к нашим внутренним данным», — говорит Майк Нейман, менеджер по разработке программного обеспечения в YESCO.

Читайте полную историю здесь.

Другой пример — компания Vopak, крупнейший в мире независимый оператор терминалов для хранения наливных грузов, и её команда разработчиков под руководством Кристиано Маркеса. Кристиано и его команда использовали Agent Experience и другие технологии для запуска ИИ-агента, который генерирует актуальную техническую и функциональную документацию, фиксируя модель данных, BPM-диаграммы, роли, зависимости, интеграции и архитектурные обзоры.

Enterprise Context Graph

Прежде чем ИИ-агент начнет действовать, он должен знать, что нельзя нарушать. Enterprise Context Graph действует как «живой» GPS-чертеж вашего портфеля приложений и данных. Построенный на основе более чем двух десятилетий интеллектуального анализа метаданных платформы, он непрерывно отображает взаимосвязи между приложениями, рабочими процессами, моделями данных и политиками во всем вашем бизнесе. Вместо того чтобы гадать или перегружать запросы, ИИ-инструменты заранее запрашивают структурные взаимосвязи.

Не подлежащие обсуждению корпоративные результаты

Когда ИИ-инструменты для кодинга опираются на системный контекст через Agent Experience и Enterprise Context Graph, предприятия могут наконец оценить свои инвестиции в ИИ по этим обязательным стандартам:

  • Повторяемость: Одинаковые входные данные обеспечивают одинаково качественное выполнение каждый раз, исключая случайности ИИ.
  • Надежность: Стабильное качество и архитектура превращают результат работы ИИ в готовое к эксплуатации программное обеспечение.
  • Измеримость: Четкие метрики «до» и «после» демонстрируют операционный ROI.
  • Проверяемость: Полная прозрачность принятия решений позволяет ИТ-руководству и командам безопасности объяснять и отслеживать каждое действие на протяжении всего жизненного цикла.
  • Управление рисками: Контролируемый доступ, средства контроля утверждения и сквозная прослеживаемость снижают риски безопасности, комплаенса и операционные риски.
  • Экономическая масштабируемость: Стабильная, предсказуемая стоимость выполнения, которую финансовые директора могут точно моделировать и прогнозировать. Разработчики могут повторно использовать существующие компоненты и корпоративные активы вместо того, чтобы тратить токены на перегенерацию каркаса приложения и функциональности, которая уже существует.

Создание агентов с полным доступом к данным компании: Lowenstein Sandler

Lowenstein Sandler, известная национальная юридическая фирма США, предоставляет юридические консультации в области технологий для частных инвестиционных компаний, венчурных фондов и корпоративных клиентов. Команда разработчиков фирмы внедрила Agent Experience, чтобы ускорить разработку приложений с помощью ИИ, сохраняя при этом безопасность.

«Работа с OutSystems Agent Experience, в основе которой лежит Enterprise Context Graph, похожа на игру в боулинг с поднятыми бортиками. Платформа гарантирует, что вы никогда не попадете в желоб, обеспечивая стабильную и безопасную разработку», — сказал Крис Палка, инженер-программист в Lowenstein Sandler.

Команда начала с создания основы приложения в Mentor для разработки фирменного пользовательского интерфейса, а затем использовала Claude Code для его доработки. AI-агенты взяли на себя выполнение небольших, трудоемких задач, таких как макетирование контейнеров, настройка отступов и установка ролей, что сократило объем работы по форматированию. «Agent Experience сократил время завершения нашего приложения с часа до пяти минут», — сказал Марк ДеТибериис, еще один инженер-программист в Lowenstein Sandler.

В основе всего этого лежит Enterprise Context Graph, предоставляющий Lowenstein Sandler все необходимое для обеспечения соответствия требованиям, безопасности и возможности аудита. Это включает в себя комплексное ведение журналов, трассировку и распространение идентификационных данных, которые требуются корпоративным клиентам. «Enterprise Context Graph имеет первостепенное значение. Именно он позволяет нам создавать правильные инструменты с полным доступом к нашим данным», — отметил Палка.

Узнайте о будущем регулируемого ИИ на Las Vegas World Tour

OutSystems рада объявить, что Agent Experience и Enterprise Context Graph официально переходят в стадию общей доступности (GA).

Чтобы отметить эту веху, мы проведем живые демонстрации продуктов на сцене и представим важные инновации платформы на нашем предстоящем мероприятии Las Vegas World Tour 7 октября.

Если вы готовы выйти за рамки простой генерации кода с помощью ИИ и узнать, как инженерные организации мирового уровня создают безопасные, масштабируемые и управляемые агентные системы, вам стоит посетить это мероприятие.

👉 Зарегистрируйтесь на Las Vegas World Tour прямо сейчас

Фернандо — опытный маркетолог технологических продуктов с более чем десятилетним разнообразным опытом работы в сфере ИТ, охватывающим поставщиков ERP, ИТ-консалтинговые фирмы и быстрорастущие SaaS-компании. Его компетенции охватывают широкий спектр функций продуктового маркетинга, включая отмеченные наградами программы запуска продуктов, стратегическое позиционирование и разработку сообщений о продуктах, а также эффективные инициативы по поддержке продаж. В OutSystems миссия Фернандо — помогать компаниям использовать весь потенциал заказного программного обеспечения. Он специализируется на запуске инструментов для разработчиков, предназначенных для управления данными, системной интеграции и автоматизации рабочих процессов.

Посмотреть все публикации этого автора

О чём эта статья

Ещё в разделе «Разработка ПО»

Все →

Ещё от OutSystems