Расширение платформы Haystack Enterprise Platform: управление затратами на ИИ-агентов и повышение их качества

На конференции NVIDIA GTC Berlin 2026 мы анонсировали масштабное расширение платформы Haystack Enterprise Platform, призванное связать разработку агентов с их выполнением в рабочей среде, мониторингом и оптимизацией.

Команды могут создавать и развертывать агентов, анализировать их поведение и затраты в рабочей среде, а также использовать полученные данные для улучшения моделей, контекста, инструментов и рабочих процессов — и все это в рамках единой платформы. Этот замкнутый цикл оптимизации помогает организациям повысить качество и эффективность работы агентов, сохраняя при этом полный контроль над своими моделями, данными и инфраструктурой.

Единая платформа для создания, запуска, улучшения и администрирования ИИ-агентов

Платформа объединяет четыре связанных направления. Разработка и среда выполнения служат основой; рабочие трассировки и данные о затратах позволяют улучшать обвязку агента, а средства управления обеспечивают контроль на всех этапах жизненного цикла.

1. Обвязка и контекст агента: управление поведением агентов

Поведение агента зависит не только от лежащей в его основе модели. Результат определяют и получаемый контекст, и доступные инструменты, и память, а также инструкции и защитные механизмы, формирующие его действия.

Платформа, созданная на базе платформы с открытым исходным кодом Haystack, позволяет командам проектировать и тестировать рабочие процессы, связывать модели с корпоративными данными и инструментами, а также изучать компоненты, лежащие в основе поведения агента.

Ее модульная архитектура дает возможность менять модели, стратегии извлечения данных и другие компоненты без необходимости перестраивать приложение.

2. Среда выполнения и службы: надежный запуск агентов в рабочей среде

Haystack Enterprise Platform позволяет командам публиковать агентов с управлением версиями через стабильные конечные точки службы. Приложения могут продолжать обращаться к той же конечной точке даже при обновлении базового агента.

Бессерверное выполнение снижает потребность в выделении и управлении специализированной инфраструктурой для каждой рабочей нагрузки, позволяя ресурсам выполнения масштабироваться в соответствии с нагрузкой.

3. Цикл оптимизации: повышение качества и снижение затрат

Выбор модели — это лишь часть управления затратами на ИИ. То, как агент спроектирован и оркестрирован, также определяет объем необходимых ему вычислительных ресурсов для инференса, эффективность выполнения задач и достижение требуемых результатов.

Рабочие трассировки и отчеты о затратах помогают командам находить ресурсоемкие или ненадежные этапы в рабочем процессе агента.

Команды могут анализировать отдельные запуски и расходы в разрезе моделей, агентов, служб и рабочих пространств. Например:

• Какие агенты или модели приводят к наибольшим затратам на ИИ?
• Где возникают ошибки, непредвиденное поведение или ненужные шаги выполнения?
• Могут ли изменения в контексте, извлечении данных, выборе модели или использовании инструментов повысить эффективность?
• Как команды могут оценить, сохраняет ли оптимизация требуемое качество?

Следующий этап связывает эту прозрачность с оценками и оптимизацией.

Запланированные функции помогут командам тестировать изменения моделей и обвязки с учетом целей по затратам и качеству.

Со временем платформа будет рекомендовать улучшения на основе данных из рабочей среды, требуя одобрения человека перед развертыванием.

4. Плоскость управления и шлюз: администрирование агентов в масштабах всей организации

Организациям, эксплуатирующим нескольких агентов, необходимы единые средства контроля доступа, использования и взаимодействия с корпоративными системами.

Haystack Enterprise Platform объединяет общие функции администрирования, включая контроль доступа на основе ролей, управление рабочими пространствами и операционную видимость.

Архитектура ее плоскости управления и шлюза создает основу для того, чтобы делать агентов, инструменты и навыки доступными через стандартные интерфейсы с общими средствами контроля разрешений, политик и использования.

Что нового в этом расширении

Расширенная платформа включает в себя следующие производственные возможности:

• Производственная трассировка: анализ выполнения агентов и расследование сбоев или непредвиденного поведения.
• Отчетность о затратах: отслеживание расходов на ИИ по моделям, агентам, службам и рабочим пространствам, в том числе параллельно с отдельными трассировками.
• Производственные службы: публикация конвейеров с управлением версиями через стабильные конечные точки.
• Бессерверные развертывания: масштабирование выполнения в соответствии с нагрузкой без управления специализированной инфраструктурой для каждой рабочей нагрузки.
• Гибкое развертывание: выбор между управляемым облаком, суверенным облаком или собственной инфраструктурой.
• В дополнение к доступной сегодня прозрачности рабочих процессов планируется внедрение оценок и более автоматизированных рекомендаций по оптимизации.

Суверенный ИИ с гибким выбором моделей и инфраструктуры

Выбор варианта развертывания имеет решающее значение для организаций со строгими требованиями к данным, безопасности или нормативно-правовому соответствию.

Haystack Enterprise Platform поддерживает развертывание в общедоступном облаке, европейских суверенных облачных средах (таких как STACKIT) и на собственной инфраструктуре.

В сочетании с модель-агностичной архитектурой Haystack с открытым исходным кодом эти варианты обеспечивают гибкость при работе с моделями и инфраструктурой.

Специализированные службы ИИ-моделей

Параллельно с расширением платформы компания deepset представила специализированные службы ИИ-моделей для правительственных организаций, оборонного сектора и регулируемых отраслей.

Наши инженеры по работе на передовой (Forward Deployed Engineers) помогают организациям выбирать, адаптировать и дообучать модели принятия решений и малые языковые модели для конкретных задач. Они могут работать вместе с LLM в Haystack Enterprise Platform, при этом клиенты владеют разработанными для них моделями.

На пути к операционной системе для суверенных ИИ-агентов

Мы развиваем Haystack Enterprise Platform как операционную систему для суверенных ИИ-агентов: общую основу для создания, запуска, улучшения и администрирования агентов.

Данное расширение связывает разработку и эксплуатацию в рабочей среде уже сегодня, а в будущем откроет путь к более систематической оценке и оптимизации.

Ознакомьтесь с Haystack Enterprise Platform и службами моделей, чтобы узнать больше о создании и эксплуатации суверенных ИИ-агентов.

Хотите узнать больше о создании ИИ-приложений и агентов?