БЛОГ

Продукт

Архитектура ИИ

Сервисы обеспечивают стабильные управляемые эндпоинты для Haystack Enterprise Platform и закладывают фундамент для более масштабного шлюза искусственного интеллекта

Опубликовано

1 октября 2026 г.

мин. чтения

КРАТКО

Ключевые метрики:

Разработка агентов — это постоянно меняющийся итеративный процесс. Команды обновляют промпты, переключают модели или источники данных, дорабатывают стратегии извлечения и обновляют бизнес-логику по мере извлечения уроков из тестирования и реального использования. Но приложениям и рабочим процессам, зависящим от ваших агентов, необходима стабильность.

Так как же предоставить вашим ИИ-инженерам возможность работать быстро и гибко проводить тестирования без страха что-нибудь сломать? Именно здесь на сцену выходят Сервисы.

Сервисы: стабильные эндпоинты для развивающегося ИИ

В Haystack Enterprise Platform Сервис представляет собой стабильный управляемый эндпоинт, подключенный к выбранной версии пайплайна, которая обслуживает вашего агента. Приложения и другие агенты подключаются к Сервису, а не напрямую к базовому пайплайну. Когда готова новая версия пайплайна, команды могут опубликовать ее, не меняя эндпоинт, используемый ее потребителями.

С помощью Сервисов команды могут:

Безопасно публиковать версии: выбирать именно ту версию пайплайна, которая активна, фиксировать изменения и сохранять обслуживание последней успешной версии, если новое развертывание завершится сбоем.
Разделять окружения и потребителей: создавать независимые Сервисы для тестирования, стейджинга, продакшена или для отдельных приложений и интеграций.
Настраивать каждый рантайм: задавать количество реплик и тайм-ауты простоя для каждого Сервиса или использовать рекомендуемые системные значения по умолчанию.
Работать с полной прозрачностью: просматривать трассировки, производительность, сведения о подключении и историю публикаций на уровне Сервиса.

Сервисы создают надежный интерфейс между ИИ-возможностями организации и всем, что их использует.

Основа для нашего ИИ-шлюза

ИИ-шлюзы часто ассоциируются с единым эндпоинтом для доступа к нескольким моделям с поддержкой маршрутизации, резервного копирования и отслеживания затрат. Это по-прежнему важная часть категории, но корпоративные требования расширяются.

ИИ-приложения все больше зависят не только от моделей. Они используют инструменты, пайплайны, данные, MCP-серверы и других агентов. Прежде чем вы сможете контролировать доступ, стоимость, безопасность или маршрутизацию, вам нужен стабильный объект, к которому можно применить эти элементы управления. Сервисы обеспечивают эту основу.

В Haystack Enterprise Platform Gateway — это продуктовая область, где команды предоставляют и эксплуатируют созданные ими ИИ-возможности. Сервисы являются первой фундаментальной возможностью внутри нее.

Начало работы

Если вы запускаете пайплайны в продакшене, Сервисы являются рекомендованным способом их публикации. Вы создаете их и управляете ими в Gateway, а существующие развернутые пайплайны можно перенести, когда вы будете готовы.

Ознакомьтесь с разделами Gateway и Создание Сервиса в документации, чтобы опубликовать свой первый Сервис.

Хотите узнать больше о создании ИИ-приложений и агентов?

знакомство с автором

знакомство с авторами

Лоретта Шен

Старший директор по продуктовому маркетингу

Лоретта руководит продуктовым маркетингом в deepset, формируя продуктовую стратегию и стратегию выхода на рынок, а также определяя рыночное описание для суверенного корпоративного ИИ.

Волкан Арисли

Старший инженер-программист

Волкан создает продукты, обеспечивающие рантайм-основу, необходимую командам для надежной работы ИИ-приложений и агентов.

Содержание

НАЧНИТЕ РАБОТУ С ПЕРСОНАЛИЗИРОВАННОЙ ДЕМО-ВЕРСИЕЙ DEEPSET

Заказать демо