БЛОГ
Продукт
Архитектура ИИ
Сервисы обеспечивают стабильные управляемые эндпоинты для Haystack Enterprise Platform и закладывают фундамент для более масштабного шлюза искусственного интеллекта
Опубликовано
1 октября 2026 г.
мин. чтения
КРАТКО
Ключевые метрики:
Разработка агентов — это постоянно меняющийся итеративный процесс. Команды обновляют промпты, переключают модели или источники данных, дорабатывают стратегии извлечения и обновляют бизнес-логику по мере извлечения уроков из тестирования и реального использования. Но приложениям и рабочим процессам, зависящим от ваших агентов, необходима стабильность.
Так как же предоставить вашим ИИ-инженерам возможность работать быстро и гибко проводить тестирования без страха что-нибудь сломать? Именно здесь на сцену выходят Сервисы.
Сервисы: стабильные эндпоинты для развивающегося ИИ
В Haystack Enterprise Platform Сервис представляет собой стабильный управляемый эндпоинт, подключенный к выбранной версии пайплайна, которая обслуживает вашего агента. Приложения и другие агенты подключаются к Сервису, а не напрямую к базовому пайплайну. Когда готова новая версия пайплайна, команды могут опубликовать ее, не меняя эндпоинт, используемый ее потребителями.
С помощью Сервисов команды могут:
- Безопасно публиковать версии: выбирать именно ту версию пайплайна, которая активна, фиксировать изменения и сохранять обслуживание последней успешной версии, если новое развертывание завершится сбоем.
- Разделять окружения и потребителей: создавать независимые Сервисы для тестирования, стейджинга, продакшена или для отдельных приложений и интеграций.
- Настраивать каждый рантайм: задавать количество реплик и тайм-ауты простоя для каждого Сервиса или использовать рекомендуемые системные значения по умолчанию.
- Работать с полной прозрачностью: просматривать трассировки, производительность, сведения о подключении и историю публикаций на уровне Сервиса.
Сервисы создают надежный интерфейс между ИИ-возможностями организации и всем, что их использует.
Основа для нашего ИИ-шлюза
ИИ-шлюзы часто ассоциируются с единым эндпоинтом для доступа к нескольким моделям с поддержкой маршрутизации, резервного копирования и отслеживания затрат. Это по-прежнему важная часть категории, но корпоративные требования расширяются.
ИИ-приложения все больше зависят не только от моделей. Они используют инструменты, пайплайны, данные, MCP-серверы и других агентов. Прежде чем вы сможете контролировать доступ, стоимость, безопасность или маршрутизацию, вам нужен стабильный объект, к которому можно применить эти элементы управления. Сервисы обеспечивают эту основу.
В Haystack Enterprise Platform Gateway — это продуктовая область, где команды предоставляют и эксплуатируют созданные ими ИИ-возможности. Сервисы являются первой фундаментальной возможностью внутри нее.
Начало работы
Если вы запускаете пайплайны в продакшене, Сервисы являются рекомендованным способом их публикации. Вы создаете их и управляете ими в Gateway, а существующие развернутые пайплайны можно перенести, когда вы будете готовы.
Ознакомьтесь с разделами Gateway и Создание Сервиса в документации, чтобы опубликовать свой первый Сервис.
Хотите узнать больше о создании ИИ-приложений и агентов?
знакомство с автором
знакомство с авторами
Лоретта Шен
Старший директор по продуктовому маркетингу
Лоретта руководит продуктовым маркетингом в deepset, формируя продуктовую стратегию и стратегию выхода на рынок, а также определяя рыночное описание для суверенного корпоративного ИИ.
Волкан Арисли
Старший инженер-программист
Волкан создает продукты, обеспечивающие рантайм-основу, необходимую командам для надежной работы ИИ-приложений и агентов.
Содержание
НАЧНИТЕ РАБОТУ С ПЕРСОНАЛИЗИРОВАННОЙ ДЕМО-ВЕРСИЕЙ DEEPSET
Заказать демо
