Baseten и Postman: создание надежных и экономически эффективных агентов для бизнеса

Стек агентов

Если вы не контролируете своих агентов, ваши агенты контролируют вашу компанию.

Стек агентов от Postman помогает предприятиям подготавливать API для агентов, контролировать системы, к которым агенты могут получать доступ, и управлять их действиями. Он включает четыре продукта.

Passport: обеспечивает безопасность доступа к API для людей и агентов с использованием ссылок на учетные данные с ограниченной областью действия, не раскрывая базовые ключи API.

Fabric: выступает в качестве AI-native шлюза, который маршрутизирует и управляет трафиком AI, MCP и API.

Astropods: служит операционной системой со средой выполнения, наблюдаемостью и защитными барьерами для ваших AI-агентов в промышленной эксплуатации.

Fern: генерирует документацию, SDK и CLI, которые делают API доступными для обнаружения, типизированными и вызываемыми разработчиками и AI-агентами.

В то время как Postman предоставляет инструменты для создания и управления агентами, Baseten обеспечивает производительную и экономически эффективную инфраструктуру, на которой они работают.

Быстрый, надежный и экономически эффективный инференс

предоставляет инструменты для создания агентов и их подключения к API. Будучи рекомендованным партнером Postman по инференсу для корпоративных команд, Baseten запускает модели, лежащие в основе этих агентов, обеспечивая быстрый инференс, отказоустойчивые мультиоблачные мощности и инфраструктуру пост-обучения, необходимую для специализации моделей.

Быстро: API моделей обеспечивают высокую пропускную способность и низкую задержку, при этом семь запусков 2026 года вошли в число двух лучших провайдеров по версии Artificial Analysis как по пропускной способности, так и по задержке.

• Beam 1.0, #1 in throughput and latency

Beam 1.0,

• Nemotron 3.5 Super VL, #2 in throughput, #1 in latency

Nemotron 3.5 Super VL,

• Muse Spark Open, #2 in throughput and latency

Muse Spark Open,

• DeepSeek V4.1 Flash 1017, #2 in throughput and latency

DeepSeek V4.1 Flash 1017,

• DeepSeek V4.1 Flash, #1 in throughput and latency

DeepSeek V4.1 Flash,

• DeepSeek V4 Flash, #1 in throughput and latency

DeepSeek V4 Flash,

• GLM-5.2 Fast, #2 in throughput and latency

GLM-5.2 Fast,

Надежно: Управление мультиоблачными мощностями (MCM) объединяет GPU-ресурсы в разных облаках, открывая огромные возможности для обслуживания корпоративных рабочих нагрузок со встроенной устойчивостью к аппаратным сбоям. Baseten по умолчанию не хранит данные (ZDR) и позволяет ограничивать или настраивать облака, регионы и кластеры, в которых вы работаете, включая одноарендные (single-tenant) и активно-активные развертывания.

Экономически эффективно: Baseten Training предоставляет инфраструктуру и исследовательскую поддержку для пост-обучения открытых моделей под конкретные задачи вашего агента, что позволяет достичь или превзойти качество крупных передовых моделей за долю от их стоимости.

• Harvey post-trained a 27B open model для соответствия производительности закрытых передовых моделей в своем бенчмарке юридических агентов, где лучшие закрытые модели стоят примерно 50 долларов за задачу.

для соответствия производительности закрытых передовых моделей в своем бенчмарке юридических агентов, где лучшие закрытые модели стоят примерно 50 долларов за задачу.

Пост-обучение моделей для улучшения качества ответов

Для большинства экономически ценных задач разрыв между тем, что может сделать модель общего назначения с помощью промптов, и тем, что может сделать специализированная модель с помощью пост-обучения, очень велик.

Пост-обучение также улучшает качество ответов вашего агента, позволяя при этом использовать более быструю и дешевую модель. Вот как это работает с Baseten:

• Обучение для конкретных задач. Адаптируйте модели к рабочему процессу агента с помощью контролируемого дообучения (fine-tuning) и обучения с подкреплением.

Обучение для конкретных задач. Адаптируйте модели к рабочему процессу агента с помощью контролируемого дообучения (fine-tuning) и обучения с подкреплением.

• Развертывание и итерация. Развертывайте обученные модели на Baseten и используйте данные об их использовании для дальнейшего обучения.

Развертывание и итерация. Развертывайте обученные модели на Baseten и используйте данные об их использовании для дальнейшего обучения.

• Работа с экспертами. Получайте прямую поддержку от команды Baseten по пост-обучению.

Работа с экспертами. Получайте прямую поддержку от команды Baseten по пост-обучению.

• Сохранение прав собственности. Сохраняйте за собой веса моделей, оценки и скрипты обучения.

Сохранение прав собственности. Сохраняйте за собой веса моделей, оценки и скрипты обучения.

Используйте экономически эффективных агентов с Baseten и Postman

Baseten предоставляет нам инфраструктуру и опыт пост-обучения, чтобы подобрать подходящую модель для каждой задачи в режиме агента, обеспечивая экономическую эффективность для внедрения большего количества AI в корпоративную среду.

Создаете решение с помощью Postman и готовитесь к развертыванию в промышленную эксплуатацию? Свяжитесь с нами, чтобы узнать, как инференс и пост-обучение от Baseten помогут вам оптимизировать надежность, экономическую эффективность и производительность ваших агентских рабочих нагрузок.

Создавайте с Postman. Запускайте на Baseten.