Postman и Baseten: создавайте производительных агентов и запускайте их с меньшими затратами

Фото: terski (Pixabay) — https://pixabay.com/photos/insect-entomology-butterfly-8595108/

Источник: Postman Blog•

Postman и Baseten: создавайте производительных агентов и запускайте их с меньшими затратами

Postman и Baseten стали партнерами, чтобы корпоративные клиенты могли создавать ИИ-агентов и запускать их с помощью быстрого и экономичного инференса. Узнайте, как интегрируются эти два стека. Запись Postman and Baseten: Build Performant Agents, Run Them At Lower Cost впервые появилась в Postman…

29 октября 2026 г.

Все создают ИИ-агентов, но гораздо меньшее число предприятий способно масштабировать их работу без неконтролируемого роста затрат. Мы рады сотрудничать с Baseten, чтобы решить эту проблему для корпоративных клиентов, объединив самые быстрые среды выполнения инференса, кросс-облачную высокую доступность и гармонично сочетающиеся рабочие процессы разработки. Агенты на базе Baseten Inference Stack и Postman Agent Stack работают быстро и с еще более низкими эксплуатационными расходами.

Postman: стек для агентов

Поскольку агентам требуются API для получения информации и выполнения действий, в дополнение к нашему семейству продуктов AI-native мы запустили Agent Stack (Astropods, Fabric и Passport), чтобы подготовить любое предприятие к внедрению агентов.

Postman — это платформа, на которой более 40 миллионов разработчиков создают, тестируют и развертывают API. Она предоставляет командам платформу для проектирования агентов, подключения их к необходимым инструментам и оценки их эффективности в реальных условиях.

Когда предприятия создают собственных внутренних ИИ-агентов с помощью Astro AI — control plane корпоративного уровня от Postman и операционной системы для агентов (agentOS), им требуется быстрый и экономичный вариант обслуживания моделей (model serving). Теперь Baseten является нашим рекомендуемым партнером по инференсу для корпоративных команд при переносе агентных процессов в production.

«Каждый доллар, сэкономленный на инференсе, — это доллар, который мы можем реинвестировать в бесплатное предоставление разработчикам дополнительных возможностей ИИ. Именно поэтому мы решили стать партнерами Baseten для наших корпоративных клиентов: быстрый, эффективный model serving, снижающий затраты на инференс, в сочетании с глубоким опытом в области пост-обучения. Это позволяет нам приносить больше пользы нашему сообществу». Абхинав Астхана (Abhinav Asthana), основатель и генеральный директор Postman

«Каждый доллар, сэкономленный на инференсе, — это доллар, который мы можем реинвестировать в бесплатное предоставление разработчикам дополнительных возможностей ИИ. Именно поэтому мы решили стать партнерами Baseten для наших корпоративных клиентов: быстрый, эффективный model serving, снижающий затраты на инференс, в сочетании с глубоким опытом в области пост-обучения. Это позволяет нам приносить больше пользы нашему сообществу».

Абхинав Астхана (Abhinav Asthana), основатель и генеральный директор Postman

Baseten: инфраструктура ИИ корпоративного уровня

Baseten — ведущая платформа инференса для команд, использующих ИИ в production. Она обеспечивает быстрое, надежное и экономичное обслуживание моделей с вычислительными мощностями GPU, инфраструктурой пост-обучения и практической поддержкой для масштабного запуска моделей с открытыми весами и кастомизированных моделей.

Команда Postman поставила перед собой цель снизить затраты на работу Postman Agent Mode, используемого более чем 40 миллионами разработчиков, сохраняя при этом неизменными качество и скорость. Baseten помогает в этом, предоставляя инфраструктуру пост-обучения для кастомизации моделей с открытыми весами (что снижает затраты без потери качества), а также model serving на базе Baseten Inference Stack.

«Мы гордимся партнерством с командой Postman по пост-обучению открытых моделей, которые соответствуют стандартам качества, но работают во много раз дешевле и быстрее». Амир Хагигат (Amir Haghighat), технический директор и сооснователь Baseten

«Мы гордимся партнерством с командой Postman по пост-обучению открытых моделей, которые соответствуют стандартам качества, но работают во много раз дешевле и быстрее».

Амир Хагигат (Amir Haghighat), технический директор и сооснователь Baseten

Postman + Baseten: вместе для корпоративного сектора

Вместе Postman и Baseten помогают предприятиям создавать и запускать ИИ-агентов в любых масштабах, сохраняя контроль над затратами.

Объединение стеков для создания и запуска агентов

Postman — это среда, где команды проектируют агентов, подключают их к необходимым API и инструментам и отслеживают их работу в production. Baseten — это платформа, на которой работают модели, лежащие в основе этих агентов.

Благодаря нашему партнерству команды могут перейти от агента, созданного в Astro AI, к обслуживанию в production на Baseten Inference Stack без необходимости состыковывать инфраструктуру вручную. С первого же дня вы также получаете вычислительную мощность и бесперебойную работу, которые способна обеспечить только кросс-облачная высокая доступность (MCM system от Baseten).

Подбор подходящей модели для каждой задачи

Рабочий процесс агента состоит из множества этапов, таких как планирование, выбор инструментов, вызовы API и составление резюме. Лишь некоторые из этих шагов требуют применения передовых моделей.

Команды могут перенаправлять массовые и более простые задачи на небольшие открытые модели, развернутые на Baseten, сохраняя передовые модели для наиболее сложных логических рассуждений. Подбирайте подходящую модель для каждой задачи и сокращайте затраты без ущерба для качества.

Непрерывное обучение на собственных данных

Использование в реальных условиях — лучший источник данных для совершенствования агентов. С инфраструктурой пост-обучения от Baseten команды могут дообучать открытые модели на реальных данных использования, благодаря чему агенты совершенствуются со временем.

Обслуживание трафика агентского масштаба

Одна задача агента может инициировать множество вызовов модели, а корпоративные внедрения многократно умножают это число на всех своих пользователей. Сочетая мультиоблачные мощности GPU с оптимизациями времени выполнения в Baseten Inference Stack, Baseten поддерживает низкую задержку даже при росте объема запросов или пиковых нагрузках.

Сотрудничество с двумя командами прикладного ИИ

Команды Postman и Baseten работают напрямую с корпоративными клиентами над их самыми сложными задачами. Клиенты получают общий канал связи с инженерами обоих партнеров, оперативную поддержку в тот же день и практическую помощь.

Начните работу

Создаете агентов и беспокоитесь о счетах за токены? Свяжитесь с нами, чтобы начать разработку с Postman и Baseten.

О чём эта статья

Ещё в разделе «Разработка ПО»

Все →

Ещё от Postman