## Управление затратами на ИИ: распределение, бюджетирование, измерение и оптимизация
Расходы на агентов растут незаметно. Использование отображается в виде отдельной строки в общем счете за облако или модель уже после того, как агенты, вызвавшие эти затраты, завершили работу, и большинство команд не могут определить, какая именно команда, среда или приложение их породили.
Управление затратами на ИИ решает эту проблему с помощью совершенно новых решений для контроля расходов:
- - **Динамический каталог цен**: каталог цен хранит тарифы провайдеров на токены и расходы в одном месте с возможностью настройки пользовательских переопределений для индивидуальных соглашений с провайдерами.
- - **Гибкий механизм распределения**: проектируйте модели распределения для отслеживания расходов по командам, средам и приложениям.
- - **Встроенные интеграции с различными сторонними инструментами ИИ**: отслеживайте и распределяйте расходы по различным средам разработки, копилотам, инструментам жизненного цикла разработки ПО (SDLC) и т. д.
- - **Определение бюджетов**: устанавливайте бюджеты для групп распределения и определяйте жесткие и мягкие бюджеты, чтобы остановить перерасход средств до того, как он попадет в счет.
- - **Новая панель мониторинга затрат**: созданная на основе всего вышеперечисленного и возможностей видимости шлюза (Gateway) в отношении потребления токенов, она позволяет просматривать и детализировать расходы по отношению к бюджетным ограничениям, различным командам, средам и репозиториям.
Если вы хотите узнать больше, ознакомьтесь с [подробной статьей блога об управлении затратами на ИИ](https://konghq.com/blog/product-releases/kong-ai-cost-management)подробной статьей блога об управлении затратами на ИИ.
## Token Vault: защитите многосистемные учетные данные от попадания в код агентов и промпты
Агентам необходимы корпоративные учетные данные для выполнения полезной работы, и сегодня они часто хранят их напрямую — в коде, конфигурации или промптах. Каждый агент, хранящий учетные данные, представляет собой еще одну потенциальную точку утечки. Проблема усугубляется с MCP: каждый провайдер сервера поддерживает собственный механизм аутентификации, некоторые используют OAuth с согласием пользователя, другие — ключи API, третьи используют корпоративные потоки IdP on-behalf-of (OBO), служебные учетные записи и т. д. Поэтому, когда агент обращается к нескольким серверам MCP — внутренним и внешним — контроль доступа превращается в кошмар для разработчиков и серьезный фактор риска для команд безопасности. Когда, а не если агент ведет себя неожиданно, крайне важно контролировать радиус поражения при утечке учетных данных. Kong Token Vault реализует принцип наименьших привилегий, обеспечивает сквозную проверяемость (аудит) и позволяет мгновенно и целенаправленно отзывать учетные данные.
Token Vault решает эти проблемы, гарантируя следующее:
- - **Учетные данные не попадают к агентам**: агент никогда не хранит токен, поэтому ни один код, конфигурация или промпт агента его не содержат.
- - **Доступ агентов к MCP может распределяться между провайдерами**: многосистемные учетные данные могут храниться в Token Vault, после чего Token Vault и шлюз (Gateway) управляют обменов учетными данными и обеспечением контроля доступа к ним.
[Узнать больше >](https://konghq.com/blog/product-releases/kong-token-vault)Узнать больше >
## Context Mesh: превратите существующие API и серверы MCP в управляемые инструменты агентов раз и навсегда
У предприятий уже есть API и серверы MCP, но сделать их по-настоящему готовыми к работе с агентами (что означает их эффективность в отношении токенов и контекста) обычно означает либо ручное оборачивание каждого из них (в случае с API), либо переписывание существующих серверов MCP для поддержки таких методов, как режим кода.
Context Mesh решает эту проблему и генерирует управляемые серверы MCP из тех API и серверов MCP, которые вы уже используете:
- - **Управляемые серверы MCP из существующих API**: каждая служба становится инструментом агента, а политики применяются единожды, вместо того чтобы настраиваться для каждой копии.
- - **Составные компоненты (композиты)**: объединяйте несколько источников из API или серверов MCP в один управляемый сервер MCP.
- - **Каталог и реестр ИИ**: единое место для поиска и повторного использования API, серверов MCP и ресурсов ИИ между командами.
Сгенерированные серверы используют режим кода. Вместо того чтобы загружать определение для каждого инструмента в контекст агента, агент пишет короткий код, который вызывает только те инструменты, которые ему нужны. Это снижает потребление токенов и размер контекста по мере роста инфраструктуры, поэтому агенты могут работать с множеством API и серверов MCP, не загромождая свой контекст определениями инструментов.
И, конечно же, все эти серверы MCP могут быть немедленно развернуты на шлюзе Kong AI Gateway для полноценного управления.
[Узнать больше >](https://konghq.com/blog/product-releases/context-mesh)Узнать больше >
## Наблюдаемость ИИ (AI Observability): посмотрите, что сделал каждый агент
Когда агент ведет себя некорректно или аудит спрашивает, что он сделал, метрик запросов недостаточно. ИИ-трафик необходимо рассматривать как сеансы, шаги и вызовы моделей, в то время как большинство инструментов созданы для запросов API.
Наблюдаемость ИИ (AI Observability) интерпретирует ИИ-трафик как сеансы, шаги и вызовы моделей с помощью трех представлений:
- - **Панель мониторинга (Dashboard)**: обзор ИИ-трафика.
- - **Проводник (Explorer)**: запросы к ИИ-трафику по параметрам, важным для ваших команд.
- - **Журналы (Logs)**: отдельные ИИ-запросы, стоящие за каждым числом.
- - **Расширенная наблюдаемость ИИ (Advanced AI Observability)** (появится в конце ноября или начале декабря): отслеживание на уровне сеансов и ходов (turn-level tracing) по шагам агентов, вызовам инструментов и вызовам моделей, чтобы команды могли объяснять и проверять действия агента.
[Узнать больше >](https://konghq.com/blog/product-releases/kong-advanced-ai-observability)Узнать больше >
## Лучшая новость: всё это поставляется вместе со шлюзом (Gateway)
Context Mesh, Token Vault, AI Cost Management и Базовая наблюдаемость включены в состав Kong AI Gateway в Konnect без необходимости приобретать отдельный SKU. Команды, уже использующие шлюз в Konnect, могут применять эти возможности без каких-либо дополнительных затрат. Если вы хотите узнать больше, обратитесь к вашему контактному лицу в Kong или [запишитесь на демонстрацию](https://konghq.com/contact-sales)запишитесь на демонстрацию.
**Темы**
Алекс Драг (Alex Drag)
Руководитель отдела продуктового маркетинга
# Хватит исправлять. Начните создавать: стек Kong Context Mesh
В вашей инфраструктуре уже есть сырьевые компоненты: вычислительные мощности (виртуальные машины, контейнеры, бессерверные вычисления), потоковая передача событий (Kafka, Kinesis, Pub/Sub, RabbitMQ), хранилища данных (хранилища данных, базы данных, объектные хранилища) и ИИ-эндпоинты (любые размещенные или размещаемые самостоятельно LLM). Хотя
Уго Герреро (Hugo Guerrero)
# Центр управления проникает в среду выполнения: объявляем о партнерстве ServiceNow и Kong
Корпоративный ИИ перешел от пилотных проектов к производственной эксплуатации быстрее, чем большинство программ управления успевали за этим следить. Агенты теперь работают во всех основных облачных средах и у всех поставщиков моделей, создаваясь центральными командами, бизнес-подразделениями и разработчиками. Каждый из них рассуждает с помощью мо
Алекс Драг (Alex Drag)
# Архитектурное решение, с которым придется жить вашей мультиагентной системе
Мультиагентные системы в своей основе являются системами распределения контекста. Каждый агент в вашем рабочем процессе является потребителем и производителем контекста. Интересные архитектурные вопросы касаются исключительно того, как этот контекст перемещается. Две операции управляют всем:
Уго Герреро (Hugo Guerrero)
# Kong AI Gateway 2.0 теперь доступен вобщедоступном режиме (GA)
Если вы запускаете агентов в продакшене, вы сталкивались с этой проблемой: каждый агент, каждое LLM-приложение, каждый клиент MCP должны настраиваться на фоне растущего числа разрозненных серверов MCP, каждый из которых имеет собственный эндпоинт, собственное рукопожатие и собственный доступ
Грег Перанич (Greg Peranich)
# Почему ваши ИИ-агенты продолжают давать сбои (Подсказка: дело не в модели)
За последние несколько лет предприятия совершили поистине впечатляющий скачок. Они перешли от автоматизации на основе правил к большим языковым моделям, способным рассуждать, планировать и действовать. Слой интеллекта стал значительно лучше. Но интеграция
Уго Герреро (Hugo Guerrero)
# Единый шлюз для API и агентских приложений на VMware VKS с Kong Konnect
Созданный на базе Kong API Gateway, Kong AI Gateway разработан для решения ключевых задач при внедрении корпоративного ИИ. Современные ИИ-приложения редко полагаются на одну модель; вместо этого они оркеструют работу множества провайдеров генеративного ИИ, фреймворков агентов, Age
Аника Сури
# Интеграция ИИ-агентов: исследование Gartner подтверждает потребность в уровне контроля ИИ
Уровень контроля ИИ — это инфраструктура управления и наблюдаемости, которая располагается между ИИ-агентами и корпоративными приложениями, обеспечивая аутентификацию, маршрутизацию, ограничение частоты запросов и аудируемость для гарантированного безопасного и управляемого доступа. В отличие от традиционных ин
Хизер Халенбек
