Salesforce расширяет Agent Fabric для автоматической остановки неоправданных расходов и сбоев ИИ-агентов до того, как они затронут клиентов

Сегодня компания Salesforce анонсировала Agent Evals, API Evals и расширенные средства контроля затрат для Agent Fabric, своей панели управления ИИ для администрирования и регулирования агентов на различных платформах. По мере того как предприятия масштабируют ИИ, агенты могут давать сбои без предупреждения, выдавая неверные ответы и накапливая расходы до того, как кто-либо это заметит.

Директора по информационным технологиям и руководители в области ИИ теперь могут выявлять проблемы до того, как они превратятся в жалобы клиентов или непредвиденные расходы, благодаря автоматическому вмешательству при падении качества и жестким лимитам расходов, которые ограничивают использование в рамках бюджета.

Обрабатывая более 1,2 миллиарда запросов ежедневно, Agent Fabric обеспечивает проактивный контроль корпоративного ИИ в больших масштабах.

«Больше всего в Agent Evals нас радует то, что инструмент не ограничивается констатацией ошибки. Когда качество работы агента падает, Agent Fabric может вмешаться автоматически — предупредить нужного владельца или отключить агента до того, как небольшая проблема перерастет в масштабную проблему для клиентов. Это недостающий элемент для запуска агентов в промышленных масштабах, и он придаст нам уверенности в дальнейшем внедрении ИИ во всем нашем бизнесе. Мы рады сотрудничать с Salesforce и помогать в доработке Agent Evals Beta», — Пунам Дешпанде (Poonam Deshpande), директор по инженерным разработкам в сфере цифровой коммерции компании ASICS Digital.

По мере развития моделей, API, затрат и систем, лежащих в основе агентов, проблемы могут возникать незаметно. Проактивное обнаружение требует постоянного создания, поддержки и оценки производительности. Тем не менее, сегодня fewer than half of organizations with agents evaluate them on live traffic. После того как проблемы обнаружены, их устранение означает поиск владельца и получение разрешения на ограничение работы агента, в то время как он продолжает выдавать вредные результаты и накапливать расходы на токены. С ростом популярности 96% of enterprises running agents on more than one platform и готовых агентов, таких как Fin, потребность в надзоре продолжает расти.

Переход от «ИИ в надежде на удачу» к непрерывному контролю

Чтобы решить эти проблемы, Salesforce внедряет непрерывную оценку и автоматическое вмешательство в ту же панель управления, которую предприятия уже используют для администрирования и регулирования своих ИИ-агентов:

• Agent Evals: автоматическое создание тестов перед развертыванием с последующей оценкой агентов, LLM и MCP-серверов в продакшене на соответствие заданным порогам качества. Если результаты не дотягивают до нормы, запускаются предопределенные сценарии вмешательства, включая функцию экстренного отключения агента (Agent Kill Switch), с запросом подтверждения там, где это предусмотрено политикой команды.
• API Evals: агенты дают сбои при изменении API, от которых они зависят. API Evals автоматически генерирует функциональные тесты и тесты производительности на основе спецификаций API, выявляя критические изменения до того, как они попадут в продакшен.
• Расширенный контроль затрат: панель управления FinOps Dashboard и хранилище Model Wallet предоставляют владельцам бюджетов единое представление о расходах на ИИ и жесткие лимиты, которые останавливают запросы до того, как затраты превысят бюджет, в то время как политики оптимизации затрат (Cost Optimization Policies) сокращают использование токенов до 75% (на основе тестовых сценариев) за счет семантического кэширования, сжатия полезной нагрузки и сокращения ответов.

В совокупности оценка и регулирование помогают командам оценивать, правильно ли агенты выполняют задачи, используют ли нужные инструменты, работают ли эффективно и соблюдают ли политики безопасности. Связывание этих результатов с предопределенными действиями сокращает объем ручной работы, необходимый для надзора за агентами на разных платформах, и помогает предприятиям поддерживать их работу в соответствии с задуманным после развертывания.

«Предприятия могут масштабировать агентов только до тех пор, пока они могут обеспечивать их точность и соблюдение бюджета. Сегодня обнаружение неверного ответа или скачка расходов — это одна задача, а их остановка — совсем другая. Agent Fabric объединяет их, сво воедино оценки, контроль затрат и вмешательство, чтобы команды могли мгновенно локализовать проблемы и уверенно масштабировать агентов», — Эндрю Комсток (Andrew Comstock), старший вице-президент и генеральный менеджер MuleSoft & Agent Fabric.

Вот как выглядит проактивный контроль на практике. Рассмотрим розничную компанию, которая стремится сократить расходы на агента поддержки заказов в реальном времени:

• Сценарий: розничный продавец переключает своего агента поддержки заказов на более дешевую ИИ-модель для снижения операционных расходов.
• Обнаружение: после смены модели Agent Evals автоматически запускает запланированные тесты и обнаруживает, что агент предоставляет неточную информацию о задержках заказов.
• Устранение: Agent Evals автоматически помечает проблему с качеством и запрашивает разрешение на отправку агента в карантин, основываясь на стремлении сохранить участие человека в процессе (human-in-the-loop). После утверждения агент изолируется, пока команда дорабатывает инструкции для него о том, как обрабатывать задержанные заказы. Они повторно запускают оценку на более дешевой модели, используя новые инструкции, чтобы убедиться в ее ожидаемой производительности, прежде чем вернуть ее в продакшен.
• Результат: розничный продавец может уверенно стремиться к экономии на ИИ, зная, что проблемы с качеством могут быть обнаружены автоматически, а при необходимости запущено вмешательство. Это помогает защитить клиентский опыт и в то же время дает бизнесу больший контроль над своими ИИ-агентами.

Выход за рамки платформ и шлюзов, которые вы уже используете

Agent Fabric уже автоматически обнаруживает агентов и управляет ими на основных платформах искусственного интеллекта. Два обновления расширяют эти возможности на агентов, работающих во внутренних и сторонних средах, а также на API, управляемые на шлюзах других производителей:

• Пользовательский сканер агентов (Custom Agent Scanner): расширяет автоматическое обнаружение Agent Fabric на внутренние среды, системы за брандмауэрами и сторонние платформы, выходящие за рамки встроенной поддержки. Создавайте пользовательские сканеры для обнаружения и каталогизации агентов, моделей, MCP-серверов и API в реестре агентов без необходимости регистрировать каждый актив вручную.
• Открытые политики для федеративных шлюзов API (Open Policies for Federated API Gateways): обнаруживайте, применяйте и отслеживайте политики API на шлюзах от Azure, Apigee и Kong, применяя такие политики, как белые списки IP-адресов или ограничение частоты запросов (rate limiting), ко всем ним за одно действие, а не по отдельности.

Мнения экспертов

«Наши клиенты полагаются на нас в обеспечении работы критически важных сервисов каждый день, и ИИ-агенты все чаще становятся частью этих операций. Agent Fabric предоставляет нам централизованную панель управления ИИ для администрирования агентов в больших масштабах, а Agent Evals поможет нам проверить, соответствуют ли агенты четким бизнес-результатам и результатам обслуживания. Вместе эти возможности помогут нам координировать ИИ-агентов наряду с нашими операционными экспертами, гарантируя ответственное развертывание автоматизации, доступность нужного вмешательства человека при необходимости и неизменно надежные результаты, на которые рассчитывают наши клиенты», — Тиина Стивенс (Tiina Stephens), директор по инженерным разработкам в сфере ИИ в компании Capita.

«Многое из того, что сегодня происходит с ИИ в крупных организациях, носит разовый характер и не имеет должного управления или прозрачности. С помощью Agent Fabric мы теперь имеем единую панель управления, где мы можем видеть наших агентов, тех, кто их создал, и отключать их, если что-то идет не так. Именно так можно перейти от экспериментов к реальному масштабированию на уровне предприятия с полным доверием», — Адам Джонс (Adam Jones), исполнительный директор по трансформации предприятия в GE Appliances, компании группы Haier.

«По мере внедрения ИИ-агентов в службу поддержки клиентов мы хотим быть уверены, что можем направлять их и контролировать на каждом этапе. Используя Agent Fabric в качестве безопасной панели управления ИИ, Newell Brands создает компанию с поддержкой агентов, где каждый агент для каждого бренда виден, регулируется и подотчетен. Именно так мы масштабируем интеллектуальное обслуживание по всему миру, не подрывая доверие клиентов». — Стив Сигрист (Steve Sigrist), вице-президент по глобальному обслуживанию клиентов, Newell Brands

• Agent Evals: бета-версия в ноябре 2026 года. Общая доступность в январе 2027 года.
• API Evals: бета-версия в ноябре 2026 года. Общая доступность в январе 2027 года.
• Custom Agent Scanner: бета-версия уже доступна. Общая доступность в январе 2027 года.
• Agent Kill Switch: общая доступность уже сегодня. Triggered-Agent Kill Switch — общая доступность в январе 2027 года.
• Open Policies для федеративных шлюзов API: общая доступность уже сегодня.
• Панель мониторинга FinOps, Model Wallet и политики оптимизации затрат: общая доступность уже сегодня.

Эта статья может содержать упоминания услуг или функций, которые все еще находятся в разработке и не выпущены. Клиенты должны принимать решения о покупке на основе полностью выпущенных и доступных функций.

• Ознакомьтесь с обзором Agent Fabric и тем, как она служит вашей корпоративной панелью управления ИИ.
• Узнайте, как контролировать затраты на ИИ и исключить скрытые скачки токенов.
• Узнайте, как Agent Fabric объединяет ИИ-агентов в управляемую сеть.