Мы полностью вступили в эру агентов, и вопрос, который волнует каждого бизнес-лидера, звучит одинаково: где же отдача от наших инвестиций в ИИ?
94% of enterprises report они по-прежнему не получают высокой отдачи от своих инвестиций в ИИ. Разрыв возникает после того, как агенты созданы, когда команды пытаются внедрить их в рабочий процесс. Задача состоит в том, чтобы безопасно масштабировать агентов, подключать их к системам, на которых работает ваш бизнес, и не допускать бесконтрольного роста расходов. Именно этим мы и занимаемся на Dreamforce на этой неделе.
Создание агентов было легкой частью
Когда дело доходит до масштабирования агентов, компании сталкиваются с тремя проблемами, которые не проявляются на этапе пилотных проектов:
- Отсутствие прозрачности и контроля: агенты разбросаны по разным платформам, созданы разными командами, и нет единого представления о том, что они делают и кто ими владеет.
- Ограниченные действия агентов: агенты способны отвечать на вопросы или давать рекомендации, но не могут действовать в системах, где происходит реальная работа, из-за чего сотрудники погрязают в рутинных задачах, которые ИИ должен был устранить.
- Проблема растущих расходов на ИИ: потребление токенов увеличивается из месяца в месяц без четкой связи с бизнес-ценностью.
Получение реальной отдачи от ИИ означает решение всех трех проблем, и именно в этом вам поможет Agent Fabric.
Управляйте каждым агентом, независимо от того, где он был создан
Большинство организаций обнаруживают, что количество агентов, работающих на предприятии, почти наверняка больше, чем кто-либо ожидает. Такое разрастание агентов создает риски для комплаенса и безопасности. Организации, которые уверенно переходят к промышленной эксплуатации, — это те, кто установил централизованное управление, применяя последовательные политики к каждому агенту, независимо от того, где он был создан. Governance — это то, что дает командам уверенность в экспериментах, а затем и в быстром масштабировании.
Заставьте агентов работать в системах, на которых держится ваш бизнес
Управление создает доверие. Но надежный агент, который не может получить доступ к системам, где реально работает ваш бизнес, вряд ли принесет пользу. Agent Fabric построен на базе интеграции, управления API и лидерства MuleSoft в области «подключения чего угодно», что служит идеальным фундаментом. Agent Fabric помогает быстро добиться надежных действий, позволяя расширить ваши существующие API и интеграции в рабочие процессы агентов, чтобы агенты могли действовать без необходимости переделывать все с нуля.
Возможность подключения заставляет агентов работать. Но поддерживать их работоспособность — это другая дисциплина. Агент, который один раз выдал нужный результат, а через неделю тихо сломался, — это обуза, а не актив. Это проблема, которую призван решить наш новейший анонс — Agent Evals. Прежде чем масштабировать агента, нужно убедиться, что он стабильно делает то, что нужно.
Agent Evals дает командам систематический способ тестирования поведения агентов в масштабе: автоматическую генерацию сценариев тестирования, оценку результатов по заданным критериям успеха и выявление сбоев до того, как они попадут в рабочую среду. Поскольку оценки находятся на той же платформе, что и управление, сбой агента можно напрямую связать с действиями по исправлению. Именно это превращает многообещающий пилотный проект в то, на что может положиться бизнес.
Сделайте экономику ИИ эффективной в масштабе
Управляемые агенты, приносящие стабильные результаты, все равно могут разрушить программу, если экономика не сходится. Расходы на токены быстро растут, и большинство организаций обнаруживают, что у них нет четкого понимания того, что движет расходами или как их контролировать.
Устойчивая отдача от вашего ИИ требует прозрачности потребления в реальном времени, жестких элементов управления, которые останавливают перерасход до того, как он произойдет, и интеллектуальной маршрутизации, которая сопоставляет стоимость модели со сложностью конкретной задачи. Каждый токен должен быть отслеживаемым вплоть до создаваемой им ценности.
Практические инновации на всей территории кампуса
Для тех, кто на этой неделе находится на Dreamforce, в MuleSoft Campground в Moscone South, Data Lab for Trusted Insights и IT Lounge проводятся практические демонстрации, экспертные сессии и встречи практиков по всем трем этим направлениям. Приходите и посмотрите, как эти идеи работают на практике.
