Агенты полезны лишь настолько, насколько они осведомлены, и заслуживают доверия лишь в рамках установленных границ.
Ведущие предприятия используют открытый NVIDIA Agent Toolkit, который теперь расширен новыми инструментами, для настройки и контроля агентов, использования корпоративных данных для обоснования их ответов и действий, мониторинга их работы и управления их деятельностью.
NVIDIA Agent Toolkit включает в себя:
- Новый NVIDIA Agent Knowledge Foundation с библиотеками NVIDIA CUDA-X
- Открытые модели NVIDIA, включая Nemotron Retriever и новое семейство Kumo
- Безопасную среду выполнения агентов NVIDIA OpenShell
- Безопасные шаблоны агентов NVIDIA NemoClaw
- Инструменты и навыки, такие как NeMo Relay и NeMo Compass
Чтобы разрабатывать агентов, которые выполняют реальную работу и заслуживают доверия от этапа разработки до развертывания, разработчикам необходим открытый стек агентов, объединяющий модели, инфраструктуру, среду выполнения, данные и инструменты.
NVIDIA Agent Knowledge Foundation помогает предприятиям превращать данные в корпоративный интеллект, доступный для агентов. Агенты могут находить релевантную информацию, понимать ее значение для бизнеса, использовать ее для прогнозирования и помогать людям принимать решения о дальнейших действиях. Компании могут использовать Agent Knowledge Foundation без перемещения данных, перестройки существующих рабочих процессов или изменения средств контроля управления.
Основа включает библиотеки NVIDIA CUDA-X, включая cuDF, cuGraph, cuML, cuOpt и cuVS, а также новую библиотеку Auto-Ontology, которая преобразует необработанные корпоративные данные в привычные бизнес-концепции — такие как клиенты, продукты и заказы — и сопоставляет их взаимосвязи.
Она также включает открытые модели NVIDIA Nemotron Retriever и Kumo Structured — Kumo Tabular, Kumo Relational, Kumo Time Series и Kumo Forecast, которые помогают агентам находить релевантную корпоративную информацию для ответов на вопросы и построения прогнозов.
OpenShell обеспечивает безопасную границу среды выполнения, давая предприятиям контроль над тем, к чему агенты могут получать доступ и что могут делать. Шаблоны NVIDIA NemoClaw предоставляют эталонные проекты для создания безопасных специализированных агентов. Новейший шаблон NemoClaw для оптимизации агентов предоставляет пошаговую отправную точку для повышения интеллекта агентов, делая их со временем более эффективными в работе.
Предприятия внедряют NVIDIA Agent Knowledge Foundation
Новая платформа NVIDIA Agent Knowledge Foundation уже используется на предприятиях.
Совместно с Palantir организация цепочки поставок NVIDIA использует Agent Knowledge Foundation через Palantir Foundry, Ontology и AIP для развертывания специализированных агентов, создания действенной аналитики на основе проприетарных данных, прогнозирования результатов и оптимизации принятия решений.
Databricks использует NVIDIA Kumo Anomaly совместно с Databricks Genie Ontology для поддержки контекстно-зависимых агентов.
Snowflake предоставляет клиентам возможность использовать открытые модели NVIDIA Kumo Engine и Kumo Relational в своих средах Snowflake Notebook для расширения прогнозных возможностей.
Модели NVIDIA Nemotron Retriever делают поиск более быстрым и точным. Используя модель встраивания (embedding), Amazon OpenSearch Service повысил релевантность за счет меньшего количества поисковых шагов и практически без дополнительной задержки. Доработанная модель ранжирования SAP работала почти в 3 раза быстрее. ServiceNow улучшила качество повторного ранжирования, сократив задержку почти на четверть. Zoom использует модели Nemotron Retriever для улучшения понимания документов, релевантности поиска и извлечения контекста для Zoom AI Services.
Amazon Web Services (AWS), ClickHouse, Cloudera, Cohesity, Dassault Systèmes, Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst и VAST Data также входят в число тех, кто создает решения на базе Agent Knowledge Foundation.
Узнайте больше, присоединившись к этому GTC Berlin session on building, deploying and optimizing specialized agents in production.
