Год назад ответ на вопрос «какую модель нам использовать?» был простым: ту передовую модель, которая на этой неделе возглавляет таблицу лидеров. Затем открытые модели догнали их. Они стоят в разы дешевле, их можно запускать там, где вам нужно, а ваши данные остаются вашими. Многие команды сделали выбор в их пользу.

Затем они применили эти модели к реальной работе. Оператор сообщает, что R2 потерял все маршруты от R1, но пинг по каналу все еще работает. Команде безопасности нужно найти три файла в кодовой базе из миллиона строк, которые с наибольшей вероятностью содержат уязвимость. Команде мониторинга нужно обнаружить тот самый единственный важный интерфейс за неделю телеметрии. Именно здесь универсальные модели, открытые или закрытые, начинают испытывать трудности.

Мы считаем, что следующий прорыв произойдет благодаря модели, которая уже знает предметную область, а затем изучает вашего клиента. Второй шаг выполняется на основе ваших данных и ваших взаимоотношений, и здесь лидируют партнеры.

Сегодня на Partner Summit мы представляем Cisco Model Foundry, новый платформенный сервис в Cisco Cloud Control. Он дает партнерам доступ к специализированным моделям Cisco и позволяет использовать эти модели в клиентских приложениях. Когда того требует сценарий использования, партнеры также могут дообучать модели на собственных данных своих клиентов — и все это в одном месте.

Получите доступ к экспертизе. Примените ее на практике. Адаптируйте, когда это важно.

Получите доступ к отраслевым моделям Cisco. Model Foundry открывает доступ к моделям, созданным Cisco на основе четырех десятилетий знаний в области сетевых технологий, безопасности и ИТ-операций. Некоторые из них ранее работали только внутри наших собственных продуктов. Просмотрите каталог, откройте Playground, вставьте реальную проблему и посмотрите, как каждая модель справляется с ней, прежде чем принимать окончательное решение.

Запустите их в работу. В Model Foundry вы создаете ключ API, задаете срок действия, выбираете модель — и готово. API совместим с OpenAI, поэтому он легко интегрируется в агенты, инструменты и рабочие процессы, которые вы уже используете. Администраторам доступны ключи с ограничением на уровне арендаторов, контроль доступа для каждой модели и полная прозрачность использования по моделям, ключам и дням.

Адаптируйте, когда это важно. Тонкая настройка (fine-tuning) означает использование знаний, которые делают сеть или бизнес уникальными, и обучение на их основе. Это решение создано для больших объемов данных, которые уже есть у партнеров и клиентов: конфигураций, сообщений логов, оповещений, тикетов и трассировок агентов с тысяч устройств. Model Foundry берет на себя самые сложные задачи: от графических процессоров и конвейера обучения до встроенной оценки, которая запускает базовую и настроенную модели параллельно. Вы видите, где настройка помогла, а где нет, еще до того, как что-либо попадет в производство.

Многим партнерам не требуется тонкая настройка для получения ценности. Специализированная модель Cisco, поставляемая в исходном виде, создана так, чтобы превосходить общие открытые модели в задачах предметной области. Тонкая настройка существует для тех моментов, когда «хорошо» недостаточно.

Модели, которые уже говорят на языке инфраструктуры

Model Foundry начинается с моделей, которые уже понимают ваш мир:

Deep Network 1.4. Создана для сетевых операций: расследования инцидентов, анализа первопричин и устранения неполадок в мультивендорных средах. Она была обучена на сетевой телеметрии, синтаксисе CLI, конфигурационных данных и топологиях устранения неполадок — знаниях, на которые опирается CCIE, но при этом модель имеет малую долю от размера передовой модели.
Antares-3B. Самая мощная модель в семействе Antares от Cisco, созданная специально для агентской локализации уязвимостей. Она точно определяет исходные файлы, которые с наибольшей вероятностью содержат конкретную уязвимость.
Decision Model 1.0. Быстрый уровень принятия решений для ИТ-агентов, работающих в сетях. Она выбирает правильный следующий инструмент для вызова, проверяет, подтверждают ли данные диагноз, и знает, когда эскалировать задачу на человека.
Cisco Time Series Model 1.0. Создана для операционных данных и данных мониторинга, которые инфраструктура генерирует каждую секунду.

Эти модели дополняют растущую библиотеку, которая включает в себя семейство Foundation-Sec, SecureBERT 2.0 и открытые весовые коэффициенты моделей Antares от Cisco, предоставляя партнерам настоящий каталог для оценки под задачи их клиентов.

Доказательство: WWT

Мы протестировали Model Foundry совместно с World Wide Technology (WWT).

WWT оценивает множество агентских сред, в том числе среды для агентского устранения неполадок. Оператор описывает проблему. Агент исследует работающую сеть с помощью инструментов, находит первопричину, приводит доказательства и рекомендует исправление для одобрения человеком. Это сложная задача, и модель Deep Network, несмотря на свою мощь, никогда не видела сеть WWT.

Cisco дообучила модель Deep Network с 31 миллиардом параметров на данных агентов и устранения неполадок, после чего оценила модели в лаборатории на реальных устройствах Cisco, используя те же агенты, инструменты и настройки, для решения проблем, с которыми ни одна из моделей раньше не сталкивалась. Проблемы охватывали BGP, OSPF, сбои каналов, политику маршрутизаторов, одновременные сбои и безобидные изменения конфигурации, замаскированные под сбои.

Вот как часто каждая модель рекомендовала абсолютно верное исправление:

Разница яснее всего проявляется на одном единственном оповещении. Системный лог указывает в неверном направлении, и базовая модель следует за ним. Дообученная модель отбрасывает вводящую в заблуждение подсказку, точно определяет несовпадение таймера омертвения (dead-timer) OSPF на нужном интерфейсе и в VLAN, а также говорит оператору, как это исправить. Именно такое суждение может добавить тонкая настройка.

Мы сделали это за пять недель, и предстоит сделать еще многое. Распознавание здоровой сети, когда ничего не сломано, и распутывание двух сбоев одновременно по-прежнему остаются сложными задачами. Это наши следующие цели, и каждый цикл производственных данных дает нам больше пищи для размышлений.

«Использование модели, которая понимает конкретные среды и делает больше, чем просто общие сетевые задачи, позволило нам быстро увидеть реальные результаты», — сказал Насиеф Эдросс (Naasief Edross), главный архитектор по безопасности в World Wide Technology. — «Тонкая настройка модели Deep Network от Cisco на данных по устранению неполадок продемонстрировала способность находить правильное решение в 11 из 12 реальных сценариев в лабораторных условиях. Модель Cisco Deep Network была обучена лучше выявлять вводящие в заблуждение подсказки и находить истинную первопричину проблемы. Именно к этому мы стремимся, внедряя агентские операции для наших клиентов».

Почему партнеры и почему в первую очередь

Рынок переходит от концепции «купить лучшую модель» к концепции «применить правильную». Именно при ответе на второй вопрос партнеры создают ценность, которую Cisco не может создать в одиночку. Мы создаем модели. Партнеры знают окружение клиента, рабочие процессы и историю, и у них есть данные, которые делают модель по-настоящему уникальной.

Именно поэтому Model Foundry сначала запускается для партнеров. Партнеры могут построить на этом бизнес тремя способами:

Предоставлять модели Cisco как есть. Внедряйте специализированный отраслевой интеллект напрямую в клиентские приложения.
Кастомизировать там, где это важно. Дообучите модель для сети конкретного клиента, набора данных безопасности или рабочего процесса и внедрите ее.
Создать практику на этой основе. Запуск инференса — это просто: получите ключ API и действуйте. Превратите быстрое развертывание в постоянную услугу в комплекте с поставляемой вами инфраструктурой ИИ.

Результат — модель, построенная на отношениях партнера с клиентом, а не только на наших. Она объединяет экспертизу Cisco и знания партнера, и эта комбинация уникальна для каждого партнера и клиента.

Встроено в рабочую среду

Model Foundry работает внутри Cisco Cloud Control, безопасной среды для эпохи агентов. Каждая модель, которую вы развертываете или дообучаете в Model Foundry, получает собственный API-эндпоинт, совместимый с OpenAI, поэтому она может питать любой агент, приложение или рабочий процесс, которые вы и ваши клиенты уже используете. Доступ управляется с помощью ключей API с ограничением по арендаторам, а использование отслеживается по модели, ключу и дням. Ваши обучаемые данные и созданные вами модели принадлежат вам.

Что дальше

На протяжении десятилетий Cisco помогала создавать сети, на которых работает весь мир. Теперь мы хотим помочь создать интеллект, который работает на них, вместе с партнерами, которые знают наших клиентов лучше всех. Мы надеемся, что партнеры будут меньше полагаться на арендованный интеллект и больше на собственные модели, адаптированные под каждого обслуживаемого ими клиента.

Хотя Model Foundry — это наша собственная платформа для специализированных и открытых моделей Cisco, мы также расширяем доступ через начальную группу партнеров раннего доступа: Armada, AWS, Baseten, Distyl, Fireworks, Microsoft, Ollama, RiverAI и WWT. Благодаря размещенному выводу, модульным дата-центрам, инструментам для разработчиков, а также практической поддержке кастомизации и проектирования решений разработчики и предприятия получают больше выбора в том, где и как использовать открытые модели Cisco. Участвующие партнеры получают ранний доступ к весам, чтобы они могли подготовиться к каждому новому релизу. Мы также планируем предоставить избранные проприетарные модели Cisco этим партнерам по экосистеме в ближайшие дни.

Cisco Model Foundry переходит в статус ограниченной доступности на Partner Summit, причем партнеры получают доступ в первую очередь. Приходите посмотреть на это вживую на основном докладе и на стенде. Мы рады, что вы участвуете в этом.

Некоторые описанные продукты или функции могут находиться на разных стадиях разработки и предлагаться по мере их доступности.