Развитие агентного ИИ кардинально меняет сетевой трафик предприятий, создавая уровень сложности, с которым традиционные стратегии маршрутизации не были рассчитаны справляться.
В недавней гостевой колонке для SiliconANGLE Ли Питерсон (Lee Peterson), вице-президент по филиальным и WAN-сетям в Cisco, провел яркую параллель между эволюцией корпоративных сетей и текущим состоянием искусственного интеллекта. Питерсон отмечает: «Подобно тому как SD-WAN использует телеметрию в реальном времени, политики и наблюдаемость для управления трафиком, маршрутизация моделей может направлять каждый запрос в наилучшую конечную точку с учетом требований к производительности, стоимости, конфиденциальности и точности».
Это понимание сигнализирует о ключевом взрослении корпоративного ИИ. Мы больше не управляем простыми и предсказуемыми запросами; мы координируем автономные рабочие процессы, где каждое решение напрямую влияет на производительность, стоимость и надежность. Хотя индустрия в основном сосредоточена на выборе моделей, реальное конкурентное преимущество заключается в обеспечении гарантий — способности синтезировать контекст сети, облака и безопасности, чтобы гарантировать соответствие каждого взаимодействия с ИИ конкретным бизнес-результатам.
В течение многих лет организации были ограничены универсальным подходом, часто переплачивая за массивные передовые модели для обработки рутинных задач, которые меньшие по размеру специализированные модели могут выполнять быстрее и за малую долю стоимости.
В Cisco мы переходим от пассивного подключения к проактивной интеллектуальной маршрутизации моделей, которая рассматривает модели ИИ как гибкие конечные точки в рамках более широкой инфраструктуры. Задействуя нашу уникальную междоменную видимость, мы можем гарантировать не только то, куда направляется запрос, но и качество выдаваемого им результата. Это наш план на новую эпоху корпоративного интеллекта, где операционная строгость сочетается с гибкостью эпохи ИИ.
От статических соединений к динамическому интеллекту
Динамическая маршрутизация моделей (DMR) стремительно превращается из нишевого метода оптимизации в краеугольный камень корпоративной ИТ-архитектуры. DMR представляет собой слой интеллектуальных политик и принятия решений, который оценивает входящие запросы к ИИ и направляет каждый запрос по оптимальному пути выполнения — например, к доменно-специфичной малой языковой модели (SLM), локальной модели, детерминированному программному интерфейсу приложения (API) или передовой большой языковой модели (LLM) — на основе параметров сложности, стоимости, конфиденциальности и задержки.
На заре облачной эры сетевые инженеры осознали, что передача трафикового потока из филиала обратно в централизованный датацентр неэффективна и затратна. Сегодня корпоративные команды по ИИ сталкиваются с точно такой же проблемой в рамках корпоративного tokenomics: маршрутизация каждого рутинного запроса к монолитной, энергоемкой LLM может не только создавать узкие места по задержке, но и истощать бюджеты на токены при уменьшающейся отдаче.
Развертывая подход интеллектуальной маршрутизации моделей, организации могут в режиме реального времени оценивать входящие запросы по конкретным критериям:
- Контекст и сложность: Различение простых проверок телеметрии и сложного многовариантного анализа первопричин.
- Бюджеты на стоимость и задержку: Использование междоменной сетевой аналитики для гарантии сквозной производительности и надежности каждого запроса к ИИ.
- Конфиденциальность и управление данными: Соблюдение политик безопасности, благодаря которым конфиденциальные корпоративные данные остаются на закрытых локальных или изолированных (air-gapped) моделях, а не передаются в публичные API.
Подобно переходу от жестких и дорогих схем MPLS (многопротокольной коммутации по меткам) к гибким программно-определяемым глобальным сетям (SD-WAN), DMR позволяет организациям избавиться от привязки к одному поставщику и оптимизировать операционные расходы.
Сила гарантированных результатов
Помимо простой маршрутизации моделей, Cisco представляет критически важный дифференциатор — уровень обеспечения гарантий. В то время как многие решения для маршрутизации фокусируются исключительно на выборе наиболее экономичной конечной точки, наш подход синтезирует телеметрию в реальном времени со всей сети, облака и стеков безопасности.
Эта междоменная видимость позволяет нам проверять сквозной путь еще до того, как запрос будет обработан, обеспечивая производительность и надежность. Вместо того чтобы просто искать самый дешевый путь, мы уделяем приоритетное внимание гарантированному пути — тому, который соответствует строгим требованиям к задержке и безопасности корпоративного уровня.
Междоменная видимость позволяет нам проверять сквозной путь еще до того, как запрос будет обработан, обеспечивая производительность и надежность. --
Междоменная видимость позволяет нам проверять сквозной путь еще до того, как запрос будет обработан, обеспечивая производительность и надежность.
Интегрируя этот интеллект в маршрутизатор моделей, мы превращаем развертывания ИИ в предсказуемые высокопроизводительные системы. В конечном счете это позволяет ИТ-лидерам перейти от управления токенами к управлению качеством проверенных результатов ИИ.
Повышение конфиденциальности и управления корпоративными данными
Слой динамической маршрутизации служит архитектурной точкой применения политик (PEP). Он проверяет метаданные запросов и классификацию данных, чтобы гарантировать, что конфиденциальные, проприетарные или регулируемые полезные нагрузки остаются в пределах безопасных локальных моделей, в то время как неконфиденциальные рабочие нагрузки могут обрабатываться с использованием публичных облачных API.
Помимо безопасности данных, DMR улучшает операционное управление, позволяя ИТ-лидерам перейти от реактивных трат к проактивному управлению. Анализируя средние требования к токенам для конкретных задач, организации могут устанавливать автоматические защитные барьеры. Контрольные точки на базе оценки в реальном времени могут остановить «вышедших из-под контроля агентов» до того, как они превысят лимиты бюджета, поэтому фактическое потребление ресурсов остается согласованным с первоначальными финансовыми прогнозами.
Может ли DMR работать в гибридных и локальных средах?
Да. С помощью унифицированных платформ управления и пограничных (edge) SLM (таких как разработанные совместно с NeuralFabric), уровни маршрутизации могут выполнять локализованные вычисления непосредственно на оборудовании или в частных облаках, обеспечивая строгое соблюдение нормативных требований и низкую задержку.
Какую роль играет задержка в решениях по маршрутизации?
Задержка является критическим фактором при принятии решений о маршрутизации, особенно для чувствительных ко времени операционных рабочих процессов, таких как триаж VoIP в реальном времени или интерактивное реагирование на инциденты. В таких сценариях DMR отдает приоритет компактным локальным моделям для устранения задержек при сетевых обращениях туда и обратно, переключаясь на более глубокие облачные рассуждения только тогда, когда требуется дополнительная аналитическая глубина.
Роль задержки изменилась по мере того, как ИИ преобразует корпоративные трафиковые паттерны из предсказуемых путей между пользователями, датацентрами и приложениями в гораздо более сложные взаимодействия, которые часто инициируют динамические рабочие процессы, охватывающие филиалы, множество облаков, приложения SaaS и модели ИИ.
Платформы наблюдаемости помогают справляться с этой сложностью, предоставляя ИТ-командам консолидированное представление обо всех филиалах, облаках и средах SaaS, а также обеспечивая непрерывную валидацию решений по маршрутизации и гарантируя, что сеть адаптируется к меняющимся условиям, а не полагается на статические конфигурации «настроил и забыл».
Снижение затрат на токены и их потребления за счет ансамблевой архитектуры
Реальные корпоративные операции показывают, что маршрутизация моделей наиболее эффективна при интеграции в более широкую стратегию ансамблей. В производственных средах, таких как Cisco AgenticOps для автономных сетевых операций, далеко не каждый шаг требует вызова LLM:
- Сначала детерминированное выполнение: Базовые операционные задачи — непрерывный мониторинг, сбор телеметрии, установление базовых показателей и проверки на соответствие требованиям — выполняются на детерминированных вычислениях, API и инструкциях без использования токенов моделей.
- Оптимизация под конкретные домены: Для специализированных областей специализированные движки, такие как Cisco Deep Network Model и малые языковые модели (SLM), могут соответствовать точности передовых моделей или превосходить ее в ограниченных задачах, снижая при этом эксплуатационные расходы до 30 раз.
- Гибкое гибридное развертывание: Благодаря достижениям таких технологий, как NeuralFabric, SLM могут запускаться локально на периферийном сетевом оборудовании, а также в локальных и изолированных средах (air-gapped), что исключает затраты на исходящий трафик в облако и задержки при перемещении данных.
- Условная эскалация: Когда в рабочем процессе возникают противоречивые гипотезы или точки принятия решений с высоким уровнем риска, система маршрутизации динамически перенаправляет запрос к моделям с более глубоким уровнем рассуждений.
- Устойчивая корпоративная токеномика: Истинный показатель эффективности ИИ — это не чистый объем токенов. Это стоимость за подтвержденный результат. Используя глубокую наблюдаемость, мы отдаем приоритет решениям по маршрутизации, которые обеспечивают надежные и ценные для бизнеса результаты, а не просто выбирают самую дешевую конечную точку. Такой подход позволяет организациям максимизировать аналитическую строгость, сохраняя при этом предсказуемость и производительность инфраструктурных затрат.
Новый проект корпоративного интеллекта
Переход от статических монолитных развертываний ИИ к архитектуре динамической маршрутизации моделей — это больше, чем просто мера по сокращению расходов. Он представляет собой фундаментальный сдвиг в том, как предприятия применяют интеллект на практике. Рассматривая модели ИИ как гибкие конечные точки, а не как жесткие пункты назначения, организации наконец-то могут сбалансировать конкурирующие требования производительности, конфиденциальности и цены.
Узнайте о нашем подходе к оптимизации производительности моделей в этом обзоре: Cisco Deep Network Model: Интеллект специального назначения для сетей.
Модернизируйте и защитите свою сеть для эпохи ИИ. Изучите безопасную сетевую архитектуру, готовую к ИИ
Модернизируйте и защитите свою сеть для эпохи ИИ
Изучите безопасную сетевую архитектуру, готовую к ИИ
