На начальном этапе развертывания искусственного интеллекта (ИИ) вычислительные узлы концентрировались в огромных централизованных кластерах, однако потребность в большем масштабе заставила операторов распределять обучающие кластеры по нескольким центрам обработки данных с помощью решений для масштабирования ИИ. Теперь операционная реальность централизованного вывода стала новым рубежом, требующим распределенного решения. Обучение может позволить себе находиться вблизи удаленных энергосетей, в то время как вывод — нет. Поскольку ИИ переходит от статических запросов к взаимодействию в реальном времени, интеллект должен быть распределен по сетям фронтенда, охватывающим различные географические регионы, региональные хабы и периметры предприятий. Движущие силы этого перехода к распределенному выводу носят неотложный и практический характер:
- Налог на задержку для географически рассредоточенных пользователей: Обеспечение быстрого взаимодействия для глобальной базы пользователей требует размещения узлов вывода в непосредственной близости от них. Сокращение времени кругового пути (RTT) в WAN на 40–60 миллисекунд может стать разницей между интерфейсом, который кажется интуитивно понятным, и тем, который кажется неотзывчивым.
- Мультипликативная задержка агентного ИИ: Рост автономных ИИ-агентов и сложных цепочек рассуждений экспоненциально увеличивает штраф за задержку. Когда агенту необходимо выполнить восемь последовательных вызовов инструментов, поисковых запросов и обращений к субмоделям для выполнения одного запроса, сетевая задержка в 50 мс на каждый этап превращает трехсекундную задачу в медлительный, разрозненный процесс. Построчная потоковая передача чат-бота быстро превращается в неприемлемый пользовательский опыт.
- Суверенитет данных и соответствие требованиям: Местные правила конфиденциальности данных (такие как GDPR и национальные требования в сфере здравоохранения или финансов) запрещают передачу конфиденциальных пользовательских запросов и проприетарных данных клиентов через государственные границы в центральные узлы обработки. Локализованные кластеры вывода решают проблему национального соответствия требованиям.
- Ограничения энергосети и питания: Огромное потребление электроэнергии центрами обработки данных гигаваттного масштаба достигло серьезных пределов коммунальных мощностей. Распределение узлов вывода по периферии мегаполисов, центрам колокации и региональным хабам высвобождает доступную мощность, одновременно снижая нагрузку на магистральные сети.
Распределение вывода по карте решает проблему близости к конечным пользователям, но вносит огромную сложность в сеть. Сети вывода фронтенда не работают в вакууме, а должны бесшовно объединять гетерогенные среды, связывая кластеры ускорителей XPU с системами хранения данных, магистралями WAN и устаревшими приложениями центров обработки данных, при этом обрабатывая одновременный трафик ИИ и не-ИИ на огромных расстояниях.
Рисунок 1: Возникающая потребность в распределенном выводе
Устаревшие сетевые вендоры реагируют на эту гетерогенность по своему привычному сценарию: фрагментированные «силосы» из отдельных операционных систем и несовместимых архитектур кремния, собранные воедино за десятилетия. Их инженеры разделены между параллельными кодовыми базами, что вынуждает тратить силы на достижение паритета функций, что препятствует инициативам в области качества и безопасности, а также увеличивает операционные трения для конечных клиентов.
Arista подходит к проблеме с противоположной философией: одна операционная система везде. Arista EOS (Extensible Operating System), работающая на базе нашего специально созданного стека маршрутизации облачного уровня, обеспечивает архитектурную согласованность между кластерами ИИ, облачными магистралями, центрами обработки данных и распределенными периферийными узлами маршрутизации. Эта согласованность устраняет искусственные трения, вызванные фрагментацией от устаревших вендоров, давая операторам гибкость для масштабирования распределенного ИИ без раздувания операционных расходов.
Гибкость в реальности безопасности после Mythos
Эта архитектурная дивергенция становится еще более важной, если учитывать современные реалии безопасности. В мире после Mythos, где движки обнаружения ИИ нового поколения и автоматизированные цепочки эксплойтов обнаруживают уязвимости программного обеспечения со скоростью машины, исторический буфер между раскрытием уязвимости и использованием эксплойтов исчез.
Устаревшие вендоры с несколькими параллельными операционными системами оказались застигнуты врасплох. Каждый вектор атаки с использованием ИИ вызывает хаотичную суету по сортировке, исправлению и квалификации каждой операционной системы в различных портфелях ИИ, ЦОД, WAN и коммутации. Циклы квалификации клиентов затягиваются на месяцы, оставляя критические периферийные устройства уязвимыми.
С Arista один стек маршрутизации охватывает всю вашу инфраструктуру. Смягчение уязвимостей централизовано, согласовано и проверено в масштабе. Поскольку EOS построена на единой, чистой архитектуре потоковой передачи состояний, обновления безопасности оптимизированы, предсказуемы и быстро развертываемы. Клиенты могут поддерживать защиту на скорости машины без необходимости переквалификации вариантов программного обеспечения в своих ИИ-фабриках. Более того, эти обновления часто можно применять без необходимости перезагрузки, тем самым исключая любые простои сети. Эта безопасная программная основа затем становится трамплином для распределенного вывода большого масштаба.
Создано для распределенного вывода: Расширенное портфолио маршрутизации Arista R4
Чтобы закрепить эти распределенные сети фронтенда, Arista представила специализированные платформы серии R4, обеспечивающие безопасную, надежную и низкозадержечную передачу данных вывода.
- Интегрированное шифрование на скорости линии: Обеспечение безопасности распределенного вывода через общедоступные сети и общие оптоволоконные линии требует шифрования, которое не снижает задержку приложений, гарантируя, что проприетарные данные запросов, учетные данные клиентов и веса моделей остаются в безопасности при передаче. Платформы R4 интегрируют шифрование на линейной скорости в каждый порт через TunnelSec, включая MACsec, IPsec и VXLANsec.
- Магистрали высокой доступности с избыточными плоскостями управления: На периметрах межсетевых соединений центров обработки данных (DCI) и WAN простой недопустим. Новые платформы R4 оснащены двойными движками Supervisor для обеспечения полностью избыточных плоскостей управления. Эта аппаратная устойчивость позволяет периферийным вычислительным кластерам и кластерам вывода оставаться надежно подключенными без единых точек отказа.
- Периферийные коммутаторы доступа с глубоким буфером для гетерогенного вывода: Распределенный вывод подвержен внезапным, тяжелым скачкам трафика из-за непредсказуемого спроса пользователей и должен учитывать несоответствия в скоростях портов и допусках задержки в доменах вычислений, хранения и WAN. Новые платформы R4 оснащены глубокой буферизацией пакетов в сочетании с виртуальными выходными очередями (VOQ) для обеспечения стабильного времени отклика вывода на больших расстояниях.
Распределенный вывод — это архитектурный рубеж современных, отзывчивых корпоративных и нео-облачных сетей. Устаревшие вендоры будут продолжать предлагать десятилетние сценарии, жонглируя разрозненными операционными системами и лоскутными наборами функций.
Будущее принадлежит сетям, созданным для машинной скорости, железной согласованности и бескомпромиссного качества и безопасности программного обеспечения. С Arista EOS и новым портфолио маршрутизации R4 инфраструктура для обеспечения распределенного интеллекта с выводом в реальном времени уже здесь.
Ссылки







