Создание сетей для развивающихся рабочих нагрузок ИИ
Рабочие нагрузки ИИ продолжают развиваться, охватывая обучение, инференс, распределенный инференс и агентный ИИ, причем каждая из них предъявляет уникальные требования к инфраструктуре. Наличие гибкой инфраструктуры, способной адаптироваться к будущим нагрузкам, имеет решающее значение для того, чтобы идти в ногу с развитием ИИ. По мере того как организации создают все более крупные и распределенные системы ИИ, сетевое взаимодействие становится критически важным фактором общей производительности системы.
Потребность как в производительности, так и в гибкости помогла сделать Ethernet сетевым фундаментом выбора для современных центров обработки данных ИИ. Его широкая экосистема, открытые стандарты и способность к постоянному развитию способствовали повсеместному внедрению: по прогнозам Gartner, более 80% of hyperscalers организаций выберут Ethernet для рабочих нагрузок ИИ к 2028 году. Однако крупномасштабное обучение ИИ предъявляет к сети принципиально иные требования, чем традиционные облачные и хранилищные нагрузки. Для обеспечения жесткой синхронизации сотен тысяч графических процессоров требуется быстрое восстановление после кратковременных перегрузок и сбоев путей, использование балансировки нагрузки, такой как packet spray и маршрутизация от источника, а также другие возможности, которые традиционные транспортные протоколы Ethernet, такие как RoCEv2, изначально не были предназначены предоставлять.
Именно поэтому организации по всей экосистеме ИИ, включая OpenAI, Microsoft, Meta и AMD, разрабатывают новые транспортные протоколы Ethernet, оптимизированные для рабочих нагрузок ИИ. Полностью программируемая архитектура AI NIC от AMD помогла ускорить разработку, тестирование и проверку этих транспортных протоколов, обеспечивая инновации без ожидания новых поколений оборудования. Всего за 16 месяцев появилось три новых основных транспортных протокола Ethernet, готовых к работе с ИИ, что подчеркивает как темпы инноваций в сетевых технологиях ИИ, так и потребность в инфраструктуре, способной развиваться вместе с ними.
Выбор клиента в темпе развития ИИ
Появление нескольких транспортных протоколов, готовых к работе с ИИ, отражает важную реальность: вряд ли найдется один универсальный транспорт, подходящий для любого развертывания ИИ. Различные рабочие нагрузки, архитектуры и эксплуатационные требования могут требовать разных подходов к управлению перегрузками, балансировке нагрузки и восстановлению после сбоев.
Чтобы развиваться в темпе ИИ, организациям нужна гибкость для внедрения того транспортного протокола, который лучше всего подходит для их среды, а не ограничение одним жестко запрограммированным сетевым подходом. Технология AMD AI NIC — это единственная полностью программируемая архитектура AI NIC, доступная сегодня, которая дает клиентам возможность внедрять новые транспортные возможности и оптимизации на существующем оборудовании, не дожидаясь следующего поколения аппаратного обеспечения.
Этот подход также позволяет использовать существующие инвестиции для ускорения вывода будущих поколений межсетевых соединений в производство. Клиенты могут разрабатывать, проверять и развертывать транспортные протоколы на AMD Pensando™ Pollara 400 AI NIC и переносить эти наработки на AMD Pensando™ Vulcano 800 AI NIC, сохраняя инвестиции в программное обеспечение и накопленный опыт эксплуатации на протяжении нескольких поколений. В сочетании с подходом AMD к открытой экосистеме организации получают больше возможностей выбора в том, как они строят и развивают сети ИИ.
Развитие следующего поколения транспортных протоколов Ethernet
Реакцию отрасли на эти вызовы уже можно увидеть в растущем наборе транспортных протоколов Ethernet, готовых к работе с ИИ. Разработанные гиперскейлерами, лидерами в области ИИ и отраслевыми консорциумами, эти протоколы помогают улучшить управление перегрузками, отказоустойчивость, эффективность и масштабируемость для крупномасштабных развертываний ИИ. Вместе они демонстрируют, как открытая экосистема ускоряет инновации в сетевых технологиях ИИ.
Ultra Ethernet Consortium объединяет более 100 участников отрасли для разработки открытой, интероперабельной архитектуры Ethernet, специально созданной для сред ИИ и высокопроизводительных вычислений (HPC). AMD была одним из основателей консорциума и автором технологии Network-Signaled Congestion Control (NSCC), которая теперь включена в спецификацию управления перегрузками UEC. AMD также выпустила один из первых AI NIC, способных поддерживать спецификацию транспорта UEC, предоставив платформу для разработки, тестирования и проверки в рамках экосистемы.
Multipath Reliable Connection (MRC) изначально была разработана для улучшения использования сети и отказоустойчивости в крупномасштабных средах ИИ. Хотя OpenAI сыграла ведущую роль в ее разработке, спецификация также получила вклад от более широкой экосистемы, включая AMD, Microsoft и других участников отрасли, прежде чем была передана в OCP. MRC уже развернута в Microsoft и Oracle для обучения передовых моделей OpenAI.
AMD выступила соавтором спецификации и участвовала во всем процессе ее разработки. Помимо вклада в технологию управления перегрузками, принятую в рамках нескольких транспортных инициатив, AMD помогла ускорить разработку благодаря своей программируемой архитектуре AI NIC, предоставив платформу для реализации, тестирования и проверки по мере появления новых транспортных инноваций.
Meta разработала MetaRoCE для поддержки крупномасштабных сред обучения ИИ и сетевых требований, стоящих за ее рабочими нагрузками ИИ. Чтобы ускорить развертывание и проверку, Meta работала напрямую с AMD над реализацией этого транспорта на технологии AMD AI NIC. Meta проверила MetaRoCE на технологии 400G AMD AI NIC, продемонстрировав, как программируемые сетевые платформы могут помочь быстрее переводить новые транспортные инновации из стадии разработки в производство.
Развитие в темпе ИИ
Рабочие нагрузки ИИ, системные архитектуры и сетевые требования будут продолжать развиваться. Быстрое появление новых транспортных протоколов Ethernet демонстрирует как темпы инноваций в экосистеме ИИ, так и важность сохранения гибкости по мере созревания и изменения требований к инфраструктуре.
Технология AMD AI NIC разработана для того, чтобы помочь организациям развиваться в темпе ИИ. Благодаря полностью программируемой архитектуре, поддержке открытых стандартов и сотрудничеству в рамках всей отрасли, AMD помогает клиентам внедрять, проверять и масштабировать сетевые технологии, наиболее подходящие для их сред, сохраняя при этом инвестиции на протяжении нескольких поколений.
Поскольку ИИ продолжает расширять границы инфраструктуры, открытость, программируемость и сотрудничество в рамках экосистемы останутся необходимыми условиями для создания сетей ИИ следующего поколения.
Узнайте больше о технологии AMD AI NIC уже сегодня.
