Почему облачным сетям нужна новая основа
ИИ вступает в новую фазу. Системы обучения, вывода и агентного ИИ становятся более мощными, распределенными и играют ключевую роль в работе организаций.
Эти новые рабочие нагрузки не заменяют существующие облачные, баз данных и корпоративные приложения. Эти рабочие нагрузки будут продолжать работать в больших масштабах и оставаться критически важными для клиентов. Но ИИ добавляет новые модели трафика и требования к производительности, которые ставят под сомнение допущения, заложенные в традиционные облачные сети.
В результате возникает острая необходимость в более надежной сетевой основе — такой, которая поддерживает современные разнообразные облачные трафики и одновременно готовится к следующему поколению ИИ.
AMD и Oracle объединили усилия для удовлетворения этих меняющихся требований, совместно разработав DPU на базе AMD Pensando вместе с SmartNIC Oracle Acceleron, чтобы перенести функции работы с сетями, системами хранения, безопасности и инфраструктурой ближе к пути передачи данных и сохранить емкость хост-процессоров для клиентских приложений.
ИИ предъявляет новые требования к сети
Традиционный облачно-нативный трафик обычно распределяется между большим и разнообразным набором клиентов, серверов и баз данных. Такое разнообразие помогает распределять трафик по доступным сетевым маршрутам.
Рабочие нагрузки ИИ могут выглядеть совершенно иначе. Обучение часто предполагает передачу больших объемов данных между относительно фиксированным набором графических процессоров (GPU). Эти потоки могут быть долгоживущими, пакетными и синхронизированными. Вывод требует быстрых и стабильных ответов, поскольку модели ИИ обслуживают пользователей и приложения. Системы агентного ИИ добавляют еще больше распределенной активности, поскольку агенты автономно планируют, рассуждают, итерируют и координируют действия между службами, инструментами и источниками данных.
Эти паттерны могут снизить разнообразие потоков и затруднить равномерное распределение трафика по сети. Небольшое количество перегруженных маршрутов может повлиять на производительность всей задачи обучения, снизить коэффициент использования дорогостоящих GPU и ухудшить пользовательский опыт.
По этой причине по мере масштабирования инфраструктуры ИИ в мультиарендной среде ей требуется не просто высокая пропускная способность. Ей необходимы высокая скорость передачи данных, предсказуемая задержка, надежная изоляция, эффективная безопасность и способность развиваться по мере изменения рабочих нагрузок.
Создание более надежной основы с помощью DPU AMD Pensando
Блоки обработки данных (DPU) AMD Pensando™ помогают обеспечивать работу SmartNIC Oracle Acceleron для экземпляров вычислений и ускорителей Oracle на базе AMD.
SmartNIC Oracle Acceleron объединяют функции хост-сети и управления облаком в единую архитектуру, сохраняя при этом надежную изоляцию между функциями клиента и облачными службами. Такой конвергентный подход помогает снизить сложность оборудования и избыточное перемещение данных, повышая при этом оперативность работы.
Для рабочих нагрузок ИИ это имеет огромное значение, так как накладные расходы инфраструктуры могут напрямую влиять на ресурсы, доступные для обучения и вывода. Для традиционных облачных нагрузок это помогает повысить эффективность сетевых служб, систем хранения и безопасности без необходимости перепроектировать приложения клиентов.
Ускоренная производительность
DPU AMD Pensando помогают ускорить работу функций сети, систем хранения и безопасности на аппаратном уровне. Это снижает накладные расходы на пути передачи данных и помогает OCI обеспечить более стабильную производительность для требовательных рабочих нагрузок на своих экземплярах AMD.
Те же преимущества поддерживают базы данных, облачные приложения и корпоративные сервисы. Производительность баз данных зависит от эффективности операций с хранилищами и сетью. Облачные приложения полагаются на быструю и безопасную связь между сервисами. Корпоративные рабочие нагрузки требуют надежной изоляции и шифрования без чрезмерного потребления ресурсов хост-процессора.
Архитектура SmartNIC Oracle Acceleron на базе DPU AMD Pensando может обеспечить до 2 раз большую эффективность сетевой обработки и повышенную производительность хранилища1 в зависимости от рабочей нагрузки и конфигурации.
Расширенные возможности безопасности
Поскольку системы ИИ объединяют все больше приложений, сервисов и источников данных, вопросы безопасности и изоляции приобретают еще более важное значение.
SmartNIC Oracle Acceleron используют архитектуру, в которой на первом месте стоит безопасность, что помогает обеспечивать изоляцию на уровне хоста. Архитектура поддерживает функцию OCI Zero Trust Packet Routing (ZPR), которая применяет политики доступа вблизи мест входа и выхода трафика на хост. Это важно, поскольку неавторизованные пакеты выявляются и локализуются на ранней стадии, не позволяя им распространяться на другие части сети. Это также обеспечивает исправление системы безопасности практически без простоев, благодаря чему инфраструктура остается защищенной без нарушения работы облачных сервисов.
Системам ИИ необходимо быстро передавать и обрабатывать данные, защищая при этом конфиденциальную информацию и поддерживая четкие границы между клиентами и сервисами. Это достигается в сети на базе архитектуры SmartNIC Oracle Acceleron на базе AMD Pensando.
Большая программируемость
Рабочие нагрузки ИИ быстро эволюционируют. Новые модели, методы обучения, паттерны вывода и агентные приложения будут и дальше создавать новые требования к сети.
Технология DPU AMD Pensando предоставляет OCI программируемую основу для адаптации к этим изменениям. Она позволяет OCI развивать сетевые службы, службы хранения, безопасности и наблюдаемости без добавления излишней сложности в среду хоста.
SmartNIC Oracle Acceleron на базе AMD Pensando решают эти задачи и справляются с требованиями экстремального масштаба и гибкости для вычислительных конфигураций OCI с поддержкой Acceleron.
Заключение
AMD Pensando и Oracle Acceleron позволяют клиентам, использующим вычислительные мощности и ускорители AMD на базе OCI, создать надежную сетевую основу для удовлетворения растущих потребностей ИИ наряду с устоявшимися облачными корпоративными рабочими нагрузками. Партнерство между AMD и Oracle обеспечивает инновации и гибкость, позволяя клиентам защитить свои сетевые проекты от устаревания в будущем.
Хотите узнать больше? Подробнее ознакомьтесь с информацией об Oracle Acceleron here, DPU AMD Pensando here, а также с портфолио совместных решений Oracle и AMD здесь.
