Вычисления для агентного ИИ: два узла одновременно

КРАТКИЙ ОБЗОР

MSI CD270-S3071-X2 размещает два независимых узла на базе Intel Xeon 6900-й серии в корпусе 2U, предоставляя операторам плотные односокетные вычислительные мощности для уровней оркестрации, поиска и обработки данных в агентном ИИ.

Агентный ИИ меняет требования к работе дата-центра. Агент не просто отвечает на один запрос и останавливается: он планирует, вызывает инструменты и API, извлекает и ранжирует корпоративные данные, проверяет защитные барьеры и выполняет циклы — многократно для каждой задачи и для тысяч пользователей одновременно. Большая часть этого цикла представляет собой универсальные вычисления, которые должны выполняться на процессоре (CPU), в непосредственной близости к данным и приложениям, с которыми работает агент.

Это создает нагрузку на плотность ядер, пропускную способность памяти и скорость локального хранилища в рамках фиксированного бюджета мощности объекта. Построенный на архитектуре Data Center Modular Hardware System (DC-MHS) и поддерживающий процессоры Intel Xeon 6900P и Xeon 6+ 6900E+ с TDP до 500 Вт на узел, CD270-S3071-X2 спроектирован для эффективного масштабирования этих уровней CPU и работы в связке с GPU-системами, отвечающими за генерацию моделей.

2 узла

в 2U, DC-MHS

500 Вт

макс. TDP процессора на узел

8000 МТ/с

12 каналов DDR5 на узел

6 × U.2

отсеков PCIe 5.0 NVMe на узел

Многоузловой сервер серии MSI CD270-S3071

01 ОСНОВНЫЕ ПРЕИМУЩЕСТВА

Плотные вычисления для парка агентов

Два односокетных узла в 2U, каждый с одним процессором Intel Xeon 6900-й серии с TDP до 500 Вт, позволяют задействовать больше ядер на юнит стойки для параллельных сессий агентов.

Запуск агентного ИИ там, где живут данные

Процессоры Intel Xeon 6900P включают Intel® AMX в каждом P-ядре, поэтому эмбеддинг, переранжирование, классификация и инференс небольших моделей могут выполняться на тех же CPU, на которых работают корпоративные приложения, используемые агентами.

Память и хранилище рядом с вычислительными мощностями

Каждый узел предлагает 12 каналов DDR5 со скоростью до 8000 МТ/с плюс шесть отсеков с возможностью горячей замены U.2 PCIe 5.0 NVMe, что позволяет хранить векторные индексы, базы знаний и память агентов локально.

Открытость, модульность и ремонтопригодность

Дизайн DC-MHS, сборка OCP Inspired, рейтинг эффективности 80 PLUS Titanium, двойной BIOS и BMC, а также управление через Redfish упрощают эксплуатацию парка оборудования и будущие обновления.

02 ЦЕЛЕВЫЕ КЛИЕНТЫ И ВАРИАНТЫ ИСПОЛЬЗОВАНИЯ

CD270-S3071-X2 поддерживает два профиля процессоров в одном шасси, поэтому операторы могут адаптировать каждый узел под специфику нагрузки агентов.

P-ЯДРА · INTEL XEON 6900P

Агенты с интенсивным логическим выводом и чувствительностью к задержкам

Для предприятий и поставщиков услуг, использующих агентов, которым требуется быстрый однопоточный отклик, конфигурация на P-ядрах объединяет до 128 производительных ядер на сокет с Intel AMX и AVX-512 для инференса на стороне CPU и векторных вычислений.

E-ЯДРА · INTEL XEON 6+ 6900E+

Парки агентов с высокой степенью параллелизма

Для поставщиков облачных услуг и SaaS-операторов конфигурация на E-ядрах нацелена на максимальное количество ядер на стойку (до 288 E-ядер на сокет) и лучшую пропускную способность на ватт, что подходит для больших парков коротких параллельных сессий агентов и конвейеров поиска, ограниченных пропускной способностью.

ЦЕЛЕВЫЕ ВАРИАНТЫ ИСПОЛЬЗОВАНИЯ АГЕНТНОГО ИИ

• Корпоративные ИИ-ассистенты и помощники (копилоты), работающие с ERP, CRM, системами обработки заявок и документами.
• Конвейеры RAG (Retrieval-Augmented Generation): генерация эмбеддингов, векторный поиск, переранжирование и синтез ответов с помощью языковых моделей малого и среднего размера.
• Мультиагентные рабочие процессы для ИТ-операций, обслуживания клиентов, финансов и автоматизации цепочек поставок.
• Оркестрация на стороне CPU, выполнение инструментов, подготовка данных, а также предварительная и постобработка для кластеров инференса на GPU.
• Суверенные и регулируемые ИИ-развертывания, требующие хранения данных на локальных мощностях.

Облачные и контентные нагрузки

MSI позиционирует платформу для облачных вычислительных сервисов и сетей доставки контента, чтобы одни и те же стойки могли обслуживать как уровни агентов, так и обычных облачных арендаторов.

03 АГЕНТНЫЙ ИИ НА INTEL XEON 6

Процессоры Intel Xeon 6900-й серии предоставляют каждому узлу CD270-S3071-X2 строительные блоки, необходимые для агентного ИИ.

Встроенное ускорение ИИ

Intel Advanced Matrix Extensions (AMX) в каждом ядре Xeon 6900P ускоряют матричные операции BF16, FP16 и INT8 для эмбеддинга, переранжирования, классификации и инференса небольших моделей без использования дискретного ускорителя.

Плотность ядер для параллелизма

До 288 E-ядер на узел с Xeon 6+ 6900E+ (или 576 на шасси 2U) обслуживают большое количество одновременных сессий агентов.

Пропускная способность памяти для контекста

Двенадцать каналов DDR5 на узел со скоростью до 8000 МТ/с обеспечивают работу векторного поиска, длинных контекстов и «горячих» данных приложений.

Быстрые локальные данные

Шесть фронтальных отсеков с возможностью горячей замены U.2 PCIe 5.0 NVMe и два слота PCIe 5.0 M.2 на узел позволяют держать индексы и базы знаний рядом с вычислительными мощностями.

Ввод-вывод для перемещения данных

Полноразмерный слот PCIe 5.0 x16 на узел обеспечивает высокоскоростное сетевое подключение к хранилищам, пулам GPU и системам, с которыми взаимодействуют агенты.

Устойчивая пропускная способность

Поддержка процессоров с TDP до 500 Вт позволяет использовать самые производительные компоненты Xeon 6900 для непрерывной агентной нагрузки.

04 ОСНОВНЫЕ ХАРАКТЕРИСТИКИ И СПЕЦИФИКАЦИИ

Каждое шасси 2U объединяет два независимых односокетных узла на модульной архитектуре DC-MHS со встроенными функциями управления сервером, избыточности прошивки и доверенной загрузки. Спецификации приведены для одного узла, если не указано иное, на основе страницы продукта MSI CD270-S3071-X2; спецификации, функции и внешний вид могут варьироваться в зависимости от модели и региона.

Рисунок 1 – Многоузловой сервер серии MSI CD270-S3071, вид спереди

СПЕЦИФИКАЦИИ

CD270-S3071-X2 (S3071D270RAU6-X2), на узел

Форм-фактор

2U 2-узловой (2U2N), архитектура DC-MHS

Процессор

(1) Intel Xeon 6900P или Xeon 6+ 6900E+ серии, TDP до 500 Вт

Память

(12) DDR5 RDIMM, 12 каналов (1DPC), до 8000 МТ/с

Фронтальное хранилище

(6) отсеков с возможностью горячей замены 2.5" U.2 PCIe 5.0 x4 NVMe

Внутреннее хранилище

(2) 2280/22110 PCIe 5.0 x2 NVMe M.2

Расширение

(1) слот FHHL PCIe 5.0 x16

Управление

(1) выделенный порт 1000Base-T; ASPEED AST2600 BMC с IPMI 2.0 и DMTF Redfish

Отказоустойчивость и безопасность

Двойной BIOS и BMC; TPM 2.0 и модуль аппаратного корня доверия (опционально)

Эффективность и стандарты

80 PLUS Titanium; OCP Accepted

Указанные области применения

Облачные вычислительные сервисы; сети доставки контента

05 ОБЗОР РЕШЕНИЯ

CD270-S3071-X2 удваивает плотность узлов на юнит стойки, сохраняя при этом каждый узел как полноценную односокетную систему Xeon 6900 со своей памятью, хранилищем и вводом-выводом.

Односокетные узлы без компромиссов

Каждый узел получает все 12 каналов памяти и полный бюджет линий PCIe 5.0 одного процессора Xeon 6900. Агентские сервисы избегают межсокетного трафика памяти, а домены отказов остаются небольшими: один узел можно обслуживать, пока соседний продолжает работать.

Построено на открытых модульных стандартах

Дизайн модуля хост-процессора DC-MHS разделяет вычисления, управление и ввод-вывод на стандартные строительные блоки. Это сокращает время квалификации будущих поколений процессоров и соответствует инфраструктуре OCP-inspired, которую уже используют многие операторы.

Плотность в масштабах стойки

19-дюймовая 48RU EIA архитектура стоек MSI с воздушным охлаждением сконфигурирована с 16 многоузловыми системами 2U 2-node, с опциями как Intel Xeon 6, так и AMD EPYC. В качестве дополнительной иллюстрации: 20 шасси в стойке 42U дают 40 узлов и до 11 520 E-ядер, оставляя 2U для сетевого оборудования в верхней части стойки. Фактическая плотность зависит от мощности электропитания и охлаждения на стойку.

Рисунок 2 – Стойки с многоузловыми серверами MSI

Часть гибридной ИИ-фабрики

Стойки CD270-S3071-X2 отвечают за оркестрацию, поиск, сервисы данных, защитные механизмы и CPU-инференс, в то время как GPU-серверы MSI, включая системы на базе NVIDIA MGX, обеспечивают генерацию больших моделей. Емкость ускорителей рассчитывается исходя из этапа генерации, а не всего цикла работы агента.

06 МЕСТО В СТЕКЕ АГЕНТНОГО ИИ

CD270-S3071-X2 выполняет все этапы цикла работы агента, связанные с CPU, и передает GPU-серверам только задачу генерации больших моделей. Узлы с E-ядрами подходят для оркестрации и поиска с высокой степенью параллелизма; узлы с P-ядрами и поддержкой AMX подходят для агентов, чувствительных к задержкам, и CPU-инференса.

Рисунок 3 – Гибридный стек агентного ИИ: уровни CPU на CD270-S3071-X2, генерация на GPU-серверах

07 ЗАКЛЮЧЕНИЕ

MSI CD270-S3071-X2 предоставляет операторам агентного ИИ плотные и эффективные вычислительные мощности CPU в форм-факторе 2U с двумя узлами, построенном на открытых стандартах.

Благодаря процессорам Intel Xeon 6900P для агентов с интенсивным логическим выводом и процессорам Xeon 6+ 6900E+ для высоконагруженных систем, одна и та же платформа охватывает уровни оркестрации, поиска и данных в цикле работы агента. Двенадцать каналов быстрой памяти DDR5, хранилище PCIe 5.0 NVMe и архитектура DC-MHS обеспечивают близость данных к вычислительным мощностям и готовность платформы к будущим поколениям процессоров. В сочетании с GPU-серверами MSI для генерации больших моделей это решение формирует практичный фундамент стоечного масштаба для корпоративного, облачного и суверенного агентного ИИ.

ДОПОЛНИТЕЛЬНАЯ ИНФОРМАЦИЯ Страница продукта MSI CD270-S3071-X2 eps.msi.com/en/product/barebones/S3071D270RAU6-X2 Платформы MSI Intel Xeon 6 www.msi.com/Landing/Intel-Xeon-6 Свяжитесь с MSI для уточнения цен eps.msi.com/en/contact