Генерация видео в реальном времени на GPU AMD Instinct™ MI355X
Видео является одной из самых требовательных рабочих нагрузок при мультимодальном инференсе. Один запрос может включать сотни кадров, сложное движение, видео высокого разрешения и синхронизированный звук. Задача заключается не просто в запуск модели. Она состоит в том, чтобы выдавать результат достаточно быстро для обеспечения интерактивного пользовательского опыта.
В ходе проверки концепции при поддержке AMD команда Nunchux AI оптимизировала MiniMax-H3 на GPU AMD Instinct™ MI355X. На одном сервере с восемью GPU решение показало задержку генерации 1,33 секунды для пятисекундного видео и 5,39 секунды для 15-секундного видео. При использовании 4 или 8 GPU AMD Instinct MI355X каждый протестированный фрагмент видео генерировался быстрее, чем воспроизводился.
MiniMax-H3 на GPU AMD Instinct™ MI355X
Один и тот же промпт выполнялся в стеке, оптимизированном Nunchux, и в базовой конфигурации SGLang на тех же 8 GPU AMD Instinct MI355X. Это сравнение дает читателям наглядное представление о сгенерированных результатах и делает разницу в задержке генерации осязаемой. В совокупности эти результаты демонстрируют, как GPU AMD Instinct, программное обеспечение AMD ROCm™ и оптимизация под конкретные рабочие нагрузки могут превратить генеративное видео из процесса «отправил и жди» в более отзывчивый интерактивный инструмент.
Экосистема AMD как основа развертываемых ИИ-сервисов
AMD сотрудничает с растущей экосистемой независимых поставщиков программного обеспечения и сервисов инференса, которые помогают разработчикам и предприятиям превращать производительность ускорителей в готовые к развертыванию ИИ-приложения. Для организаций, создающих генеративные приложения для работы с изображениями и видео, эти провайдеры могут сократить объем работы, необходимой для оптимизации моделей, управления инфраструктурой GPU и предоставления результатов через программные интерфейсы приложений (API) или специализированные среды.
Nunchux — один из примеров в этой экосистеме. Компания разрабатывает программное обеспечение и сервисы для мультимодального инференса, предназначенные для разработчиков приложений, креативных и медиа-платформ, коммерческих приложений и предприятий, внедряющих проприетарные модели изображений, видео и модели мира.
Почему именно AMD Instinct MI355X
Диффузионные видеомодели предъявляют высокие требования к вычислительным ресурсам и объему памяти. Стоимость вычисления механизмов внимания (attention) быстро растет по мере увеличения количества токенов, а более длинные клипы содержат больше токенов, поэтому здесь важен запас как по чистой пропускной способности, так и по объему памяти.
GPU AMD Instinct MI355X были выбраны для этой проверки концепции по трем причинам:
- Большой объем высокоскоростной памяти позволяет удерживать данные внимания для длинных последовательностей видео непосредственно на устройстве, снижая нагрузку на память, которая доминирует в этом классе рабочих нагрузок.
- Поддержка типов данных с низкой точностью (включая форматы класса FP4/MXFP) в сочетании с высокой вычислительной пропускной способностью сделали GPU AMD Instinct MI355X исключительно привлекательной платформой для оптимизации и ускорения видеоинференса силами Nunchux. В частности, MXFP6 обеспечивает примерно вдвое большую теоретическую пиковую производительность матричных вычислений по сравнению с MXFP8.
- Открытый программный стек ROCm™ предоставил команде полный контроль для создания пользовательских кернелов и профилирования вплоть до уровня «железа», что крайне важно для команды, которая совместно проектирует алгоритмы и среду выполнения.
Что было оптимизировано в стеке AMD
Эти результаты получены не простым переносом кода. Работая с программным обеспечением AMD ROCm, компания Nunchux оптимизировала модель и среду выполнения в комплексе, включая пользовательские кернелы, перемещение памяти и стратегию выполнения.
Nunchux разрабатывает свой оптимизатор моделей (Model Optimizer) и движок инференса (Inference Engine) как единую систему, адаптируя и модель, и среду выполнения под целевое аппаратное обеспечение. Одним из примеров является собственный кернел MXFP6, который, по данным тестирования Nunchux, работает примерно в 13 раз быстрее базового решения MXFP6 из библиотек ROCm. Этот кернел наряду с остальной частью оптимизированного стека инференса внес свой вклад в общие сквозные результаты.
Более широкая ценность AMD заключается в том уровне доступа, который программный стек ROCm предоставляет клиентам. Команды могут точно определить, на что уходит время, разработать специфичные для рабочих нагрузок оптимизации и максимально задействовать потенциал базового ускорителя для повышения производительности реальных приложений.
Превращение полностековой оптимизации в сквозную производительность
Основные результаты по задержке генерации показывают, что оптимизированное решение может генерировать видео быстрее, чем оно воспроизводится. Отдельные сквозные измерения охватывали весь путь приложения — от первоначального запроса до готового файла MP4, включая кодирование видео, что дает более полное представление о времени ожидания для пользователя приложения.
На тех же восьми GPU AMD Instinct™ MI355X стек Nunchux сократил время создания готового 15-секундного файла MP4 со 150,5 секунд (для базовой конфигурации SGLang) до 6,49 секунд, что обеспечивает заявленное ускорение в 23,2 раза.
Для всех измеренных длительностей клипов показатель улучшения вырос с 14,9х для пятисекундного клипа до 23,2х для 15-секундного клипа. Аппаратное обеспечение оставалось неизменным. Изменилось лишь то, насколько эффективно оптимизированная модель и стек инференса использовали его.
Куда уходит время: цикл шумоподавления (Denoise Loop)
Детализация по этапам помогает объяснить сквозное улучшение. В базовой конфигурации SGLang более 90% общей задержки приходилось на цикл выборки шумоподавления, что делало его главной целью для оптимизации.
На тех же восьми GPU AMD Instinct MI355X стек Nunchux сократил задержку шумоподавления в 26,3–35,4 раза для всех измеренных длительностей клипов. Для 15-секундного клипа время шумоподавления сократилось со 143,1 секунды до 4,04 секунды.
Сократив этап, который доминировал в исходном времени выполнения, оптимизированный стек сократил весь путь от запроса до готового видео. Это напрямую связывает работу с моделью, кернелами и средой выполнения, обеспеченную программным обеспечением AMD ROCm™, с улучшением задержки на уровне приложений.
Генерация видео в реальном времени
Поскольку каждый клип создается быстрее, чем воспроизводится, генерация видео на GPU AMD Instinct MI355X может работать в реальном времени: зритель ждет один раз, в самом начале, а затем видео неизменно опережает позицию воспроизведения. Этот запас не сокращается, поэтому один сервер MI355X может продолжать генерацию столько, сколько кто-то смотрит видео.
Конкурентная производительность при генерации видео в реальном времени
По сравнению с отдельно опубликованными результатами NVIDIA Research для решения Sol-H3 на восьми GPU NVIDIA B300, решение Nunchux AI на восьми GPU AMD Instinct™ MI355X показало меньшее время генерации MiniMax-H3 для вывода видео длиной 5, 10 и 15 секунд.
Для всех трех вариантов длительности решение, работающее на GPU AMD Instinct MI355X, продемонстрировало задержку генерации на 18,5% – 19,4% ниже, чем NVIDIA Sol-H3 на B300. Опубликованные результаты охватывают видео с разрешением 1344х768 при 24 кадрах в секунду, используют восемь GPU и включают текстовое кодирование, шумоподавление диффузионного трансформера (Diffusion Transformer), а также декодирование вариационного автоэнкодера (VAE) для видео и аудио. Финальное кодирование MP4 исключено из обоих наборов результатов для сопоставимости временных рамок.
Эти результаты демонстрируют конкурентоспособную производительность, которую GPU AMD Instinct MI355X может обеспечить для требовательных задач мультимодального инференса в сочетании с программным стеком AMD ROCm™ и оптимизатором моделей и движком инференса от Nunchux AI. Подробности читайте в техническом блоге Nunchux AI.
Что это доказывает для клиентов AMD
Эти результаты получены благодаря совместному проектированию, а не универсальному стеку. Ускорители различаются по производительности вычислений, пропускной способности памяти, объему памяти и межсоединениям. Эффективное использование этих возможностей требует адаптации модели и среды выполнения к целевой платформе.
На GPU AMD Instinct MI355X эта работа велась в тесной связи с архитектурой GPU AMD и программным стеком ROCm. Оптимизация моделей, числовые форматы, пользовательские ядра, выполнение на нескольких GPU и дешифрация рассматривались как части единого пути вывода.
Nunchux AI — один из примеров клиентов в рамках общей стратегии платформы AMD. GPU AMD Instinct MI355X обеспечивают вычислительную основу и основу памяти. ПО AMD ROCm дает клиентам гибкость для глубокой оптимизации под их рабочие нагрузки. Затем клиенты могут перенести эти возможности в приложения, размещенные службы или выделенные развертывания.
Для AMD это взаимодействие демонстрирует, что комбинация GPU AMD Instinct MI355X и ПО AMD ROCm способна поддерживать ресурсоемкий мультимодальный вывод с конкурентоспособной задержкой. Что еще более важно, она показывает, как клиент AMD может превратить производительность инфраструктуры в более отзывчивый интерфейс для разработчиков и конечных пользователей.
Начало работы
Изучите документацию по программному обеспечению ROCm™, просмотрите образы контейнеров программного обеспечения ROCm и прочтите другие технические статьи в блогах программного обеспечения ROCm. Чтобы оценить аппаратное обеспечение Instinct™ для ваших собственных рабочих нагрузок, обратитесь к вашей команде по работе с клиентами AMD.
