Великие платформы определяются не только кремнием, но и программной экосистемой, которая раскрывает их полный потенциал. Когда мы представили AMD Versal™ AI Edge Series Gen 2, нашей целью было переосмысление концепции краевого и физического ИИ с помощью единой ИИ-платформы, охватывающей предварительную обработку, ИИ-инференс и последующую обработку. Сегодня готовые к производству возможности Vitis™ AI, единого инструментария AMD для адаптивных SoC, воплощают это видение в жизнь. Поскольку все устройства Versal AI Edge Series Gen 2 запущены в производство, разработчики могут отказаться от сложности многочиповых систем в пользу истинного интеллекта на базе одного чипа на периферии. Объединяя обработку данных с датчиков в реальном времени, энергоэффективный ИИ-инференс и высокопроизводительные встраиваемые вычисления на единой платформе, Versal AI Edge Series Gen 2 упрощает проектирование систем, обеспечивая при этом высокую производительность и эффективность. В сочетании с Vitis AI эта платформа превращает концепцию «одночипового сквозного ускорения ИИ» в готовую к производству реальность, обеспечивая поддержку моделей, зрелость программного обеспечения и проверенную производительность инференса, необходимые для развертывания краевого и физического ИИ в масштабе.
Там, где ограничения определяют инновации: задачи краевого и физического ИИ
Системы краевого и физического ИИ должны работать в условиях жестких ограничений по энергопотреблению, тепловыделению, памяти и вычислительной мощности. Они также требуют детерминированной задержки и высокой надежности во всем конвейере, а не только в ускорителях ИИ. В самых разных приложениях — от передовых систем помощи водителю и автономной робототехники до медицинской визуализации — от ИИ-систем все чаще ожидают обработки нескольких потоков данных с датчиков, выполнения инференса в реальном времени и выдачи практических результатов в сложных рабочих средах. В физическом ИИ восприятие по замкнутому циклу, обработка и действия добавляют еще большую сложность системе. Успех, следовательно, зависит не от производительности отдельного вычислительного элемента, а от того, насколько эффективно весь конвейер ИИ работает как единая система. Кроме того, длительные жизненные циклы развертывания требуют, чтобы такие системы адаптировались к развивающимся датчикам, интерфейсам и нагрузкам ИИ без дорогостоящей модернизации. В совокупности эти требования обусловливают потребность в тесно интегрированных платформах, которые обеспечивают стабильную, предсказуемую производительность во всем конвейере ИИ, сохраняя при этом гибкость для поддержки меняющихся требований приложений.
AMD Versal AI Edge Series Gen 2: гетерогенные вычисления для сквозного ускорения на одном кристалле
Созданная специально для краевого и физического ИИ, серия Versal AI Edge Series Gen 2 отвечает этим требованиям, объединяя гетерогенные вычисления в одной адаптивной SoC и сопоставляя каждый этап конвейера ИИ с вычислительным движком, наиболее подходящим для данной задачи.
- Программируемая логика управляет подключением датчиков, гибкими вводами-выводами и предварительной обработкой в реальном времени.
- ИИ-движки (AI Engines) обеспечивают энергоэффективный высокопроизводительный инференс без использования ресурсов программируемой логики.
- Высокопроизводительные скалярные вычисления поддерживают постобработку и принятие решений в реальном времени.
- Аппаратные IP-блоки (ISP, GPU) помогают повысить эффективность и высвободить больше программируемой логики для дифференциации.
- Интеграция на одном кристалле уменьшает занимаемое системой пространство, накладные расходы на связь и тепловую нагрузку.
- Встроенная функциональная безопасность и масштабируемость портфолио поддерживают долгосрочные реальные развертывания.
В совокупности эти возможности кремния обеспечивают универсальную основу для ускорения каждого этапа встроенного конвейера ИИ. Однако для полного раскрытия их системных преимуществ требуется единый программный стек, который дополняет архитектуру и координирует рабочие нагрузки в ней. Именно здесь Vitis AI играет важнейшую роль.
AMD Vitis AI: готовый к производству инференс для устройств Versal AI Edge Series Gen 2
Vitis AI предоставляет единую среду для реализации полных конвейеров ИИ на базе Versal AI Edge Series Gen 2, помогая ускорить вывод продуктов на рынок и обеспечивая гибкие конфигурации развертывания. Разработчики могут объединять оптимизированный инференс ИИ с предварительной обработкой, ускоряемой программируемой логикой, одновременно эффективно распределяя ресурсы устройства между параллельными рабочими нагрузками. Узнайте больше о том, как Vitis AI органично интегрирует инференс в конвейеры краевого ИИ здесь.
Vitis AI 6.2, выпущенный ранее в этом году, закладывает готовую к развертыванию программную основу, помогая разработчикам переходить от оценки к практическому развертыванию. Он представляет встроенную поддержку современных моделей ИИ, включая сверточные нейросети и визуальные трансформеры (ViT), а также реализации в форматах INT8, BF16, FP16 и смешанной точности. Такая гибкость позволяет разработчикам выбирать компромиссы между производительностью и точностью, наиболее подходящие для их приложений.
Производительность с несколькими камерами за счет секционирования массивов ИИ-движков
Одной из ключевых особенностей Vitis AI является возможность назначения отдельных вычислительных процессов физическим разделам массива ИИ-движков. Эта функция предоставляет разработчикам возможности для оптимизации задержки, пропускной способности и энергопотребления. Чтобы продемонстрировать системные преимущества, Versal AI Edge Series Gen 2 была протестирована с использованием рабочей нагрузки обнаружения и классификации объектов с нескольких камер, которая объединяла обработку видео в реальном времени, инференс ИИ и принятие решений на одном устройстве.
В этом репрезентативном сценарии развертывания устройство 2VE3858 обрабатывало четыре одновременных потока с камер 1080p, выполняя обнаружение объектов с помощью модели YOLOv8m. Программируемая логика и аппаратные IP-блоки обработки изображений ускоряли подключение датчиков и предварительную обработку, массив ИИ-движков выполнял инференс, а встроенная процессорная система Arm® отвечала за постобработку и принятие решений. Массив ИИ-движков в устройстве 2VE3858 представляет собой высокопроизводительный ускоритель инференса, способный поддерживать совокупную пропускную способность 300 кадров/с в режиме пакета 4. Для этого приложения целевая пропускная способность системы была установлена на уровне 30 кадров/с на поток в соответствии с частотой кадров камеры, что дало совокупную цель в 120 кадров/с. За счет использования гибкости распределения ресурсов, обеспечиваемой физическим секционированием, целевой показатель инференса YOLOv8m для четырех потоков с камер был достигнут с использованием только 64 из 144 плиток ИИ-движков, что освободило оставшиеся плитки для других вычислительных потребностей или просто для снижения энергопотребления системы.
Далее: Vitis AI 6.3
Vitis AI 6.3, выпускаемый вскоре после публикации этого блога, развивает успех версии 6.2 за счет повышения производительности, удобства использования и оптимизации развертывания. Новые рабочие процессы на базе агентов помогают автоматизировать разработку пользовательских операторов и предоставляют рекомендации по квантованию и смешанной точности, в то время как улучшения производительности для сверточных нейросетей и трансформеров еще больше повышают эффективность инференса. Дополнительная поддержка устройств в портфолио Versal AI Edge Series Gen 2 и расширенные возможности AI Analyzer, включая более глубокую аналитику рабочих нагрузок и встроенный чат-бот, еще больше упрощают разработку, анализ производительности и оптимизацию систем.
Начните проектирование инференса на базе Versal AI Edge Series Gen 2 уже сегодня
- Загрузите последний выпуск Vitis AI и оцените производительность поддерживаемых моделей машинного обучения «из коробки».
- Компилируйте и оптимизируйте пользовательские модели с помощью доступных руководств и примеров конструкций.
- Создавайте пользовательские решения на базе ИИ: интегрируйте свою модель ML в конвейер ИИ с помощью инструментов, соответствующих экосистеме, включая ONNX Runtime и плагины GStreamer, доступные через VVAS. Сократите время вывода на рынок за счет использования готовых навыков ИИ.
- Интегрируйте свою модель ML в конвейер ИИ с помощью инструментов, соответствующих экосистеме, включая ONNX Runtime и плагины GStreamer, доступные через VVAS.
- Сократите время вывода на рынок за счет использования готовых навыков ИИ.
- Заказывайте платы VEK385 для прототипирования и разработки собственных проектов и создавайте полные конвейеры от датчика до вывода с использованием привычных фреймворков.
- Выбирайте устройство Versal AI Edge Series Gen 2, которое наилучшим образом соответствует требованиям вашего приложения, с помощью AMD Vivado™ 2026.1. Загрузите новейшие инструменты Vivado здесь.