Великие платформы определяются не только кремнием, но и программной экосистемой, которая раскрывает их полный потенциал. Когда мы представили AMD Versal™ AI Edge Series Gen 2, нашей целью было переосмысление краевого и физического ИИ с помощью единой платформы ИИ, включающей предварительную обработку, вывод ИИ и постпроцессинг. Сегодня готовые к производству возможности Vitis™ AI, единого инструментария ИИ AMD для адаптивных SoC, воплощают это видение в жизнь. Поскольку все устройства Versal AI Edge Series Gen 2 запущены в производство, разработчики могут отказаться от многочиповой сложности в пользу истинного интеллекта на одном чипе на «краю» сети. Объединяя обработку данных с датчиков в реальном времени, энергоэффективный вывод ИИ и высокопроизводительные встроенные вычисления на одной платформе, Versal AI Edge Series Gen 2 упрощает проектирование систем, обеспечивая при этом высокую производительность и эффективность. В сочетании с Vitis AI эта разработка превращает концепцию «одночипового сквозного ускорения ИИ» в готовую к производству реальность, обеспечивая поддержку моделей, зрелость программного обеспечения и проверенную производительность вывода, необходимые для масштабного развертывания краевого и физического ИИ.
Там, где ограничения определяют инновации: задачи краевого и физического ИИ
Системы краевого и физического ИИ должны работать в условиях жестких ограничений по энергопотреблению, тепловыделению, памяти и вычислительной мощности. Они также требуют детерминированной задержки и высокой надежности на всем конвейере, а не только в ускорителях ИИ. В самых разных приложениях — от передовых систем помощи водителю и автономной робототехники до медицинской визуализации — от систем ИИ все чаще ожидается обработка нескольких потоков данных с датчиков, выполнение вывода ИИ в реальном времени и предоставление действенных аналитических данных в сложных рабочих средах. В физическом ИИ восприятие, обработка и действия по принципу замкнутого контура добавляют еще больше системной сложности. Таким образом, успех зависит не от производительности отдельного вычислительного элемента, а от того, насколько эффективно весь конвейер ИИ работает как единая система. Кроме того, долгий жизненный цикл развертывания требует от таких систем адаптации к развивающимся датчикам, интерфейсам и рабочим нагрузкам ИИ без дорогостоящей переработки. В совокупности эти требования обусловливают потребность в тесно интегрированных платформах, обеспечивающих стабильную, предсказуемую производительность во всем конвейере ИИ при сохранении гибкости для поддержки меняющихся требований приложений.
AMD Versal AI Edge Series Gen 2: гетерогенные вычисления для сквозного ускорения на одном кристалле
Созданная специально для краевого и физического ИИ, линейка Versal AI Edge Series Gen 2 отвечает этим требованиям, объединяя гетерогенные вычисления в единой адаптивной SoC и сопоставляя каждый этап конвейера ИИ с вычислительным движком, наиболее подходящим для конкретной задачи.
- Программируемая логика отвечает за подключение датчиков, гибкие интерфейсы ввода-вывода и предварительную обработку в реальном времени.
- Процессоры AI Engine обеспечивают энергоэффективный высокопроизводительный вывод без использования ресурсов программируемой логики.
- Высокопроизводительные скалярные вычисления поддерживают постпроцессинг и принятие решений, чувствительных ко времени.
- Аппаратные IP-блоки (ISP, GPU) помогают повысить эффективность и оставляют больше программируемой логики для дифференциации.
- Интеграция на одном кристалле уменьшает занимаемую площадь системы, накладные расходы на связь и тепловую нагрузку.
- Встроенная функциональная безопасность и масштабируемость портфолио поддерживают долгосрочное практическое развертывание.
В совокупности эти возможности кремния обеспечивают универсальную основу для ускорения каждого этапа встроенного конвейера ИИ. Однако для полного раскрытия их преимуществ на уровне системы требуется единый программный стек, который дополняет архитектуру и координирует рабочие нагрузки в ней. Именно здесь ключевую роль играет Vitis AI.
AMD Vitis AI: готовый к производству вывод для устройств Versal AI Edge Series Gen 2
Vitis AI предоставляет единую среду для реализации полных конвейеров ИИ на базе Versal AI Edge Series Gen 2, помогая ускорить вывод на рынок и поддерживая гибкие конфигурации развертывания. Разработчики могут объединять оптимизированный вывод ИИ с предварительной обработкой, ускоряемой программируемой логикой, одновременно эффективно распределяя ресурсы устройства между параллельными рабочими нагрузками. Узнайте больше о том, как Vitis AI органично интегрирует вывод в конвейеры краевого ИИ здесь.
Vitis AI 6.2, выпущенная ранее в этом году, создает готовую к развертыванию программную основу, помогая разработчикам перейти от этапа оценки к реальному внедрению. Она представляет готовую к использованию поддержку современных моделей ИИ, включая сверточные нейронные сети и визуальные трансформеры, а также реализацию в форматах INT8, BF16, FP16 и со смешанной точностью. Такая гибкость позволяет разработчикам выбирать компромиссы между производительностью и точностью, которые наилучшим образом подходят для их приложений.
Производительность с несколькими камерами за счет секционирования массивов AI Engine
Одной из ключевых возможностей Vitis AI является способность назначать отдельные вычислительные процессы физическим разделам массива AI Engine. Эта функция предоставляет проектировщикам возможности выбора при оптимизации задержки, пропускной способности и энергопотребления. Чтобы продемонстрировать системные преимущества, устройство Versal AI Edge Series Gen 2 было протестировано с использованием рабочей нагрузки обнаружения и классификации объектов с нескольких камер, которая объединяла обработку видео в реальном времени, вывод ИИ и принятие решений на одном устройстве.
В этом типичном сценарии развертывания устройство 2VE3858 обрабатывало четыре одновременных видеопотока 1080p с запущенным обнаружением объектов YOLOv8m. Программируемая логика и аппаратные IP-блоки обработки изображений ускоряли подключение датчиков и предварительную обработку, массив AI Engine выполнял вывод, а встроенная система обработки Arm® отвечала за последующую обработку и принятие решений. Массив AI Engine в устройстве 2VE3858 представляет собой высокопроизводительный ускоритель вывода, способный поддерживать совокупную пропускную способность 300 кадров/с в режиме пакетной обработки (batch 4). Для этого приложения целевая пропускная способность системы была установлена на уровне 30 кадров/с на поток в соответствии с частотой кадров камеры, что дало совокупную цель в 120 кадров/с. За счет использования гибкости распределения ресурсов, обеспечиваемой физическим секционированием, целевой показатель вывода YOLOv8m для четырех потоков с камер был достигнут с использованием только 64 из 144 плиток AI Engine, что освободило оставшиеся плитки для других вычислительных потребностей или просто для снижения энергопотребления системы.
Далее: Vitis AI 6.3
Vitis AI 6.3, выпускаемая вскоре после публикации этого блога, развивает успех версии 6.2, улучшая производительность, удобство использования и оптимизацию развертывания. Новые агентные рабочие процессы помогают автоматизировать разработку пользовательских операторов и предоставляют рекомендации по квантованию и смешанной точности, в то время как улучшения производительности для сверточных нейронных сетей и трансформеров зрения еще больше повышают эффективность вывода. Дополнительная поддержка устройств во всем портфолио Versal AI Edge Series Gen 2 и расширенные возможности AI Analyzer, включая более глубокий анализ рабочих нагрузок и встроенный чат-бот, еще больше упрощают разработку, анализ производительности и оптимизацию системы.
Начните проектирование вывода на базе Versal AI Edge Series Gen 2 уже сегодня
- Загрузите последнюю версию Vitis AI и оцените готовую производительность на поддерживаемых моделях машинного обучения.
- Компилируйте и оптимизируйте пользовательские модели, используя доступные руководства и примеры проектов.
- Создавайте специализированные ИИ-решения: интегрируйте свою модель машинного обучения в конвейер ИИ с помощью инструментов, совместимых с экосистемой, включая ONNX Runtime и плагины GStreamer, доступные через VVAS. Сократите время выхода на рынок за счет использования готовых ИИ-навыков (AI Skills).
- Интегрируйте свою модель машинного обучения в конвейер ИИ с помощью инструментов, совместимых с экосистемой, включая ONNX Runtime и плагины GStreamer, доступные через VVAS.
- Сократите время выхода на рынок за счет использования готовых ИИ-навыков (AI Skills).
- Заказывайте платы VEK385 для прототипирования и разработки ваших собственных проектов, а также создавайте полноценные конвейеры от обработки данных с датчиков до вывода результатов, используя привычные фреймворки.
- Выбирайте устройство серии Versal AI Edge Gen 2, которое наилучшим образом соответствует требованиям вашего приложения, с помощью AMD Vivado™ 2026.1. Скачайте новейшие инструменты Vivado здесь.
