Оптимизация крупномасштабного обучения и выводов на графических процессорах AMD Instinct™
Протестируйте AMD ROCm™ для программирования графических процессоров с открытым исходным кодом с помощью PyTorch и других ведущих фреймворков. Находите примеры блокнотов, руководства, проекты с открытым исходным кодом, документацию и многое другое.
Запуск демонстрационных рабочих нагрузок ИИ
Попробуйте программный стек ROCm для сценариев использования ИИ в облаках и центрах обработки данных.
Получите доступ к графическим процессорам AMD
Хотите мгновенно протестировать ROCm на графических процессорах AMD Instinct?
Присоединяйтесь к программе для разработчиков ИИ AMD, чтобы получить 100 долларов в виде бесплатных кредитов для AMD Developer Cloud — мощной вычислительной платформы с графическими процессорами AMD Instinct, предварительно установленными контейнерами Docker и отсутствием необходимости настройки.
Учебные ресурсы
Изучайте дополнительные темы, чтобы найти актуальные учебные материалы, которые помогут вам быть в курсе последних технологических достижений AMD.
Технические блоги
Найдите примеры реализации, советы и обновления для разработчиков ИИ от разработчиков ИИ.
Документация
Узнайте об инструментах, компиляторах, средах выполнения ROCm, а также об отладке, развертывании и оркестрации на графических процессорах AMD Instinct.
Проекты с открытым исходным кодом
Откройте для себя поддерживаемые AMD инструменты с открытым исходным кодом для анализа, оптимизации и развертывания моделей ИИ.
Присоединяйтесь к программе для разработчиков ИИ AMD
Получите доступ к облачным кредитам, общайтесь с инженерами AMD, получайте ранние приглашения на мероприятия, возможности признания, участвуйте в розыгрышах призов только для участников, публикуйте технический контент и открывайте эксклюзивные тренинги и семинары
Присоединяйтесь к академии искусственного интеллекта AMD
Академия искусственного интеллекта AMD предлагает курсы самообучения под руководством экспертов для разработчиков ИИ, специалистов по корпоративному ИИ и разработчиков ядер.
Другие форумы
Часто задаваемые вопросы
ROCm поддерживает более десятка дистрибутивов Linux для вычислительных нагрузок на отдельных графических процессорах AMD Instinct и AMD Radeon. В настоящее время поддерживаемые дистрибутивы Linux для ROCm перечислены в документе о системных требованиях.
Последующие выпуски ROCm продемонстрировали значительный прирост производительности. Посетите страницу результатов производительности, чтобы получить ориентир для оценки производительности графических процессоров AMD Instinct с программным обеспечением ROCm при запуске популярных моделей ИИ для выводов (например, vLLM, xDiT) и обучения (например, PyTorch, Megatron-LM и JAX MaxText).
AMD регулярно выпускает официальные Docker-образы ROCm PyTorch вместе с новыми выпусками ROCm. Эти образы проходят полное тестирование AMD. Ознакомьтесь с обзором, поддерживаемыми модулями и ключевыми библиотеками в документе о совместимости PyTorch, а также найдите инструкции и материалы для скачивания Docker-образа или пакета wheels в руководстве по установке PyTorch в среде ROCm.
Вы можете оптимизировать свою систему, настроив графические процессоры AMD под свои рабочие нагрузки, чтобы задействовать весь их потенциал.
Вы также можете использовать инструменты ROCm для повышения производительности моделей ИИ и ускорения этапа выводов при выполнении рабочих нагрузок ИИ. Квантование и прунинг предобученных моделей, оптимизация вычислительных ядер и использование ускоренных библиотек — это методы оптимизации выводов. Начните работу с документа по оптимизации выводов ROCm.
Присоединяйтесь к программе для разработчиков ИИ
Получите доступ к бесплатным кредитам AMD Developer Cloud, эксклюзивным тренингам, ежемесячным розыгрышам графических процессоров AMD и поддержке сообщества, призванной помочь в вашей работе по разработке ИИ.
