Запускайте небольшие модели локально на графических процессорах AMD Radeon™
Попробуйте использовать AMD ROCm™ для программирования графических процессоров AMD Radeon. Найдите примеры руководств, инструменты для локальной разработки ИИ, учебные материалы, проекты с открытым исходным кодом, документацию и многое другое.
Установка ROCm:
Запуск примеров локальных рабочих нагрузок ИИ
Опробуйте программный стек ROCm для сценариев использования краевого ИИ.
Начало работы с Ollama
Запускайте большие языковые модели локально с помощью Ollama и начните общение через терминал, настольное приложение или REST API за считанные минуты.
Получите доступ к графическим процессорам AMD Radeon
Хотите протестировать программирование графических процессоров AMD Radeon с помощью ROCm?
Экспериментируйте с мощными графическими процессорами AMD Radeon для разработки локальных приложений ИИ в зависимости от вашего региона.
Учебные ресурсы
Изучите дополнительные темы, чтобы найти подходящие учебные материалы, которые помогут вам быть в курсе последних технологических достижений AMD.
Технические блоги
Найдите примеры реализации, советы и обновления для разработчиков ИИ от разработчиков ИИ.
Документация
Узнайте об инструментах, компиляторах, средах выполнения ROCm, а также об отладке, развертывании и оркестрации на графических процессорах AMD Instinct.
Сообщество и поддержка
Присоединяйтесь к программе для разработчиков AMD AI
Получите облачные кредиты, общайтесь с инженерами AMD, получайте ранние приглашения на мероприятия, возможности для признания, участвуйте в закрытых розыгрышах для участников, публикуйте технический контент и получайте доступ к эксклюзивным тренингам и воркшопам
Присоединяйтесь к AMD AI Academy
AMD AI Academy предлагает курсы самообучения под руководством экспертов для разработчиков ИИ, корпоративных ИИ-профессионалов и разработчиков ядер.
Часто задаваемые вопросы
Разработка локальных ИИ-приложений на графических процессорах идеальна, когда вам необходимы низкая задержка, реагентовка в реальном времени, контроль затрат или конфиденциальность данных без зависимости от облака. Программируя графические процессоры AMD Radeon с помощью ROCm, разработчики могут запускать ИИ-нагрузки локально для таких сценариев, как:
- Локальные большие языковые модели и ассистенты для генерации с дополненным извлечением (RAG), помощи в написании кода и конфиденциальных ИИ-приложений
- Творческие и медиа-рабочие процессы, такие как генерация изображений, улучшение видео и аудио, а также 3D-рендеринг
- Игры с поддержкой ИИ и графика в реальном времени
В последующих выпусках ROCm наблюдался значительный рост производительности. Посмотрите страницу результатов производительности, чтобы получить ориентир для оценки того, как графические процессоры AMD Instinct работают с ПО ROCm при запуске популярных ИИ-моделей для инференса (например, vLLM, xDiT) и обучения (например, PyTorch, Megatron-LM и JAX MaxText).
Графические процессоры AMD Radeon RX, Radeon PRO и Radeon AI Pro с поддержкой ROCm предлагают мощные возможности локальной тонкой настройки и инференса ИИ. PyTorch можно установить для ROCm на эти графические процессоры с помощью методов установки PIP (для Linux и Windows) или Docker (для Linux). Команда AMD ROCm активно участвует в разработке с открытым исходным кодом и тесно сотрудничает с организациями, создающими фреймворки, включая PyTorch.
