Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Amd x unsloth zapusk pervogo v mire npu dlya unsloth desktop
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

AMD x Unsloth: Запуск первого в мире NPU для Unsloth Desktop

Источник: AMD•20 ноября 2026 г. в 00:04

AMD x Unsloth: Запуск первого в мире NPU для Unsloth Desktop

AMD XDNA™ 2 впервые в мире обеспечивает поддержку NPU для Unsloth Desktop. Откройте более 100 агентских приложений с локальным ИИ-инференсом на базе Lemonade и FLM.

ИИ-агенты становятся частью повседневной работы людей. Перенос их на ПК требует не просто мощных моделей, а слаженной работы аппаратного и программного обеспечения.

Компания AMD и Unsloth объединили усилия, чтобы внедрить поддержку NPU в Unsloth Desktop, сделав NPU на базе архитектуры AMD XDNA™ 2 первыми в мире нейропроцессорами, поддерживаемыми этим приложением. Благодаря интеграции с Lemonade и FastFlowLM (FLM), это сотрудничество связывает экосистему пользователей Unsloth с выделенным ускорением на базе NPU.

Это новый способ заставить NPU работать: выполнение инференса агентов локально, эффективно и через привычные приложения.

Один NPU от AMD. Более 100 агентских приложений

Влияние этого шага выходит за рамки одного приложения. Благодаря API Unsloth Desktop, предлагающему совместимую с OpenAI конечную точку для совместимых приложений, интеграция открывает двери для более чем 100 агентских приложений и рабочих процессов.

Такие инструменты, как Hermes Agent, OpenClaw, Open WebUI, Cline, OMP и VS Code, иллюстрируют масштаб этой экосистемы — от помощи в написании кода до связанных рабочих процессов агентов. Приложения получают доступ к локальному инференсу моделей через API Unsloth Desktop, в то время как Lemonade и FLM управляют обслуживанием и путем инференса для NPU AMD XDNA™ 2.

Совместно AMD и Unsloth расширяют возможности разработчиков по развертыванию рабочих нагрузок агентов и способы взаимодействия пользователей с локальным ИИ.

Работайте с агентами без розетки

По мере того как агенты берут на себя все больше задач, энергоэффективность выполнения становится критически важной.

NPU AMD XDNA™ 2 разработаны для энергоэффективного ИИ-инференса. Перенос поддерживаемых рабочих нагрузок инференса на этот специализированный процессор помогает продлить срок службы батареи и оставить ресурсы ЦП и ГП свободными для других приложений (при достаточном объеме памяти).

Для пользователей это означает основу для работы с агентами, которая соответствует их стилю использования ПК, в том числе при работе без подключения к сети и с максимальной автономностью батареи. Для разработчиков это создает дополнительную опцию выполнения для внедрения локального ИИ в повседневные рабочие процессы, обеспечивая работу низковольтных постоянных агентов.

Как запустить Unsloth Desktop на NPU AMD XDNA™ 2

1. На устройстве AMD с NPU XDNA™ 2 загрузите Unsloth Desktop для Windows и установите его.

2. Перейдите на страницу каталога моделей, нажмите на значок фильтра и выберите NPU из выпадающего списка.

3. Нажмите «Включить NPU» (Enable NPU).

4. Загрузите модель для NPU, которую хотите запустить. Примечание: разные модели предъявляют разные требования к памяти. Например, модель Qwen 3.6 35B A3B с полным контекстом требует около 28 ГБ памяти, доступной для NPU. При использовании стандартного для Windows 50%-го совместного выделения памяти это означает, что вашей системе требуется 64 ГБ системной оперативной памяти.

5. Дождитесь завершения загрузки (если кажется, что процесс завис — это не так), затем вернитесь в раздел New Chat, прокрутите выпадающее меню до раздела «NPU», загрузите модель с нужным контекстом, и теперь вы выполняете инференс на NPU!

Демонстрация в реальном времени: 35B MoE на NPU AMD XDNA™ 2

Демонстрация показывает эту интеграцию в действии: модель смеси экспертов (MoE) Qwen3.6 с 35 миллиардами параметров в общей сложности выполняет локальный инференс через Unsloth Desktop и FLM на NPU AMD.

Это наглядно демонстрирует суть сотрудничества: доступный пользовательский опыт Unsloth в сочетании с NPU AMD.

Работая на уровне аппаратного обеспечения, ПО для инференса и экосистемы приложений, AMD и Unsloth делают ускорение на базе NPU полезным для еще большего числа разработчиков и пользователей.

Больше приложений. Эффективный локальный инференс. Новые возможности для агентского ИИ на ПК.

← Все статьи

О чём эта статья

Ещё в разделе «Hardware и электроника»

Все →
«Создание будущей экосистемы искусственного интеллекта на основе памяти»: SK hynix представила свое технологическое видение на конференции Supercomputing 2026
SK hynix

«Создание будущей экосистемы искусственного интеллекта на основе памяти»: SK hynix представила свое технологическое видение на конференции Supercomputing 2026

MSI представляет инфраструктуру искусственного интеллекта следующего поколения и решения NVIDIA MGX на выставке SC26
MSI

MSI представляет инфраструктуру искусственного интеллекта следующего поколения и решения NVIDIA MGX на выставке SC26

Nokia поддерживает коридор EMEA-R компании CMC Networks, соединяя ключевые хабы в Европе, на Ближнем Востоке и в Африке
Nokia

Nokia поддерживает коридор EMEA-R компании CMC Networks, соединяя ключевые хабы в Европе, на Ближнем Востоке и в Африке

Генеральный директор Lumentum защищает сделку с Marvell после падения акций: «Нам предстоит поработать» с акционерамиПресса
Marvell

Генеральный директор Lumentum защищает сделку с Marvell после падения акций: «Нам предстоит поработать» с акционерами

Новое устройство Muse Charm от Meta может стоить 300 долларовПресса
Meta

Новое устройство Muse Charm от Meta может стоить 300 долларов

AOCL 6.0, оптимизированный для процессоров AMD EPYC
AMD

AOCL 6.0, оптимизированный для процессоров AMD EPYC

Ещё от AMD

AOCL 6.0, оптимизированный для процессоров AMD EPYC
AMD

AOCL 6.0, оптимизированный для процессоров AMD EPYC

Создание классического фундамента для отказоустойчивых квантовых вычислений
AMD

Создание классического фундамента для отказоустойчивых квантовых вычислений

Ускорение исследований в области квантовой коррекции ошибок с помощью Pelagos и AMD
AMD

Ускорение исследований в области квантовой коррекции ошибок с помощью Pelagos и AMD

AMD внедряет агентный ИИ в суперкомпьютерные вычисления с помощью Open-Source AMD HPC Assistant, дебютирующего на LUMI и Frontier
AMD

AMD внедряет агентный ИИ в суперкомпьютерные вычисления с помощью Open-Source AMD HPC Assistant, дебютирующего на LUMI и Frontier

Больше ИИ. Больше контроля. AMD Instinct MI350P приходит в Windows Server.
AMD

Больше ИИ. Больше контроля. AMD Instinct MI350P приходит в Windows Server.

Технология AMD AI NIC: сетевые адаптеры AMD AI NIC теперь поддерживают HPC для ускорения научных исследований с помощью ИИ
AMD

Технология AMD AI NIC: сетевые адаптеры AMD AI NIC теперь поддерживают HPC для ускорения научных исследований с помощью ИИ