ИИ-агенты становятся частью повседневной работы людей. Перенос их на ПК требует не просто мощных моделей, а слаженной работы аппаратного и программного обеспечения.
Компания AMD и Unsloth объединили усилия, чтобы внедрить поддержку NPU в Unsloth Desktop, сделав NPU на базе архитектуры AMD XDNA™ 2 первыми в мире нейропроцессорами, поддерживаемыми этим приложением. Благодаря интеграции с Lemonade и FastFlowLM (FLM), это сотрудничество связывает экосистему пользователей Unsloth с выделенным ускорением на базе NPU.
Это новый способ заставить NPU работать: выполнение инференса агентов локально, эффективно и через привычные приложения.
Один NPU от AMD. Более 100 агентских приложений
Влияние этого шага выходит за рамки одного приложения. Благодаря API Unsloth Desktop, предлагающему совместимую с OpenAI конечную точку для совместимых приложений, интеграция открывает двери для более чем 100 агентских приложений и рабочих процессов.
Такие инструменты, как Hermes Agent, OpenClaw, Open WebUI, Cline, OMP и VS Code, иллюстрируют масштаб этой экосистемы — от помощи в написании кода до связанных рабочих процессов агентов. Приложения получают доступ к локальному инференсу моделей через API Unsloth Desktop, в то время как Lemonade и FLM управляют обслуживанием и путем инференса для NPU AMD XDNA™ 2.
Совместно AMD и Unsloth расширяют возможности разработчиков по развертыванию рабочих нагрузок агентов и способы взаимодействия пользователей с локальным ИИ.
Работайте с агентами без розетки
По мере того как агенты берут на себя все больше задач, энергоэффективность выполнения становится критически важной.
NPU AMD XDNA™ 2 разработаны для энергоэффективного ИИ-инференса. Перенос поддерживаемых рабочих нагрузок инференса на этот специализированный процессор помогает продлить срок службы батареи и оставить ресурсы ЦП и ГП свободными для других приложений (при достаточном объеме памяти).
Для пользователей это означает основу для работы с агентами, которая соответствует их стилю использования ПК, в том числе при работе без подключения к сети и с максимальной автономностью батареи. Для разработчиков это создает дополнительную опцию выполнения для внедрения локального ИИ в повседневные рабочие процессы, обеспечивая работу низковольтных постоянных агентов.
Как запустить Unsloth Desktop на NPU AMD XDNA™ 2
1. На устройстве AMD с NPU XDNA™ 2 загрузите Unsloth Desktop для Windows и установите его.
2. Перейдите на страницу каталога моделей, нажмите на значок фильтра и выберите NPU из выпадающего списка.
3. Нажмите «Включить NPU» (Enable NPU).
4. Загрузите модель для NPU, которую хотите запустить. Примечание: разные модели предъявляют разные требования к памяти. Например, модель Qwen 3.6 35B A3B с полным контекстом требует около 28 ГБ памяти, доступной для NPU. При использовании стандартного для Windows 50%-го совместного выделения памяти это означает, что вашей системе требуется 64 ГБ системной оперативной памяти.
5. Дождитесь завершения загрузки (если кажется, что процесс завис — это не так), затем вернитесь в раздел New Chat, прокрутите выпадающее меню до раздела «NPU», загрузите модель с нужным контекстом, и теперь вы выполняете инференс на NPU!
Демонстрация в реальном времени: 35B MoE на NPU AMD XDNA™ 2
Демонстрация показывает эту интеграцию в действии: модель смеси экспертов (MoE) Qwen3.6 с 35 миллиардами параметров в общей сложности выполняет локальный инференс через Unsloth Desktop и FLM на NPU AMD.
Это наглядно демонстрирует суть сотрудничества: доступный пользовательский опыт Unsloth в сочетании с NPU AMD.
Работая на уровне аппаратного обеспечения, ПО для инференса и экосистемы приложений, AMD и Unsloth делают ускорение на базе NPU полезным для еще большего числа разработчиков и пользователей.
Больше приложений. Эффективный локальный инференс. Новые возможности для агентского ИИ на ПК.











