Локальный ИИ становится все более полезным с каждым токеном.
По мере того как ИИ-агенты переходят от экспериментов к повседневной разработке, все более функциональные открытые модели уменьшаются в размерах, чтобы помещаться на большем количестве устройств, предоставляя разработчикам больше возможностей для локального запуска.
В этом месяце NVIDIA DGX Spark станет доступен с 64 ГБ объединенной памяти от ведущих партнеров-производителей — Acer, ASUS, Dell, Gigabyte, HP и MSI. Это предоставит разработчикам, исследователям и энтузиастам ИИ новую конфигурацию с предустановленной ОС DGX и программным стеком NVIDIA AI, готовыми к работе с первого дня.
Новый SKU позволяет запускать мощные локальные агенты прямо на устройстве — конфиденциально и без зависимости от облака. А когда рабочие нагрузки возрастают, два устройства можно объединить в кластер с помощью NVIDIA Sync Cluster Assistant без какой-либо дополнительной настройки.
Новая отправная точка для персональных ИИ-суперкомпьютеров
DGX Spark сочетает в себе вычислительные мощности NVIDIA Grace Blackwell, объединенную память и NVIDIA ConnectX-7 networking NVIDIA CUDA-ускоренный программный стек ИИ в одной системе. Это полноценная локальная ИИ-платформа для агентов, инференса, дообучения, анализа данных и разработки на периферии.
Компактный персональный ИИ-суперкомпьютер предоставляет пространство для экспериментов с моделями и собственными данными разработчиков, избавляя от необходимости обращаться к облачным инстансам для каждой задачи.
Новая конфигурация на 64 ГБ, доступная эксклюзивно у партнеров-производителей, сохраняет доступную цену платформы, при этом включая суперчип GB10 Grace Blackwell, ОС DGX и полный программный стек NVIDIA AI — так же, как и в модели на 128 ГБ. Она поддерживает работу с моделями до 100 миллиардов параметров и агентными приложениями на их основе, полностью на устройстве.
Два объединенных в кластер устройства по 64 ГБ не просто удваивают объем памяти. В тесте NVIDIA Qwen 3.8 27B две кластеризованные системы по 64 ГБ обеспечили до 1,7-кратного прироста производительности по сравнению с одной системой, с возможностью дальнейшего масштабирования по мере роста нагрузок.
DGX Spark поставляется готовым к разработке агентов с первого дня — NVIDIA Agent Toolkit, библиотеки CUDA-X AI, открытые модели Nemotron и популярные среды выполнения, такие как Ollama, vLLM и PyTorch с поддержкой CUDA, поддерживаются «из коробки». Разработчики могут начать запуск моделей через несколько минут после включения питания.
Blender стал одним из первых крупных приложений для создателей контента, поддерживающих платформу, а готовый загружаемый установщик появится в ближайшее время.
Масштабирование с помощью NVIDIA Sync Cluster Assistant
Разработчики могут начать с того объема памяти, который необходим их проектам сегодня, и строить работу на платформе, разработанной для беспрепятственного масштабирования многоузловых кластеров для более крупных рабочих нагрузок по мере развития их конвейеров.
Каждый DGX Spark поставляется со встроенным сетевым адаптером NVIDIA ConnectX-7. Кроме того, два устройства можно соединить напрямую кабелем QSFP, объединив их память до 128 ГБ и расширив поддержку моделей до 200 миллиардов параметров, обеспечивая при этом двойную пропускную способность памяти и до 1,7-кратный прирост производительности.
Приложение NVIDIA Sync легко настраивает этот многоузловой кластер. Функция помощника кластера обнаруживает подключенные устройства, проверяет конфигурацию и настраивает сеть ConnectX-7, чтобы разработчики могли сосредоточиться на работе, а не на инфраструктуре. Каждый узел работает на одном и том же программном стеке NVIDIA, поэтому при масштабировании с одного устройства до двух ничего не нужно перенастраивать.
А в конце месяца появится NVIDIA Sync Model Launcher, который сделает запуск локального ИИ таким же простым, как нажатие нескольких кнопок. Разработчики смогут загружать и запускать Qwen3.8 27B на одной системе DGX Spark или кластере, при этом NVIDIA Sync настроит модель для работы на подключенных устройствах и сделает ее доступной с ноутбуков пользователей. Лаунчер также настроит OpenCode для использования модели, чтобы разработчики могли начать программировать прямо в браузере.
Варианты использования DGX Spark разработчиками
Новая конфигурация DGX Spark 64GB поддерживает практическую работу с первого дня. Благодаря возможности запуска моделей до 100 миллиардов параметров полностью на устройстве, разработчики и энтузиасты могут начать с одной системы для моделей, которые помещаются в ее память, или подключить несколько систем DGX Spark с помощью NVIDIA Sync Cluster Assistant для рабочих нагрузок, требующих больше памяти и вычислительных мощностей.
Вот три примера рабочих процессов:
- Круглосуточная работа ИИ-агента: держите агента для написания кода или исследований запущенным на DGX Spark, готовым проверять код, анализировать документы или выполнять многоэтапные задачи. Кластер обеспечивает дополнительную емкость для более крупных моделей, более длинных контекстных окон или нескольких агентов, работающих одновременно.
- Работа ИИ-приложений на вашем обычном ПК: запускайте модель генерации текста или изображений на DGX Spark, используя агента или творческое приложение на ноутбуке или настольном компьютере. DGX Spark берет на себя инференс модели, освобождая ресурсы ПК для других задач.
- Масштабирование по мере роста задач: когда задача перерастает возможности одного устройства — при запуске более крупной модели, использовании более длинного контекстного окна или одновременных запросах к агенту — две системы DGX Spark 64GB, соединенные через 200 GbE-фабрику с помощью NVIDIA Sync Cluster Assistant, объединяют свою память до 128 ГБ. Тот же рабочий процесс, который выполнялся на одном устройстве, масштабируется до двух без перенастройки программной среды.
Начало работы с DGX Spark
DGX Spark 64GB будет доступен у Acer, ASUS, Dell, Gigabyte, HP и MSI в пятницу, 23 октября, по цене от 4999 долларов.
Чтобы начать работу:
- Загрузите поддерживаемую среду инференса — llama.cpp, Ollama, vLLM или LM Studio.
- Загрузите рекомендуемую локальную модель для вашего рабочего процесса.
- Для масштабирования до двух устройств соедините их через порты NVIDIA ConnectX-7 и запустите NVIDIA Sync Cluster Assistant — он автоматически настроит сеть и распределит рабочие нагрузки.
Для ознакомления с руководствами по агентному ИИ на DGX Spark посетите страницы the NemoClaw, OpenClaw, Hermes Agent и OpenShell на сайте build.nvidia.com.
#ICYMI: Больше обновлений по локальному ИИ от NVIDIA
Изучите руководства на build.nvidia.com/spark для DGX Spark. Следующие руководства скоро появятся для устройств на 64 ГБ:
- Обслуживание LLM с помощью vLLM
- Запуск OpenClaw с локальной LLM
- Подключение нескольких DGX Spark для распределенных рабочих нагрузок
Новые ПК на Windows с поддержкой NVIDIA RTX Spark появятся в этом месяце от Acer, ASUS, Dell, HP, Lenovo, Microsoft и MSI. Подпишитесь на новостную рассылку RTX Spark, чтобы получать будущие обновления.
Модель Qwen-Image-2.1 от Alibaba объединяет генерацию и редактирование изображений в легкой модели с открытыми весами. Она работает локально на графических процессорах NVIDIA RTX, DGX Spark и DGX Station, предоставляя создателям больше способов создавать и дорабатывать изображения на собственном оборудовании.
Следите за NVIDIA RTX Spark в X, Instagram, TikTok и Facebook — и будьте в курсе событий, подписавшись на новостную рассылку NVIDIA Local AI. Следите за NVIDIA Workstation в LinkedIn и X.
См. notice касательно информации о программных продуктах.
