Некоторые из наиболее ценных задач, которые пользователи поручают ИИ-агентам, связаны с данными, которые они предпочли бы хранить на собственных устройствах. Будь то закрытые кодовые базы или конфиденциальные материалы, локальные модели становятся достаточно мощными, чтобы работать с ними прямо на месте.
Сегодня мы запускаем Portable Computer — версию Perplexity Computer, которая полностью работает на локальном устройстве. Мы создали ее совместно с NVIDIA, чтобы пользователи могли владеть всем стеком на NVIDIA DGX Spark™, настольном ИИ-компьютере от NVIDIA. Вскоре он также станет доступен на ПК с графическими процессорами NVIDIA RTX.
Portable Computer позволяет пользователям запускать Perplexity Computer полностью на своем устройстве, анализируя данные, синтезируя файлы и выполняя сложные рабочие процессы. Конфиденциальные данные остаются локальными, а работа на устройстве не расходует кредиты. Когда пользователь дает разрешение, локальная модель может обратиться к облаку для более глубокого исследования и рассуждения, при этом сохраняя чувствительную информацию на устройстве.
Локальный ИИ-стек
Portable Computer выходит в то время, когда пользователи стремятся получить больше отдачи от своих вычислительных мощностей, балансируя между производительностью и эффективностью. Благодаря тому, что впервые на их собственных компьютерах доступна мощность, сопоставимая с передовыми решениями, людям больше не нужно ограничивать себя в использовании интеллектуальных инструментов.
Portable Computer работает на NVIDIA DGX Spark с моделью Qwen 3.8 27B или PPLX 27B — дообученной версией модели Qwen. NVIDIA Nemotron 3.5 Lightning, открытая модель с 30 млрд параметров, скоро появится в списке доступных моделей. Оркестратор, планировщик, маршрутизатор инструментов, планировщик задач, очередь долгосрочных задач и локальный поисковый индекс — все это работает на устройстве.
Модель Qwen дообучена так, чтобы выполнять как можно больше задач локально и обращаться к облаку только тогда, когда это необходимо. Она читает локальные файлы, выполняет поиск по документам и коду, совершает действия на устройстве и поддерживает выполнение задач.
Владение вычислительными мощностями делает выполнение высоконагруженных ИИ-задач практичным, поскольку работа, выполняемая локальными моделями, не требует оплаты за каждый кредит.
Обращение к облаку
Portable Computer справляется с большинством задач, которые пользователю необходимо выполнять локально. Однако некоторые задания выигрывают от доступа к сети или передовым облачным вычислительным мощностям. Пользователь может захотеть, чтобы конфиденциальные детали договора оставались локальными, но при этом обратиться к облаку, чтобы получить актуальные рыночные сравнения или недавние прецедентные сделки.
Локальный оркестратор Portable Computer может передать задачу в облако для получения актуальной информации, использования браузера, подключения приложений или обращения к одной из более чем 15 передовых моделей для сложных рассуждений.
Благодаря коннекторам приложений Portable Computer работает с Google Drive, Gmail, Slack и GitHub. Пользователь может отсортировать новые задачи в GitHub по сравнению с ночными отчетами об ошибках в Gmail прямо на устройстве, а затем утром отправить сообщение в Slack о трех главных проблемах с предложенными ответственными лицами.
Когда для выполнения задачи необходимо отправить контент с устройства в облачный сервис, Portable Computer запрашивает разрешение у пользователя перед тем, как продолжить.
Поиск и диктовка
Локальная модель знает только то, что находится на машине. Когда для задачи требуется внешний мир, Portable Computer также может использовать поиск Perplexity или проводить обширные и глубокие исследования. Пользователи получают результаты с ссылками на источники из интернета, не отказываясь при этом от локального выполнения всех остальных процессов.
Режим диктовки также работает локально с использованием модели NVIDIA Nemotron 3.5 ASR. Пользователи могут давать указания агенту, читая документ или делая наброски на бумаге. Транскрипция и действия с файлами остаются на устройстве. Пользователь может обсудить ситуацию с клиентом или продиктовать текст по закрытой кодовой базе, не опасаясь, что аудио попадет в облако.
Безопасность соответствует облачной версии Perplexity Computer. Выполнение кода и инструментов происходит в изолированных «песочницах» с контролируемым доступом к файлам и подключенным приложениям.
Сегодня — только начало локального ИИ
По мере того как модели становятся мощнее, а чипы — быстрее, все больше людей будут запускать сложные рабочие процессы на своих собственных машинах. Каждый цикл обновления чипов и каждый выпуск новых моделей продвигают это развитие вперед. Запуск ИИ на персональных компьютерах станет гораздо более важной частью того, как выполняется работа.
Portable Computer доступен для подписчиков Pro и Max на NVIDIA DGX Spark. Первый релиз доступен на Linux, поддержка Windows появится в ближайшее время.
NVIDIA DGX Spark построен на платформе Grace Blackwell GB10: 20-ядерный процессор Arm и графический процессор NVIDIA со 128 ГБ объединенной памяти. Portable Computer можно установить в один клик через приложение Perplexity.
Подробнее о запуске читайте в блоге NVIDIA Local AI. Наш исследовательский блог «Локальный агент для частной и экономически эффективной интеллектуальной работы» подробно описывает разработку Portable Computer и его превосходство в тестах по точности, скорости и эффективности использования кредитов.
Попробуйте Portable Computer уже сегодня.