Сегодня компания NVIDIA выпустила Nemotron 3.5 Super VL — открытую модель со 120 миллиардами параметров, которая обеспечивает максимально быстрое выполнение задач и высочайшую точность для специализированных постоянно активных агентов.
К ней присоединились две новые модели для периферийных вычислений: Nemotron 3.5 Bolt 74B-A9B 24GB, оптимизированная для баланса между интеллектуальными возможностями и скоростью на гигабайт для локальных агентных рабочих нагрузок, и Nemotron 3.5 Bolt E4B 4GB, оптимизированная по показателю интеллекта на гигабайт для быстрых разговорных агентов.
Модели Super VL и Bolt 74B-A9B уже доступны, а Bolt E4B выйдет 23 октября. Эти три открытые модели вместе покрывают весь спектр агентных развертываний: от крупных корпоративных серверов до периферийных устройств и локального оборудования.
Любая организация, желающая запускать агентов на инфраструктуре NVIDIA, теперь имеет открытую, оптимизированную модель для своего уровня, не выбирая между функциональностью и возможностью развертывания.
Super VL и Bolt присоединяются к семейству Nemotron наряду с Lightning и Ultra.
Lightning, выпущенная в августе, справляется с высоконагруженными задачами; Ultra решает самые сложные задачи на логический вывод, а Bolt привносит интеллект на периферию.
Nemotron 3.5 Super VL: передовая точность при размере в пять раз меньше
Модель Super VL, созданная в сотрудничестве с Nemotron Coalition, обеспечивает ведущую точность в мультимодальных агентных задачах — следовании инструкциям, использовании инструментов, многошаговых бизнес-процессах и визуальном понимании — сопоставимую с крупнейшей моделью NVIDIA для логического вывода при примерно в пять раз меньшем количестве параметров.
Будучи самой быстрой открытой агентной моделью в своем классе — в 5 раз быстрее ближайшего конкурента — она помогает корпоративным агентам быстрее выполнять задачи с большими объемами данных в рабочих процессах, длящихся днями или неделями.
В отличие от закрытых передовых моделей, организации могут дообучать Super VL на собственных данных, развертывать ее на собственной инфраструктуре и контролировать то, что они создают.
Nemotron 3.5 Bolt: агентный интеллект на периферии
Модель Bolt 74B-A9B 24GB разработана для выполнения повседневных агентных задач локально на NVIDIA RTX/DGX Spark с использованием нативной 2-битной квантованности, чтобы поместиться в 24 ГБ памяти и работать параллельно с другими приложениями.
По сравнению с другими моделями с аналогичным объемом памяти, она обеспечивает хороший баланс интеллекта и скорости: достаточно умна, чтобы выполнить большинство задач, но при этом намного быстрее самых интеллектуальных моделей.
С помощью Bolt 74B-A9B 24GB пользователи могут делегировать свои проекты популярным локальным агентным средам — от поиска в интернете до написания и отладки кода — и все это без отправки рабочих нагрузок в облако. Это открытая модель №1 в своем классе на PinchBench и открытая модель №2 для BrowseComp. Модель Bolt E4B 4GB создана для физических и разговорных агентов на базе GeForce RTX, Jetson и RTX/DGX Spark. Она сочетает естественное общение с многоходовыми агентными возможностями для обеспечения работы быстрых локальных голосовых помощников, интерактивных персонажей и встроенных интерфейсов.
Внедрение специализированного суперинтеллекта
Десятки организаций в различных отраслях дообучают Super VL на своих данных, инструментах, политиках и рабочих процессах, чтобы повысить точность в специализированных задачах, определяющих их агентные развертывания.
Super VL дообучается и адаптируется организациями по всему миру. Scale AI дообучила модель для агента по кредитному финансированию поставщиков Skydance и для агента по комплексной проверке сделок M&A в EY. AfterQuery адаптировала модель для Hebbia для анализа кредитных соглашений. AI21 и Alice дообучили модель для обеспечения устойчивости к кибератакам. Mercor дообучила модель на бенчмарке кодирования APEX-SWE для агентов-программистов, которые планируют, пишут и отлаживают код. ModelScope позволяет разработчикам донастраивать модель через свой фреймворк ms-swift для специализированных мультимодальных приложений.
Среди других организаций, адаптирующих Nemotron 3.5 Super VL: Ramp для анализа финансовых документов; Dream для суверенного ИИ-исследования кибербезопасности и анализа уязвимостей; Lila Sciences для научных открытий и поиска, а также R1 для анализа медицинских счетов и управления циклом доходов. TrainLoop дообучила модель на дерматологических данных от Nolla, которая только что стала первой компанией, получившей одобрение на использование ИИ для выписки первичных рецептов пациентам. Среди компаний-разработчиков программного обеспечения, интегрирующих Nemotron 3.5 Super VL:
- Atlassian — для таких задач, как агентный поиск в приложениях, таких как Jira и Confluence.
- CrowdStrike — которая адаптирует модель для агентного «красного» и «синего» тестирования в корпоративной безопасности.
- Dassault Systèmes — для поддержки инженерного проектирования и моделирования.
- Perplexity — для поиска и агентных задач в Perplexity Search и Computer.
- Salesforce — которая адаптирует Nemotron для работы ИИ-агентов, оцифровывающих и автоматизирующих сложные государственные рабочие процессы в защищенных клиентских средах через Missionforce Operations.
- Программное обеспечение Synopsys для верификации проектирования полупроводников взаимодействует с этой моделью.
Что на самом деле «видит» Nemotron 3.5 Super VL
Сильные стороны зрения и языка модели Nemotron 3.5 Super VL нацелены на то, с чем агенты сталкиваются на практике: оптическое распознавание символов, таблицы, графики и структурированная информация в визуальных документах.
Она обрабатывает веб-страницу, извлекает текст, читает графики и диаграммы и предоставляет инсайты на основе найденного. То же самое относится к PDF-файлам и другим документам, с которыми обычно работают агенты.
Nemotron 3.5 Super VL понимает изображения, веб-страницы и PDF-файлы и действует на основе этого понимания. Объединение текстового и визуального понимания в одной модели означает, что агентам не нужно перенаправлять задачи между отдельными системами — контекст сохраняется по мере перехода работы от документа к данным и принятию решений.
Открытость для максимального контроля, безопасности и конфиденциальности
Открытость и возможность настройки дополняют друг друга. Модель поставляется с открытыми весами, открытыми наборами данных и рецептами обучения.
Контроль работает в двух направлениях. Организации могут запускать модель там, где того требуют их требования к безопасности и месту хранения данных. Они также предпочитают использовать модель, которую могут адаптировать, а не ту, которая зависит от ограничений провайдера.
Например, в страховании специализированный агент может постоянно сканировать заявки на наличие признаков мошенничества. В финансовых услугах агент может проверять кредитные рейтинги и помечать активность, не соответствующую собственным критериям кредитования организации. Модель остается локально. Данные остаются конфиденциальными.
Настройка поддерживается через NVIDIA NeMo, конвейеры на базе Python и открытые наборы данных.
Nemotron 3.5 Super VL была обучена на примерно 26 триллионах токенов с использованием pretraining и продолженного предварительного обучения, а затем дообучена на примерно 3,8 миллионах примеров с использованием обучения с подкреплением в десятках сред.
NVIDIA также выпускает открытые наборы данных на Hugging Face, охватывающие использование агентных инструментов, финансы, следование инструкциям, длинный контекст, справедливость и визуально-языковое понимание, наряду со средами обучения с подкреплением в NeMo Gym.
NVIDIA NIM упаковывает модель как готовый к производству микросервис с оптимизированными по производительности, проверенными конфигурациями и поддержкой корпоративного уровня, обновляемый каждые две недели с исправлениями безопасности и улучшениями производительности.
А благодаря работе модели на NVIDIA Dynamo организации могут обслуживать до 8 раз больше пользователей с задержкой, сниженной на 85%.
Nemotron 3.5 Super VL теперь доступна на Hugging Face, Open Router, сообществе ModelScope и в качестве NVIDIA NIM.
Работает на DGX Spark, DGX Station и RTX
Nemotron 3.5 Super VL работает на всем стеке оборудования NVIDIA: на DGX Spark, DGX Station, системах RTX PRO и RTX для локального интеллекта на настольных ПК, на NVIDIA Jetson на периферии, а также в центрах обработки данных и облачных средах.
Nemotron 3.5 Bolt 74B-A9B 24GB теперь доступна на Hugging Face с поддержкой llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Созданная для ноутбуков NVIDIA RTX Spark, которые появятся 16 октября, она также работает на ПК с GeForce RTX, DGX Spark, DGX Station и рабочих станциях RTX PRO.
Скачайте открытые веса, изучите ресурсы для настройки с помощью NVIDIA NeMo или прочитайте технический блог для получения полного описания архитектуры.
Будьте в курсе новостей об агентах, NVIDIA Nemotron и многом другом, подписавшись на новости NVIDIA, присоединившись к сообществу и подписавшись на NVIDIA AI в LinkedIn, Instagram, X и Facebook.
Изучайте видеоуроки для самостоятельного обучения и прямые трансляции.
См. notice информацию о программном продукте.
