В связи с сегодняшним запуском NVIDIA Nemotron 3.5 Super VL мы сотрудничаем с NVIDIA, чтобы помочь предприятиям адаптировать открытые модели Nemotron для наиболее важных для них задач. Мы получили ранний доступ к модели и проводили её пост-обучение в преддверии запуска совместно с такими компаниями, как Skydance и EY.
Начиная с сегодняшнего дня, эта услуга доступна любому предприятию через Scale Post-Training — новое предложение в рамках портфолио Scale GenAI, которое помогает компаниям настраивать ведущие модели с открытыми весами, включая Nemotron 3.5 Super VL и всё семейство открытых моделей Nemotron. Пост-обучение обучает существующую модель выполнению конкретной задачи с использованием примеров качественного выполнения этой работы, превращая модель общего назначения в специализированную. Для Nemotron мы объединяем нашу методологию оценки, данные и опыт обучения с инструментами пост-обучения NVIDIA, чтобы предприятия могли сбалансировать стоимость, производительность и контроль при создании агентных систем и рабочих процессов, работающих непосредственно в их инфраструктуре.
Это сотрудничество продвигает нашу миссию по разработке надежных систем ИИ для принятия самых важных мировых решений. На протяжении более десяти лет наши данные и оценки помогали обучать ведущие мировые модели ИИ. Теперь мы применяем тот же подход для предприятий, адаптирующих модели с открытыми весами.
Превращение открытых моделей в корпоративных специалистов
Вопрос для предприятий больше не в том, какая модель лучше в целом. Вопрос в том, какая модель лучше подходит для конкретной задачи при устойчивой стоимости и скорости для бизнеса. При промышленных объемах затраты на инференс быстро растут. Развертывания будут всё чаще сочетать несколько моделей разных размеров, модальностей, поставщиков, сильных сторон и стоимости, и модели с открытыми весами становятся всё более важной частью этого сочетания — особенно в паре с экспертным пост-обучением для конкретного варианта использования или рабочего процесса. Они могут работать внутри собственной инфраструктуры компании и быть настроены на специфические задачи, что дает предприятиям больше контроля над качеством, стоимостью и тем, где обрабатываются их данные.
«Открытые модели дают предприятиям преимущество в создании решений на основе собственных данных и интеллекта», — сказал Джоуи Конуэй, старший директор по моделям и программному обеспечению Nemotron в NVIDIA. «Благодаря открытым весам, наборам данных и инструментам пост-обучения NVIDIA Nemotron, Scale AI создает специализированные модели, которые повышают точность за счет пользовательской бизнес-аналитики, обеспечивая эффективную работу систем моделей для продвинутых агентных систем и рабочих процессов».
«NVIDIA предоставляет предприятиям открытые модели, которые они действительно могут сделать своими, и Nemotron — это большой шаг вперед», — сказал Фрэнсис де Соуза, генеральный директор Scale AI. «Будущее корпоративного ИИ — за мультимодельностью, и преимущество получат организации, которые смогут доказать, какая модель лучше подходит для каждой конкретной задачи. Вместе с NVIDIA, Skydance и EY мы показываем, что с помощью Scale Post-Training модель с открытыми весами может соответствовать или превосходить модели, которые предприятия используют сегодня, за долю от их стоимости».
Каждая модель общего назначения — с открытыми или закрытыми весами — изначально является универсалом, который не знает политик, терминологии или рабочих процессов компании. Чтобы устранить эти пробелы, недостаточно просто иметь доступ к весам. Кто-то должен определить, что означает «правильно» для каждого рабочего процесса с помощью репрезентативного набора данных для оценки, создать данные, которые обучат модель, и доказать, что система готова к промышленной эксплуатации. Это работа, которую делает Scale. Мы измеряем работу модели, которую клиент использует сегодня, на задачах из его собственного рабочего процесса, создаем данные для обучения и оценки для этого процесса, находим правильный рецепт пост-обучения, проводим пост-обучение Nemotron с помощью открытых инструментов NVIDIA и тестируем каждую версию внутри того же агентного рабочего процесса, в котором она будет работать в производстве. В процессе наши инженеры вносят улучшения в эти инструменты для сообщества с открытым исходным кодом. Подробнее о нашем партнерстве с NVIDIA читайте здесь.
Предприятия, использующие Nemotron
Вместе со Skydance мы используем Nemotron 3.5 Super VL для автоматизации ключевого финансового рабочего процесса. Агент проверяет кредитные меморандумы поставщиков, выписки и счета-фактуры, многие из которых отсканированы, и сопоставляет их с финансовыми записями компании, чтобы найти причитающиеся ей кредиты. При тестировании на реальных тикетах из производственного процесса модель Nemotron, прошедшая пост-обучение в Scale, соответствовала точности пограничной модели, которую Skydance использует в производстве сегодня, при этом стоимость инференса была примерно в 40 раз ниже, а время отклика — в 5 раз быстрее.
Вместе с EY мы создаем агента для комплексной проверки (due diligence), который отвечает на вопросы по сделкам, находя и сопоставляя информацию среди сотен файлов в виртуальной комнате данных M&A. В ходе оценок по сотням вопросов из закрытых комнат данных модель Nemotron 3.5 Super VL, прошедшая пост-обучение в Scale, соответствовала точности пограничной модели, которую EY использует сегодня, при стоимости инференса примерно в 18 раз ниже и скорости получения ответов более чем в два раза выше.
Мы также работаем с глобальной страховой компанией над вторым пилотом (copilot), который помогает представителям службы поддержки клиентов во время живых звонков на французском языке по вопросам помощи на дорогах, где правильный ответ с первого раза укрепляет доверие клиентов и позволяет контролировать расходы. Второй пилот извлекает ключевые факты каждого случая, рекомендует льготы, покрываемые полисом клиента, и сигнализирует, если представитель может пообещать то, что не включено в полис. В ходе контролируемых оценок модель Nemotron 3.5 Super VL с Scale Post-Training была на 31 процентный пункт точнее, чем модель, которую компания использует в производстве сегодня, при стоимости инференса примерно в четверть от текущей. Узнайте больше об этом в нашем техническом блоге.
Начало работы со Scale Post-Training
Scale Post-Training уже доступен для предприятий, которые хотят адаптировать модели с открытыми весами для своих рабочих процессов, включая Nemotron 3.5 Super VL. Чтобы узнать, как мы можем помочь вашему предприятию, свяжитесь с нами здесь.
