UserRepGen-4B против Qwen 3.8: семимесячная дообученная модель 4B против текущего флагмана Alibaba

Источник: OrcaRouter•

UserRepGen-4B против Qwen 3.8: семимесячная дообученная модель 4B против текущего флагмана Alibaba

Microsoft дообучила февральскую модель Qwen3.5-4B и опубликовала таблицу, в которой она превосходит GPT-5.5. Разбираемся, что на самом деле дает это преимущество по сравнению с Qwen3.8-Max по цене $2.00 и $6.00.

Начнем с факта, который делает это сопоставление странным. Модель microsoft/UserRepGen-4B, загруженная 14 октября 2026 года без официального анонса, является дообученной версией Qwen3.5-4B — контрольной точки от февраля 2026 года, которая отстает на целое поколение от модели, с которой ее здесь сравнивают. Qwen 3.8 — это поколение Alibaba от августа 2026 года, и в число ее доступных версий входят Qwen3.8-Max, флагман по цене $2.00 за миллион входных токенов и $6.00 за миллион выходных при контекстном окне в миллион токенов, Qwen3.8-27B по цене $0.33 и $2.40 при 262 144 позициях, а также Qwen3.8-Flash по цене $0.15 и $0.47. Microsoft изучила это семейство и обратилась к базе 4B, выпущенной поколением ранее. Затем она опубликовала таблицу, показывающую, что полученная модель превосходит GPT-5.5 в единственной задаче, для которой она предназначена. Эта комбинация и есть суть статьи: что дает вам узкоспециализированная дообученная модель, чего не дает новый флагман, и во сколько это вам обойдется.

Во-первых, что означает название «Qwen 3.8»

Стоит прояснить это до начала любого сравнения, поскольку название семейства охватывает несколько совершенно разных артефактов, а цены различаются более чем в тринадцать раз. Три доступные версии — это те, которые имеют значение для принятия решения:

• Qwen3.8-Max — флагман, нативно мультимодальный (текст, изображения и видео), контекст 1 млн токенов, предоставляется в трех форматах, включая совместимый с Anthropic. Премиальный уровень для случаев, когда точность в сложных задачах важнее стоимости.

• Qwen3.8-27B — плотная модель с открытыми весами по лицензии Apache 2.0, контекст 262 144 токена, ввод текста, изображений и видео. Собственные отчеты Alibaba показывают 90.3 на LiveCodeBench v6, 89.2 на GPQA Diamond, 84.3 на OSWorld-Verified и 79.0 на QwenSWEBench — это данные поставщика, которые не были независимо подтверждены.

• Qwen3.8-Flash — массовый сегмент, контекст 1 млн токенов, цена оптимизирована для коротких задач, выполняемых миллионы раз. В каталоге также есть устаревший снимок Qwen3.8-Max (0902) по тем же тарифам, который стоит фиксировать, когда вам нужно воспроизводимое поведение, а не постоянно меняющиеся возможности.

Ничто из этого не является новостью, и данная страница не сообщает о запуске Qwen. Этому поколению уже пять месяцев. Оно здесь потому, что это более новая, крупная и лучше протестированная сторона сравнения, и потому, что интересное утверждение имеет смысл только в противовес чему-то столь мощному.

Утверждение, сформулированное точно

В карточке модели Microsoft приводится оценка точности по 700 отложенным диалогам, оцененным по шкале от 1 до 10 судьей-LLM, где каждый генератор представлений включен в один и тот же цикл симуляции:

• Qwen3.5-4B, исходная модель без изменений — 3.41 (лучший из 1), 4.42 (лучший из 3).

• GPT-5.5, с готовым промптом для описания пользователя — 3.90 и 4.90.

• UserRepGen-4B, после онлайн-обучения с учителем через дистилляцию с учетом ретроспективы — 4.95 и 6.02.

Каждая цифра принадлежит Microsoft, оценена моделью GPT-5.4 mini, и ни один из результатов не был воспроизведен вне лаборатории. Воспринимайте это как направленное утверждение, а не как окончательный результат. Но направление однозначно, и дело не в количестве параметров: метод обучения улучшил базовую модель на 1.54 балла (лучший из 1), и по пути она обошла передовую универсальную модель. Читать это следует не как «маленькие модели побеждают большие», а как то, что база 4B от февраля, жестко дообученная на одном узком поведении, может превзойти гораздо более крупную модель, которую просто попросили выполнить эту задачу.

Qwen3.8-Max в этой таблице отсутствует. Вероятно, она справилась бы лучше, чем GPT-5.5, поскольку это более сильная общая модель. Но она все равно бы «угадывала» поведение, так как ничто в ее обучении не было оптимизировано под эту задачу.

Почему семимесячная база была правильным выбором

Разрыв в поколениях кажется ошибкой, пока вы не поймете, что именно нужно дообученной модели от ее основы. Ей нужна модель, которая достаточно беглая, дешевая в запуске и достаточно стабильная, чтобы LoRA ранга 64 могла изменить ее, не разрушив. Ей не нужны передовые способности к рассуждению, потому что задача не в рассуждении, а в описании предоставленного ей диалога.

Две детали в карточке подтверждают это прочтение. Первая — это потолок вывода: 1024 токена для представления против 8192 для диалога. Вторая — бюджет обучения: с июля по август 2026 года, два месяца, и тот факт, что оба более тяжелых метода проиграли. OPSD набрал 4.46/5.60, а GRPO — 3.57/4.59, оба ниже, чем простое дообучение с учителем (4.64/5.68). Когда дешевый метод побеждает два дорогих, узким местом никогда не была способность базовой модели. Переход на флагманскую базу 2026 года привел бы к модели, которая стоит дороже за проход при выполнении той же работы с тем же ограничением.

У этого выбора есть цена, и карточка говорит об этом прямо, а не скрывает. Поскольку визуальный модуль перешел вместе с родительской контрольной точкой, модель загружается через AutoModelForImageTextToText и содержит пути кода для изображений и видео, которые она никогда не использует — ввод изображений и видео в этом релизе явно не поддерживается. Вы наследуете багаж архитектуры вместе с ее беглостью.

Арифметика затрат, которая идет не так, как ожидают люди

Рефлекторно кажется, что локальный вывод дешевле. В масштабах, для которых разработана эта модель, это обычно не так, и честный расчет цифр меняет решение. Возьмем пакет из 700 диалогов — того же размера, что и в собственной оценке Microsoft — примерно по 2000 токенов промпта и 400 токенов вывода на вызов.

• Через Qwen3.8-27B по цене $0.33 и $2.40 за миллион: около $1.13 общих затрат на токены для всего пакета.

• Через Qwen3.8-Max по цене $2.00 и $6.00: около $4.48.

В противовес этому, UserRepGen-4B требует загрузки 9.1 ГБ, GPU с достаточным объемом памяти для работы в bfloat16 и инженерных усилий по написанию Python-класса. Microsoft сообщает, что она работает через vLLM на оборудовании H100, A100, RTX A6000 и B200, и отмечает, что для вывода на CPU требуется float32 и «существенно больше памяти, чем примерно 9.1 ГБ весового файла». Если единственным критерием являются доллары за токен, API-доступ к более мощной модели выигрывает при таком объеме, и разрыв невелик.

Это означает, что реальные причины запускать UserRepGen-4B самостоятельно — это те, которые не указаны в прайс-листе: диалоги, которые вы ей скармливаете. В ее собственной карточке сказано обрабатывать только те диалоги, на которые у вас есть разрешение, сначала минимизировать идентифицирующую информацию, и что представления не являются анонимизированными данными — описания поведения модели идентифицируют человека среди четырех кандидатов в 51.02% случаев, что лучше, чем исходные диалоги, которые они суммируют (44.22%). Компонент, который превращает диалоги в портативные профили, читаемые человеком, — это то, что вы, возможно, захотите оставить внутри своей сети, независимо от того, сколько будет стоить вызов API.

Где маршрутизация вписывается в такой конвейер

Это чаще структура из двух моделей, чем из одной: генератор представлений на вашем собственном оборудовании и общая модель, выполняющая роль ассистента, судьи или цикла оценки вокруг него. Вторая половина — это часть, которая работает через API.

Все три модели Qwen 3.8, доступные через OrcaRouter, предоставляются по прейскуранту провайдера без каких-либо наценок — $2.00 и $6.00 для Max, $0.33 и $2.40 для 27B, $0.15 и $0.47 для Flash — с использованием одного ключа и автоматическим переключением между провайдерами, чтобы вызов судьи в цикле оценки не прерывался из-за сбоя одного вышестоящего сервиса. Если вы прогоняете пакет из сотен диалогов через несколько симуляторов и судей, этот механизм переключения важнее, чем стоимость за токен, поскольку выполнение, прерванное на 400-м диалоге, делает бессмысленными 399 предыдущих. DSL маршрутизации позволяет объединить ассистента и судью в один вызов вместо цепочки из двух. Мы не предоставляем доступ к UserRepGen-4B: в нашем каталоге нет записи для этой модели, и ничто в данном тексте не должно рассматриваться как утверждение о доступности чекпоинта от Microsoft.

Решение без оговорок

Если вам нужна универсальная модель, которая умеет рассуждать, писать код, распознавать изображения и обрабатывать миллион токенов, ничто в этой статье не говорит против Qwen3.8-Max — UserRepGen-4B не способен ни на что из этого, и сравнение с флагманской моделью — это состязание, в котором он не участвовал. Если вам нужен симулятор пользователя, обученный на реальном поведении в диалогах, то ни одна из моделей Qwen 3.8 для этого также не обучалась, и выбор стоит между небольшой локальной дообученной моделью с измеренным преимуществом и крупной API-моделью без такового.

Открытый вопрос остается тем же, что висит над всем релизом: нет никакой научной статьи. В карточке модели указано, что цитирование «ожидает подтверждения», в разделе использования до сих пор висит фраза о том, что репозиторий является приватным, хотя он уже стал публичным, а все цифры в таблице точности основаны на оценках судьи самой лаборатории. Microsoft создала модель, которая превосходит сильнейший из протестированных ею базовых вариантов. Превосходит ли она ваш базовый вариант — это то, на что может ответить только оценка, проведенная вами самостоятельно.

Семимесячная дообученная модель, сравниваемая с текущим флагманом, — это также хороший повод вспомнить о прошлых неудачах: задокументированные инциденты с ИИ и сбои агентов в моделях этого класса собраны в архиве инцидентов ИИ OrcaRouter, где каждая запись содержит свои источники, уровень серьезности, оценку достоверности и флаг спорности.

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →

Ещё от OrcaRouter