pplx-decider против Decider: «тихая» модель Perplexity на 27 млрд параметров против открытой линейки Mapika

Источник: OrcaRouter•

pplx-decider против Decider: «тихая» модель Perplexity на 27 млрд параметров против открытой линейки Mapika

Модель pplx-decider от Perplexity была выпущена без лишнего шума 1 октября 2026 года, без официального анонса. Сравниваем эту модель на 27 млрд параметров с семейством Decider от Mapika.

На платформе Hugging Face сейчас представлены две модели принятия решений, которые отвечают на вопросы одинаковым способом, но при этом практически ни в чем другом не согласны друг с другом. pplx-decider — это чекпоинт на 27 млрд параметров от Perplexity, который появился 1 октября 2026 года без анонсов, записей в блоге, страницы с ценами или поддержки со стороны провайдеров инференса; 5 октября 2026 года последовала ревизия pplx-decider-v1.1 на той же архитектуре. Decider — это семейство моделей того же класса от Mapika, включающее версии от decider-0.8b до decider-35b-a3b, представляющее собой открытую репродукцию в рамках линейки System One, опубликованную с полными заметками об обучении. Обе модели принимают блок именованных вопросов вместе с документом и возвращают откалиброванную вероятность для каждого ответа за один прямой проход. Ни одна из них не генерирует связный текст. Ниже приведено то, что известно о каждой из них, с четким указанием границ имеющейся информации.

Во-первых, что означает термин «модель принятия решений» в данном контексте

Ни одна из них не является чат-моделью, которую попросили быть краткой. В обычном понимании это вообще не языковые модели: здесь нет цикла декодирования, нет сэмплирования, нет обработки токен за токеном. Один прямой проход по вашему документу возвращает вероятность для каждого предложенного вами варианта.

Именно форма вызова делает это сравнение актуальным. Вы передаете состояние (тикет, JSON-запись, скриншот, контракт) и список именованных вопросов. Каждый вопрос определяет тип ответа: выбор из 2–255 помеченных вариантов, ответ «да/нет/неизвестно» или оценка по шкале от 2 до 10 описанных уровней. Ответы возвращаются в том порядке, в котором вы их задали, в виде чисел от 0 до 1, причем это число следует интерпретировать как вероятность, а не как готовую метку — например, 0,62 на вопрос «запрошен ли возврат средств?» является полным выводом, а пороговое значение определяет вызывающая сторона.

Такой подход позволяет минимизировать задержки и затраты, поскольку документ с шестьюдесятью вопросами требует одного прохода, а не шестидесяти. Это также означает, что стандартные методы оценки языковых моделей здесь неприменимы: нет цепочки рассуждений, которую можно прочитать, нет хода мыслей, с которым можно поспорить, и нет способа попросить модель объяснить свои действия. Вы получаете только значение вероятности и ничего больше. Оба проекта открыто заявляют, что это осознанный компромисс.

Что было выпущено и о чем никто не сказал

Репозиторий pplx-decider выглядит необычно полным для модели, у которой нет сопроводительного анонса. Веса распространяются по лицензии Apache-2.0. Базовая модель — Qwen/Qwen3.8-27B, как указано в карточке. В формате bf16 представлен выходной слой [255, 5120], что в точности соответствует ожидаемой структуре для 255 выбираемых вариантов при скрытом состоянии размерностью 5120. В карточке задокументированы бюджет входных данных, ограничение на количество вариантов, три типа вопросов и формат эндпоинта — POST /v1/systemone.

Чего здесь нет, так это текста, который обычно сопровождает релиз. В карточке нет даты выпуска, нет анонса, нет поста с результатами бенчмарков от Perplexity, нет цены и нет сторонней платформы, предоставляющей доступ к модели. Количество скачиваний соответствует уровню репозитория, который нашли случайно, а не продвигали. Если рассматривать эти факты вместе, честное описание будет таким: артефакт публичен, но цели его создания — нет. Все, что написано ниже о pplx-decider, взято из репозитория и его документации. Ничего из этого не было независимо воспроизведено, и никто вне лаборатории не публиковал результаты собственных запусков.

Запись в библиотеке Ollama наглядно демонстрирует этот пробел. На странице указан тег 27b, размер 17 ГБ и контекстное окно 256K — это квантованная сборка, значительно меньше примерно 49 ГБ, которые занимают веса в формате bf16, — в то время как репозиторий указывает гораздо меньший бюджет входных данных для текста и изображений и утверждает, что слишком большие входные данные отклоняются, а не обрезаются. Эти два утверждения явно описывают разные ограничения, и ни одна публикация их не примиряет. Относитесь к цифрам среды выполнения как к заявлениям самой среды.

Интересная часть: два незнакомца, один интерфейс

Семейство Decider от Mapika и pplx-decider разрабатывались независимо, на разных базах и по разным причинам, но они сошлись на одном и том же формате взаимодействия. Модели Decider также используют формат вызовов System One: именованные вопросы, выбор из 2–255 вариантов, отсутствие генерации текста, поддержка состояний до 32 тыс. токенов. Клиент, написанный для одной модели, практически полностью подходит и для другой.

Эта конвергенция — самый полезный факт в данном сравнении. Выбор одной модели вместо другой не требует переписывания кода; достаточно заменить базовый URL и название модели. Интересный вопрос перестает быть вопросом «какой API интегрировать» и становится вопросом «какому результату я доверяю в своих документах» — и два проекта отвечают на него по-разному.

Один чекпоинт против целой линейки

Структурную разницу заметить проще всего. Perplexity выпустила модель одного размера. Mapika выпустила целую линейку и опубликовала таблицу размеров:

• Каталог — pplx-decider: один чекпоинт на 27 млрд параметров плюс ревизия v1.1 на той же архитектуре. Decider: более семи опубликованных размеров, от decider-0.8b (1,4 ГБ) до decider-2b, decider-2b-vision, decider-4b, decider-12b и decider-35b-a3b (65 ГБ в bf16 или 19,6 ГБ в nvfp4).

• Базовые модели — pplx-decider: Qwen/Qwen3.8-27B, одна линия. Decider: смесь — Qwen3.5-0.8B, Qwen3.5-2B и Qwen3.5-4B для малых размеров, Qwen3.5-35B-A3B для большой модели, а также gemma-4-12B-it и gemma-4-31B-it для чат-вариантов.

• Активация — pplx-decider: плотная модель на 27 млрд параметров, поэтому каждый параметр задействуется при каждом вызове. Decider: decider-35b-a3b — это смесь экспертов (MoE): 34,7 млрд параметров всего, из которых активно около 3 млрд, распределенных по 256 маршрутизируемым экспертам, по 8 активных на токен.

• Зрение — pplx-decider: мультимодальная модель, как указано в репозитории; поддерживает текст, JSON и изображения, включая скриншоты, чеки и формы, при этом токены зрения стоят примерно ширина × высота / 1024. Decider: отдельный чекпоинт decider-2b-vision, а не флаг в основной модели, поэтому работа с изображениями — это выбор другой модели, а не другой аргумент.

• Лицензия — Apache-2.0 с обеих сторон, и это единственный пункт, в котором сравнение становится скучным.

• Раскрытие информации об обучении — pplx-decider: конвейер данных, основанный на Bespoke Nimble от Bespoke Labs, с подмножествами бенчмарков, закрепленными по ID записи и контрольной сумме; прирост в v1.1 приписывается удалению причинно-следственной маски и добавлению данных, включая tasksource. Decider: заметки по версиям с количеством элементов, оборудованием и временем обучения — decider-35b-a3b обучалась на 4× B300 в течение 394 минут на 1 543 567 элементах, плюс указаны режимы сбоев и доля фактически обученных параметров (2,45 млрд из 34,7 млрд).

Ни один из этих вариантов не имеет решающего преимущества. Один чекпоинт проще для понимания, его легче обслуживать, но невозможно уменьшить. Линейка моделей позволяет поставить decider-0.8b перед дешевым предварительным фильтром и использовать 35B только для тех задач, где это необходимо, но только если вы готовы поддерживать логику маршрутизации, которая решает, что и когда использовать.

Цифры и их авторы

Обе группы ключевых показателей предоставлены самими разработчиками, и ни одна из них не подтверждена независимой репликацией. Здесь это важнее, чем обычно, поскольку не существует стороннего лидерборда моделей принятия решений, обладающего таким же авторитетом, как арены для языковых или визуальных моделей.

Собственные показатели Perplexity для pplx-decider составляют 85,7% по 11 публичным бенчмаркам против 84,5% у Jev и 74,8% у базовой модели Qwen3.8-27B, на которой она обучалась. Отдельные строки отчетов включают RAGTruth 88.8, FinancialPhraseBank 84.2, TabFact 90.6, JudgeBench 78.3 и WinoGrande 83.3, а полный набор охватывает Circa, Belebele, TruthfulQA binary, BBH, ContractNLI и публичный hard split для JevBench. В версии v1.1 сообщается о взвешенном общем показателе 61,56 против 56,4 для v1 и 57,9 для Jev, при этом наибольший прирост в одной категории наблюдается в языковых задачах. Сравнение с Jev предоставлено вендором, вычислено на его собственном наборе тестов, а методика взвешивания не публикуется.

Отчетность Mapika имеет другой характер: цифры сопровождаются оговорками, которые их же и ослабляют. Для decider-35b-a3b сообщается о 0,855 в рамках задачи и 0,810 на отложенной выборке против 0,732 у базовой модели zero-shot, а также 0,676 на публичном hard split для JevBench — что ниже показателя 0,730 у Jev 1.13.0. В карточке также указано, что стадия обучения с подкреплением отсутствует, поэтому выборка составляет 86,4% против 93,2% у decider-2b v10, и что модель излишне самоуверенна на самых сложных элементах с ожидаемой ошибкой калибровки (ECE) 0,15 на сложном уровне. Для decider-2b v11 сообщается о 0,802 в рамках задачи и 0,752 на отложенной выборке с ECE 0,156 при заявленном целевом показателе 0,08 — это недостижение цели, зафиксированное самими авторами.

Два задокументированных режима сбоев стоит учитывать при проведении любой оценки. Выбор записи по ее позиции в длинном массиве JSON описывается как наименее точная форма входных данных, с которой работает это семейство, а упаковка нескольких независимых вопросов в один вызов может привести к изменению до 12% ответов, если флаг независимости выключен. И то, и другое — это те вещи, которые скрываются в спецификациях, но упоминаются в карточке модели.

Сколько стоит запуск каждой из них

• Самый маленький рабочий Decider — decider-0.8b занимает 1,4 ГБ. У pplx-decider нет маленького варианта, поэтому его минимум — полная версия 27B.

• Самый большой Decider — decider-35b-a3b занимает 65 ГБ в формате bf16 или 19,6 ГБ в nvfp4, при этом на каждый токен активно задействовано только около 3 млрд параметров.

• Задержка, сторона Decider — decider-2b выполняет 4 мс на запрос с использованием графов CUDA на B300 (против 18,9 мс в режиме eager) и примерно 2700 решений в секунду при размере пакета 32. Модель 35B — это другой уровень: около 47 мс для тикета из 92 токенов с тремя вопросами, 368 мс для 64 тикетов.

• Задержка, сторона pplx-decider — не опубликована. В карточках вообще нет данных о пропускной способности или задержке, что нормально для репозитория, который не был официально запущен.

• Стоимость одного решения — именно здесь дизайн окупается с обеих сторон. Шестьдесят вопросов по одному документу — это один прямой проход в любом случае, поэтому стоимость одного решения снижается по мере того, как вы задаете больше вопросов по одному и тому же документу.

Вот честная картина маршрутизации. OrcaRouter не обслуживает pplx-decider и не обслуживает семейство Decider от Mapika — ни то, ни другое не представлено в каталоге, и ничто в этой статье не должно трактоваться как утверждение об обратном. Что действительно есть в каталоге в этом классе сегодня, так это typesafe/jev-1.13, модель принятия решений того же типа System One с окном в 65 536 токенов, доступная через тот же эндпоинт POST /v1/systemone по цене $0,042 за миллион входных токенов, что является полезным ориентиром стоимости маршрутизируемой модели принятия решений. Если вы оцениваете неанонсированный чекпоинт, такой как pplx-decider, способ сделать это, не ставя на кон продакшн-путь, — запустить его самостоятельно параллельно с маршрутизируемой моделью через один API для 200+ моделей; цена провайдера передается с наценкой 0%, поэтому, когда эти проекты доходят до провайдера инференса, прейскурантная цена становится ценой здесь в тот же день. До тех пор сравнение самостоятельно размещенного pplx-decider с маршрутизируемым typesafe/jev-1.13 — это то, что действительно даст вам понимание.

Что выбрать

Если вам нужна модель принятия решений сегодня, на вашем собственном оборудовании, выбранного вами размера, с заметками об обучении, которые вы можете проверить, и лицензией, которая ничего от вас не требует, ответ — чекпоинт Decider, и единственный реальный вопрос — какой именно уровень выбрать. Начните с decider-2b; цифры v11 показывают, что семейство улучшается по сравнению с собственной версией v10 именно на том сложном наборе, который вас интересует, а задокументированный разрыв в ECE говорит о том, что нужно откалибровать температуру, прежде чем доверять вероятностям в продакшене.

Выбирайте pplx-decider, если вам нужен тот же интерфейс с более крупной плотной моделью, если важен ввод изображений и вы не хотите запускать второй чекпоинт, или если вы из тех команд, которые предпочли бы сами оценить «голову» модели от передовой лаборатории, чем ждать анонса, который может никогда не появиться. Его преимущества реальны, но не подтверждены: более крупный бэкенд, таблица бенчмарков, которая ему льстит, и конвейер обучения, задокументированный вплоть до контрольных сумм на уровне записей.

За чем стоит следить, так это не за бенчмарками. А за тем, доберется ли pplx-decider до какого-либо провайдера инференса. Репозиторий с весами без анонса — это сигнал, а не продукт; как только он появится на хостинговом эндпоинте, вопрос «цена против задержки», на который карточки Decider уже отвечают, станет реальным сравнением, а не стремлением.

Запустите самостоятельно размещенный pplx-decider параллельно с маршрутизируемой моделью принятия решений по прейскурантной цене провайдера с наценкой 0%, чтобы, когда любой из проектов дойдет до провайдера инференса, указанная цена стала ценой здесь в тот же день.

Новый чекпоинт, измеренный по опубликованной шкале, — это также хорошее место для проверки записей: задокументированные инциденты с ИИ и сбои агентов вокруг моделей этого класса собраны в архиве инцидентов ИИ OrcaRouter, где каждая запись содержит собственные источники, степень серьезности, оценку достоверности и флаг оспаривания.

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →

Ещё от OrcaRouter