Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Daisyrose 27b rasshirenie granits effektivnosti post trenirovki
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

DaisyRose-27B: расширение границ эффективности пост-тренировки

Источник: Hugging Face•18 ноября 2026 г. в 19:58

DaisyRose-27B: расширение границ эффективности пост-тренировки

Сегодня мы выпускаем DaisyRose-27B — первую модель от RadixArk, созданную на базе Qwen3.8-27B и обученную с использованием обучения с подкреплением с помощью Miles. Мы обучали ее на долгосрочных агентских задачах с сессиями длиной до 1 млн токенов, задействовав всего 1200 отобранных задач за 18 дней на 144 графических процессорах H200. DaisyRose-27B повышает показатель pass@1 на Terminal-Bench 4.1 с 5,6% до 12,0%. Помимо Terminal-Bench 4.1, модель также демонстрирует прирост на различных других бенчмарках рассуждений, следования инструкциям и написания кода.

Чекпоинты доступны под лицензией Apache 2.0:

  • BF16
  • FP8
  • NVFP4

Модель сохраняет архитектуру, токенизатор, шаблон чата, понимание изображений и контекстное окно на 256 тыс. токенов от Qwen3.8-27B. В более длительных сессиях обучения используется суммаризация среды (harness summarization) для охвата нескольких траекторий. Свойства модели и настройки инференса см. в карточке модели.

Запуск DaisyRose-27B

Мы рекомендуем развертывать DaisyRose-27B с помощью SGLang и спекулятивного декодирования DSpark. В рецепте SGLang приведены конфигурации запуска для различных графических процессоров и форматов чекпоинтов.

После запуска сервера с развернутым именем модели DaisyRose-27B на порту 30000 вы можете отправить запрос с помощью клиента Python для OpenAI:

По умолчанию модель думает перед ответом. Ее рассуждения возвращаются в reasoning_content, а окончательный ответ — в content. Эти настройки соответствуют руководству по быстрому старту в карточке модели.

Результаты бенчмарков

DaisyRose-27B показывает более высокие результаты, чем оригинальная модель Qwen3.8-27B, в каждом из приведенных выше бенчмарков. Наибольший прирост наблюдается на Terminal Bench 4.1, где показатель pass@1 вырастает с 5,6% до 12,0%.

В результатах используется наибольшее значение из запусков BF16 и FP8 для каждого бенчмарка; везде, где оценивались оба варианта, разница между ними составляет менее одного балла. Карточка модели включает источники сравнения и настройки оценки.

Три составляющие процесса обучения сделали этот релиз возможным: тщательно разработанные задачи, эффективный бэкенд обучения и надежные песочницы (sandbox).

Высококачественные данные для обучения

Мы создали эти задачи в партнерстве с Eigent AI, начав с их большого массива задач в области машинного обучения, разработки программного обеспечения, науки и в других сферах. Вместе мы создали тысячи кандидатов. Около 1200 из них вошли в финальный набор для обучения.

Мы выбирали задачи по трем критериям:

  • Каждая задача нацелена на ошибку, которую допускает исходная модель. Мы запустили Qwen3.8-27B на каждой задаче и переработали каждую из них с учетом ошибок, от которых мы хотели отучить модель. Затем мы скорректировали сложность до тех пор, пока уровень успешного решения не попал в полезный диапазон для обучения.
  • Каждая задача требует нескольких взаимозависимых шагов. Агент должен рассуждать, планировать и выполнять действия в рамках долгосрочной задачи. Каждая попытка получает до 1,5 часов в песочнице, более 100 вызовов инструментов и более 256 тыс. выходных токенов.
  • Задачи должны вознаграждать реальное решение проблемы. Мы проанализировали каждую задачу наряду с попытками модели. Задачи, которые можно было пройти без решения поставленной задачи или которые содержали конструктивный изъян, были исправлены или удалены.

Эффективный бэкенд обучения

RadixArk обучила DaisyRose-27B с помощью Miles, нашего открытого фреймворка обучения с подкреплением для пост-тренировки крупномасштабных моделей, в полностью асинхронном режиме: агент продолжает работать, пока модель учится, и ни один из них не ждет другого. Пока 128 чипов H200 выполняют инференс на задачах агента, еще 16 запускают тренер и учатся на траекториях. После каждого шага обновленная модель отправляется на 128 GPU, на которых работает агент. Обучение выполняется на нашем внутреннем бэкенде обучения, созданном специально для обучения агентов: каждый шаг учится на горстке очень длинных сессий (некоторые длиной до 1 млн токенов), объединенных в несколько траекторий с помощью суммаризации среды.

Стоимость обучения ниже на 57%. В этом релизе 37% пиковых вычислений каждого GPU уходило на полезную работу по обучению (использование FLOPs модели, или MFU) на нашем бэкенде. Тренер с открытым исходным кодом, созданный на базе Megatron, достиг 16% на сопоставимых запусках. Таким образом, для того же обучения требуется на 57% меньше времени GPU. Прирост еще больше на моделях со смещением экспертов (MoE): в 6,2 раза на Qwen3.6-35B-A3B и более чем в 10 раз на модели GLM-5.3-Flash с примерно 300 миллиардами параметров.

В 2 раза быстрее от начала до конца. Учитывая время, которое агент тратит на свои задачи, релизный запуск обучался со скоростью около 16 800 токенов в секунду на всех 144 графических процессорах. Открытый тренер достиг примерно 8300 на тех же GPU.

Стабильность на протяжении недель. Релизный запуск обучался в течение нескольких недель на 144 H200, что в сумме составило 63 000 часов GPU. От первого шага до последнего его скорость и эффективность оставались стабильными.

Каждый шаг обучения релизного запуска DaisyRose-27B на 144 H200 в зависимости от общего времени обучения. Пунктирные линии: тренер с открытым исходным кодом на сопоставимых запусках.

Надежный сервис песочниц

Каждая попытка обучения выполняется в песочнице: изолированной копии среды задачи, где агент выполняет команды, редактирует файлы, после чего оценивается.

Наш сервис создан на базе проекта с открытым исходным кодом AgentENV, в который мы также вносим исправления. С середины сентября по середину ноября он запустил около 944 000 песочниц для этого проекта, причем одновременно работало до 1566 штук.

Сервис вырос с одной машины до 12. Мы выпустили для него десять обновлений, почти все из которых происходили во время обучения. За все девять недель 99% созданий песочниц завершились успешно; с конца октября этот показатель превышает 99,95%.

Затраты на облачную инфраструктуру для песочниц проекта оказались примерно на 80% ниже по сравнению с запуском тех же песочниц у популярных провайдеров облачных песочниц. Один из способов снизить затраты — позволить выделению памяти каждой песочницы расти и уменьшаться в зависимости от ее фактического использования, что позволяет большему количеству песочниц совместно использовать каждую машину.

Попробуйте модель или обучите свою собственную

Скачайте DaisyRose-27B, следуйте руководству по развертыванию SGLang или используйте для обучения собственных агентов.

Мы хотели бы услышать, как DaisyRose-27B справляется с вашими задачами, включая то, в чем она уступает. Поделитесь своей конфигурацией и результатами во вкладке «Сообщество» (Community) модели.

Мы благодарим Eigent AI за тесное сотрудничество над обучающими данными и команду Qwen за создание Qwen3.8-27B. Мы также благодарим сообщества Miles и SGLang, а также другие проекты с открытым исходным кодом, включая slime, AgentENV и Harbor.

Адаптировано из оригинальной статьи RadixArk.

← Все статьи

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →
Почему ваша задача дообучения занимает больше времени, чем предсказывают FLOPs
Hugging Face

Почему ваша задача дообучения занимает больше времени, чем предсказывают FLOPs

Акции Nvidia упали после публикации отчетности, потянув за собой неоклауд-компании CoreWeave и IrenПресса
CoreWeave

Акции Nvidia упали после публикации отчетности, потянув за собой неоклауд-компании CoreWeave и Iren

Является ли Apple тихой гаванью, какой ее считают инвесторы? Вот способ торговли с меньшим рискомПресса
Apple

Является ли Apple тихой гаванью, какой ее считают инвесторы? Вот способ торговли с меньшим риском

Генеральный директор OpenAI Сэм Альтман говорит, что «трудно представить индустрию ИИ без Дженсена»Пресса
OpenAI

Генеральный директор OpenAI Сэм Альтман говорит, что «трудно представить индустрию ИИ без Дженсена»

Создание новых инструментов исследования для эпиграфики майя на платформе Modal
Modal

Создание новых инструментов исследования для эпиграфики майя на платформе Modal

Представляем тарифный план Launch
Datalab

Представляем тарифный план Launch

Ещё от Hugging Face

Почему ваша задача дообучения занимает больше времени, чем предсказывают FLOPs
Hugging Face

Почему ваша задача дообучения занимает больше времени, чем предсказывают FLOPs

180B параметров, 32 ГБ ОЗУ: выжимаем максимум из инференса MoE с помощью Transformers
Hugging Face

180B параметров, 32 ГБ ОЗУ: выжимаем максимум из инференса MoE с помощью Transformers

Модели временных рядов в Streamhouse: новые горизонты и варианты использования
Hugging Face

Модели временных рядов в Streamhouse: новые горизонты и варианты использования

Rumble-2-Flash: открытая речевая модель 0.5B для 40+ языков
Hugging Face

Rumble-2-Flash: открытая речевая модель 0.5B для 40+ языков

Hugging Face и OpenRouter объединяют усилия для упрощения запуска моделей с открытыми весами
Hugging Face

Hugging Face и OpenRouter объединяют усилия для упрощения запуска моделей с открытыми весами

Создание симуляции захвата и перемещения роботом с использованием активов SimReady
Hugging Face

Создание симуляции захвата и перемещения роботом с использованием активов SimReady