Сегодня мы открываем исходный код Rumble-2-Flash по лицензии Apache 2.0. Это модель распознавания речи с 0,5 млрд параметров для 40+ языков, которая конкурирует с моделями, превосходящими её по размеру в 3–60 раз.
- Работает везде: нативная поддержка в 🤗 Transformers и vLLM, без использования пользовательского кода.
- 40+ языков: автоматическое определение языка.
- Управление выводом: числа цифрами или словами, заполнители, дословные повторы, принудительный выбор языка.
- Чрезвычайно быстро: час аудио примерно за полсекунды, более 7000 RTFx на полных пакетах.
- Эффективность в реальных телефонных звонках: на уровне NVIDIA Nemotron 3.5 Transcribe (30B) на 302-часовом бенчмарке колл-центров.
Быстрый старт
Параметр audio принимает локальный путь, URL, массив NumPy или список из них.
Как это устроено
Rumble-2-Flash использует архитектуру Qwen3-ASR для поддержки с первого дня. Если ваш стек работает с Transformers или vLLM, он поддерживает Rumble-2-Flash без форков среды выполнения или использования trust_remote_code.
Чтобы выяснить, насколько маленькой может быть модель до того, как точность начнет падать, мы дистиллировали в неё Rumble-2, нашу более крупную производственную модель, с помощью он-полиси дистилляции. Ученик не обучается на транскриптах, написанных учителем. Он сам расшифровывает аудио, а учитель оценивает этот транскрипт токен за токеном: на каждой позиции он дает свою вероятность того, что должно идти дальше, и ученик учится соответствовать ей. Поскольку ученик учится на своих собственных результатах, он исправляет именно те ошибки, которые совершает, получая обратную связь по каждому токену, а не одну оценку на весь фрагмент.
Он-полиси дистилляция обычно требует, чтобы учитель и ученик использовали общий токенизатор, но у нас они разные: выбор Qwen3-ASR означал использование и его словаря. GOLD устраняет это ограничение. Он объединяет токены там, где два токенизатора разбивают текст по-разному, поэтому обе модели сравниваются по одному и тому же тексту. Токены, существующие в обоих словарях, сравниваются напрямую, а остальные — по их отсортированным вероятностям.
Результаты
Точность для своего размера
В многоязычном треке Open ASR Leaderboard модель Rumble-2-Flash показывает средний уровень ошибок 6,96% для китайского, немецкого, французского, итальянского, испанского, португальского, хинди, голландского и английского языков. Это лучше, чем у Meta omniASR-LLM 7B (модель в 15 раз больше) и опережает Whisper large-v3. В английском треке средний показатель WER составляет 6,6%.
Скорость
Rumble-2-Flash также работает быстро. Пропускная способность зависит от заполненности пакетов: на более крупных наборах данных в Open ASR Leaderboard от HF, где пакеты остаются полными, она достигает более 7000 RTFx. Это час аудио примерно за полсекунды.
Реальные телефонные звонки
Чистое аудио обрабатывать легко. Телефонные звонки сжаты, зашумлены и часто содержат речь спикеров с сильно различающимися акцентами. На бенчмарке колл-центров AppTek (302 часа звонков в службу поддержки, 14 английских акцентов, оценка по собственному скрипту AppTek) Rumble-2-Flash достигает 7,86% WER, что сопоставимо с NVIDIA Nemotron 3.5 Transcribe (30B) с показателем 7,78%. Это значительно лучше, чем у Qwen3-ASR 0.6B (8,7%) из того же семейства моделей, и близко к Qwen3-ASR 1.7B (7,4%), единственной модели в сравнении, которая показывает лучший результат.
Попробуйте сами
Веса доступны на Hub по адресу Reson8/Rumble-2-Flash. Модель также доступна через наш репозиторий.
Нам очень интересно, что вы создадите с её помощью. Расскажите нам во вкладке Discussions, что у вас получилось, что вам понравилось и что бы вы хотели изменить в следующей версии.











