Runway Media Router — это первый маршрутизатор моделей с оптимизацией по предпочтениям для генеративного медиаконтента, встроенный в платформу Runway Dev.
Сегодня мы запускаем Runway Media Router, первый в мире маршрутизатор для моделей генеративного медиаконтента. Media Router — это новая функция в Runway Dev, которая автоматически выбирает лучшую модель для генерации видео, изображений или аудио для каждого запроса. До сих пор в сфере медиа не было аналога интеллектуальной маршрутизации для LLM, во многом из-за того, что модели для видео, изображений и аудио сильно различаются по своим возможностям. Наш Media Router решает эту проблему, сопоставляя запрос с возможностями и модальностями моделей, а затем оптимизируя выбор среди подходящих вариантов с учетом заданных вами предпочтений по стоимости, качеству и задержке.
Исторически каждый запрос на генерацию требовал ручного выбора модели и обновления этого выбора каждый раз, когда выходила новая модель, менялись цены или вы переключались на другой тип медиа. Media Router устраняет эти шаги, позволяя один раз настроить, что означает «лучший» для вашего варианта использования, и упрощая оценку и подключение новых моделей по мере их выпуска.
Основная ценность Runway Dev заключается в предоставлении пользователям доступа к лучшим в мире медиамоделям на одной платформе корпоративного уровня. Это означает прямой доступ к передовым моделям Runway, включая Gen-4.5, Aleph 2.0 и Act-Two, наряду с лучшими сторонними моделями, такими как Seedance, GPT Image 2 и ElevenLabs. Однако наличие каждой новой модели в день ее выхода также стало источником сложностей. Разработчики говорят нам, что не хотят становиться исследователями моделей на полставки, отслеживая, какая из них быстрее или лучше подходит для определенного стиля, и пересматривая этот выбор каждый раз, когда меняется каталог. Мы часто видим, как команды выбирают модель один раз и продолжают использовать ее долгое время после того, как она перестает быть оптимальным решением.
В масштабах предприятия этот разрыв увеличивается. Модель, которая немного дороже или медленнее, может не иметь значения при одном запросе, но при умножении на тысячи генераций она становится реальным препятствием для масштабирования из-за стоимости и задержек. Умная маршрутизация хорошо зарекомендовала себя для корпоративного использования LLM, но мы считаем, что она еще важнее для генеративного медиаконтента, где качество — гораздо более сложный параметр, чем в случае с текстом.
Media Router заменяет ручной выбор модели тремя шагами:
Установите свои предпочтения. В портале Runway Dev выберите предпочтения оптимизации между стоимостью, задержкой и качеством. Назовите свою конфигурацию, установите ценовой лимит, разрешите или запретите использование определенных моделей или провайдеров и настройте баланс между своими предпочтениями. Сохраните это один раз как многоразовую конфигурацию, привязанную к конкретному рабочему процессу, например, для быстрого предпросмотра в приложении или платного финального экспорта.
Вызовите одну конечную точку. Отправьте запрос на генерацию в конечную точку Media Router с прикрепленным идентификатором конфигурации. Нет необходимости указывать модель.
Получите лучшую модель. Маршрутизатор отфильтровывает любую модель, которая не соответствует вашим жестким ограничениям (соответствие возможностям, списки разрешенных и запрещенных моделей, ценовой лимит), а затем оценивает оставшиеся модели в соответствии с вашими предпочтениями по стоимости, качеству и задержке. Генерация происходит с помощью модели с наивысшим баллом, и результат возвращается вместе с метаданными, точно указывающими, какая модель была использована и почему.
Первоначальные параметры конфигурации, которые будут доступны сегодня:
- Ценовой лимит: жесткий потолок за генерацию, в долларах США в секунду для видео или за изображение для моделей генерации изображений
- Списки разрешенных и запрещенных моделей: правила на уровне провайдера и модели, которые ограничивают маршрутизацию только одобренными вариантами
- Установка предпочтений: определение ваших приоритетов в оптимизации стоимости, качества и задержки
Если запрос не может быть выполнен ни одной моделью в рамках ваших ограничений, Model Router возвращает явную ошибку с указанием того, какое ограничение привело к отсутствию вариантов, вместо того чтобы молча снижать ваши настройки. А перед тем как запустить конфигурацию в производство, флаг «сухого прогона» (dry-run) позволяет вам проверить, какую именно модель он выберет и почему, без каких-либо затрат и генерации контента.
Масштаб меняет реальную стоимость выбора модели: в долларах, в задержке и в затратах на контроль.
Для команд, выполняющих большие объемы запросов, небольшие различия быстро накапливаются. Доля цента или несколько миллисекунд задержки, умноженные на миллион запросов в год, становятся существенными расходами. Media Router также решает реальную проблему интеграции: как не отставать от быстро меняющегося каталога моделей, не обновляя постоянно свой код.
Media Router теперь работает для моделей видео, изображений и аудио в Runway Dev. Начните разработку на dev.runway.com.
