MiniMax M3.1 Flash уже доступна на Inference с первого дня

Источник: Inference.net•

MiniMax M3.1 Flash уже доступна на Inference с первого дня

Inference является официальным провайдером первого дня для MiniMax M3.1 Flash — модели типа «Смесь экспертов» (Mixture-of-Experts) с 428 миллиардами параметров, созданной для написания кода, агентов и сложных рабочих процессов. Запустите ее сегодня через наш бессерверный API по цене $0.10 /…

Мы рады быть официальным провайдером первого дня для MiniMax M3.1 Flash. Созданная для программирования, работы агентов и сложных рабочих процессов, M3.1 Flash обеспечивает высокую производительность агентных систем при конкурентоспособной стоимости и доступна уже сегодня в нашем бессерверном API.

Попробуйте ее в Inference или зарегистрируйтесь бесплатно, чтобы начать работу.

Что такое MiniMax M3.1 Flash?

MiniMax M3.1 Flash — это нативная мультимодальная модель типа «Смесь экспертов». Она имеет около 428 млрд общих параметров и активирует 23 млрд на токен, что позволяет поддерживать низкие задержки и стоимость при сохранении глубоких возможностей рассуждения.

Она создана на базе MiniMax-M3 с тремя изменениями, направленными на повышение эффективности:

  • Разреженное внимание (Sparse attention) повсеместно. Разреженное внимание MiniMax теперь работает во всех слоях, включая первые три слоя, которые использовали полное внимание в M3.
  • Обучение с учетом квантования (Quantization-aware training). Маршрутизируемые эксперты и пути внимания квантуются в процессе обучения, что уменьшает объем памяти и повышает эффективность обслуживания.
  • Успешное спекулятивное декодирование DSpark. Новый модуль предварительной генерации заменяет предыдущий подход MTP для ускорения генерации.

В Inference модель M3.1 Flash поддерживает контекстное окно на 1 млн токенов, ввод изображений, вызов функций, структурированные выводы и автоматическое кэширование промптов. Усилие рассуждения можно выбирать для каждого запроса: low (низкое), medium (среднее), high (высокое), xhigh (очень высокое) или max (максимальное).

Бенчмарки

MiniMax сообщает о высоких результатах в бенчмарках агентных систем, программирования и использования компьютера. M3.1 Flash лидирует в своей группе сравнения в Automation-Bench (62.8) и LOCA-Bench 256K (60.3), а также делит первое место с Opus 5 в BankerToolBench (76.2).

Мы протестировали ее

Бенчмарки отражают лишь часть картины, поэтому мы дали M3.1 Flash несколько открытых промптов: интерактивную лабораторию двойного маятника, 3D-игру про техника дата-центра и, конечно же, классику. Первые два примера вы можете посмотреть в нашей ветке запуска в X.

Классический пеликан

сделайте SVG-изображение пеликана, едущего на велосипеде

сделайте SVG-изображение пеликана, едущего на велосипеде

Цены

Мы размещаем M3.1 Flash на собственной инфраструктуре по конкурентоспособным ценам:

Начало работы

M3.1 Flash работает на базе нашего API, совместимого с OpenAI, поэтому вы можете переключиться на нее, изменив модель одной строкой кода:

Перейдите на страницу модели, чтобы опробовать ее, или зарегистрируйтесь бесплатно, чтобы получить ключ API.

КОНТАКТЫ

Встретьтесь с нашей исследовательской командой

Запланируйте звонок с нашей исследовательской командой, чтобы узнать больше о том, как специализированные языковые модели могут снизить затраты и повысить производительность.

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →

Ещё от Inference.net