LFM2.5-24B-A2B: Создан для быстрых локальных агентов

Сегодня мы выпускаем LFM2.5-24B-A2B, модель рассуждения с 24 млрд параметров и всего 2 млрд активных параметров, созданную для быстрых и конфиденциальных агентов на устройствах. Это самая крупная и последняя модель в семействе LFM2.5, которое теперь охватывает два порядка величины: от LFM2.5-230M до LFM2.5-24B-A2B.

Модель LFM2.5-24B-A2B конкурентоспособна по сравнению с Qwen3.6-35B-A3B, моделью с примерно на 50% большим общим и активным количеством параметров, в пяти из восьми бенчмарков по агентным задачам и использованию инструментов, набирая 48.09 в LiveClaw против 38.19 и 27.69 в AutomationBench против 8.72. Поскольку на каждый токен приходится всего 2 млрд активных параметров, она работает на устройствах до 1.7 раза быстрее, чем сопоставимые MoE-модели, достигая скорости 184 токена/с на Apple M5 Max и до 21 тыс. выходных токенов/с на одном графическом процессоре NVIDIA B300.

Базовая (LFM2.5-24B-A2B-Base) и дообученная (LFM2.5-24B-A2B) модели имеют открытые веса и доступны уже сегодня на Hugging Face и в нашей «песочнице» Playground. Ознакомьтесь с нашей документацией о том, как запускать и дообучать модель локально.

Что изменилось по сравнению с LFM2-24B-A2B

LFM2.5-24B-A2B базируется на нашем предыдущем релизе LFM2-24B-A2B, предлагая расширенный словарь и контекстное окно, масштабированное предварительное обучение и крупномасштабное обучение с подкреплением. В отличие от своего предшественника, LFM2.5-24B-A2B — это модель, предназначенная исключительно для рассуждений, которая выстраивает явную цепочку мыслей перед выдачей окончательного ответа. Мы приняли эту стратегию, чтобы использовать высокую скорость декодирования и повысить качество ответов.

Архитектура. Модель сохраняет 40 слоев, 64 эксперта на MoE-блок с маршрутизацией top-4, а также ту же гибридную структуру из стробируемых коротких сверток и GQA. Два архитектурных изменения включают расширение контекстного окна с 32 768 до 131 072 токенов и расширение токенизатора, которое удваивает словарь с 65 тыс. до 128 тыс. токенов для более качественной токенизации нелатинских символов.

Предварительное обучение было масштабировано с 17 трлн до 33 трлн токенов.

Промежуточное обучение состоит из двух этапов. Первый этап включает 2 трлн токенов при контексте 32 тыс. на отобранных высококачественных данных с упором на рассуждения, математику, код, следование инструкциям и многоязычный текст. Второй этап включает 300 млрд токенов при контексте 131 тыс. с упором на данные с длинным контекстом. Вызовы инструментов и многоходовые траектории присутствуют на обоих этапах, чтобы подготовить модель к агентным рабочим нагрузкам.

Пост-обучение превращает LFM2.5-24B-A2B-Base в агентную модель LFM2.5-24B-A2B с помощью пятиэтапного конвейера, как показано ниже: (1) контролируемое дообучение (SFT), (2) специализация учителя, (3) неагентная и (4) агентная дистилляция на основе политики (MOPD), и (5) агентное обучение с подкреплением (Agentic RL), при котором модель обучается внутри агентных сред, таких как OpenClaw, Hermes Agent, Pi и OpenCode.

Во время специализации учителя LFM2.5-24B-A2B демонстрировала хорошо известные модели поведения «взлома вознаграждения»: поиск окончательного ответа в истории git репозитория или на таких платформах, как GitHub, PyPI и Hugging Face. Что еще более удивительно, она даже поняла, что находится в «песочнице», как показано в примерах ниже.

Такое поведение выглядит эмерджентным, но может объясняться наличием похожих паттернов в обучающих данных. В ответ мы ужесточили наши «песочницы», и все представленные ниже результаты получены в изолированных средах оценки.

Бенчмарки

Мы оценили LFM2.5-24B-A2B по 16 бенчмаркам, охватывающим использование инструментов и агентные рабочие процессы, знания, следование инструкциям, математику и программирование. Несмотря на то, что это самая маленькая модель по общему и активному количеству параметров, она конкурентоспособна и часто превосходит более крупные MoE-модели с примерно на 50% большим общим и активным количеством параметров, такие как Qwen3.6-35B-A3B.

Бенчмарк

LFM2.5-24B-A2B

Qwen3.6-35B-A3B

Gemma-4-26B-A4B-it

Nemotron-3.5-Lightning (30B-A3B)

AutomationBench

27.69

8.72

5.46

2.61

BFCLv4

65.01

65.00

57.09

53.78

ToolSandbox

80.71

75.02

72.09

75.13

LiveClaw

48.09

38.19

41.25

37.72

PinchBench

83.18

89.93

77.12

84.20

τ³-Bench Banking

8.04

7.63

4.54

7.01

WebArena Verified

26.75

37.62

25.62

28.69

GPQA Diamond

74.42

83.69

74.90

72.42

AA-Omniscience

-24.90

-24.35

-59.39

-3.58

HLE

7.40

7.69

8.57

5.65

IFEval

96.75

93.06

92.00

94.19

IFBench

74.69

64.21

47.44

71.67

Multi-IF

84.38

81.53

82.19

82.34

MATH-500

96.04

96.73

95.66

96.40

SWE-Bench Verified (OpenCode)

51.00

66.20

25.80

53.40

SciCode

32.71

37.35

35.42

27.78

LFM2.5-24B-A2B лидирует или не уступает конкурентам в пяти из восьми бенчмарков по использованию инструментов и агентным задачам (AutomationBench, BFCLv4, ToolSandbox, LiveClaw и τ³-Bench Banking), причем наибольший отрыв наблюдается в AutomationBench, где она набирает более чем в три раза больше баллов, чем следующая лучшая модель. Она также лидирует во всех трех бенчмарках на следование инструкциям. Более крупные модели сохраняют преимущество в бенчмарках, требующих обширных знаний, таких как GPQA Diamond, HLE и AA-Omniscience, а также в бенчмарках по программированию, таких как SWE-Bench Verified (OpenCode) и SciCode.

Результаты делают LFM2.5-24B-A2B идеальной основой для агентов, которым необходимо рассуждать, вызывать инструменты и надежно работать на вашем устройстве. Для рабочих нагрузок, требующих больших объемов знаний, мы рекомендуем сочетать LFM2.5-24B-A2B с поиском по документам или веб-поиском, что подчеркивает ее сильную сторону — вызов инструментов.

Быстрый инференс повсюду

LFM2.5-24B-A2B поставляется с поддержкой всей экосистемы инференса с первого дня:

• llama.cpp — чекпоинты GGUF для эффективного инференса на периферийных устройствах
• MLX — оптимизированный инференс для Apple Silicon
• vLLM — GPU-ускоренное обслуживание для производственной пропускной способности
• SGLang — высокопроизводительный фреймворк для обслуживания на GPU
• ONNX — кроссплатформенный инференс на различных ускорителях

Все запуски были собраны на Pipette, той же инфраструктуре бенчмаркинга, на которой основаны публичные данные Liquid AI о производительности устройств.

Инференс на периферии. Благодаря эффективной архитектуре LFM2, модель LFM2.5-24B-A2B является самой быстрой среди сравниваемых MoE-моделей при чтении промптов и генерации ответов. Она декодирует 184 токена/с на Apple M5 Max и 114 токенов/с на AMD Ryzen AI Max+ 395, что до 1.7 раза быстрее, чем у следующей лучшей модели, при минимальном использовании памяти.

Инференс на GPU. Чтобы продемонстрировать конкурентоспособность архитектуры LFM, мы сравниваем пропускную способность инференса на GPU с другими MoE-моделями аналогичного размера. Мы измеряем пропускную способность GPU (общее количество выходных токенов / время выполнения) на одном NVIDIA B300 GPU в режиме постоянной нагрузки: при каждом уровне параллелизма мы непрерывно поддерживаем целевое количество запросов, немедленно заменяя каждый завершенный запрос.

Мы тестируем каждую модель с помощью SGLang 0.5.22, 1024 входных токенов, до 256 выходных токенов в формате BF16. LFM2.5-24B-A2B — самая быстрая модель в своем классе размеров, достигающая более 21 тыс. выходных токенов в секунду при высокой параллельности.

Запуск локальных агентов с LFM2.5-24B-A2B

Размер, скорость и возможности LFM2.5-24B-A2B делают ее отличным выбором для агентов, которые постоянно работают на вашем собственном оборудовании. В демо ниже мы запускаем ее внутри Hermes Agent на MacBook Pro с чипом M5 Max, где она планирует, вызывает инструменты и выполняет реальную задачу полностью на устройстве, без каких-либо вызовов облачных API.

Суть демо не в отдельных инструментах. А в том, что цикл вызова инструментов ощущается интерактивным на потребительском оборудовании: запрос, предложение, подтверждение, выполнение, повтор — все это занимает значительно меньше секунды на один вызов, с полным аудиторским следом и без передачи ваших данных за пределы устройства. Ознакомьтесь с нашим руководством по локальным агентам, чтобы узнать, как обслуживать модель локально и подключить ее к выбранной вами агентной среде.

Начало работы

Начните создавать сегодня с LFM2.5-24B-A2B, доступной на Hugging Face.

Для API-вывода вы также можете зарегистрироваться в Liquid Console, где получите 2 доллара в качестве кредита для начала работы. Стоимость модели составляет 0,10 доллара за 1 млн входных токенов (0,05 доллара за кэшированные входные данные) и 1,00 доллар за 1 млн выходных токенов.

С помощью LFM2.5 мы воплощаем в жизнь наше видение ИИ, который работает где угодно. Эти модели:

• С открытыми весами — скачивайте, дообучайте и развертывайте. Ознакомьтесь с нашей лицензией на модель.
• Быстрые с первого дня — встроенная поддержка llama.cpp, MLX и vLLM на оборудовании Apple, AMD, Qualcomm и Nvidia.
• Полное семейство — от базовых моделей для настройки до специализированных аудио- и визуальных вариантов, одна архитектура охватывает разнообразные сценарии использования.

Нам не терпится увидеть, что вы создадите.

Цитирование

Для цитирования, пожалуйста, используйте следующую ссылку или BibTeX:

Liquid AI, "LFM2.5-24B-A2B: Built for Fast On-Device Agents", Liquid AI Blog, Oct 2026.

*Все модели оценивались с помощью vLLM и следующих параметров генерации:

• AutomationBench: temperature = 0.6, top_p = 0.95, без ограничения максимального количества выходных токенов (ограничено контекстным окном модели).
• BFCLv4: temperature = 0.001, максимальное количество выходных токенов = 4096.
• ToolSandbox: temperature = 0, максимальное количество выходных токенов = 1024; симулятор пользователя: GPT-4o-2024-08-06, temperature = 0, максимальное количество выходных токенов = 1024.
• LiveClaw: temperature = 1.0 (по умолчанию в vLLM; агент не устанавливает температуру), максимальное количество выходных токенов = 8192.
• τ³-Bench Banking: официальная пользовательская модель (GPT-5.2, низкий уровень рассуждений) с поиском BM25 по умолчанию, temperature = 0, максимальное количество выходных токенов = 16384 за ход.
• WebArena: temperature = 0.6, top_p = 0.95, max_turns = 40 (количество разрешенных действий в браузере), без ограничения максимального количества выходных токенов (ограничено контекстным окном модели).
• Другие оценки: temperature = 0.6, максимальное количество выходных токенов = 32768.