Что такое модели с открытыми весами? Последние релизы и почему они важны для суверенного ИИ

Когда появляется новая LLM с открытым исходным кодом, возникает естественное желание проверить таблицу лидеров и узнать, превосходит ли она модель прошлого месяца. Этот вопрос быстро устаревает. В период с конца июля по октябрь 2026 года компании Moonshot AI, Meta, Reflection, NVIDIA, DeepSeek, Z.ai, команда Qwen, Xiaomi и Aleph Alpha выпустили новые модели, а Mistral готовит к выходу еще одну.

Более полезные вопросы касаются лицензии, оборудования и совместимости. Что вы можете легально делать с моделью и можете ли вы запустить ее там, где хранятся ваши данные? Хорошо ли она справляется с вашей задачей и сможете ли вы заменить ее, когда появится следующий релиз?

LLM с открытым исходным кодом — это большая языковая модель, весы которой находятся в публичном доступе, чтобы любой мог их скачать, запустить и адаптировать; большинство моделей, продаваемых под этим ярлыком, строго говоря, являются моделями с открытыми весами, поскольку их обучающие данные и полный код обучения не публикуются в соответствии с требованиями определения Open Source Initiative.

Что такое LLM с открытым исходным кодом и почему большинство из них на самом деле являются моделями с открытыми весами?

В повседневном использовании LLM с открытым исходным кодом — это любая модель, весы которой вы можете скачать и запустить самостоятельно. В строгом смысле почти ни одна из них не соответствует этому критерию. Определение Open Source Initiative требует свободы использования, изучения, изменения и распространения системы, а также запрашивает информацию о данных, код и параметры.

Когда OSI опубликовала определение, она проверила по нему известные модели. OLMo, Pythia, CrystalCoder и T5 соответствовали определению; LLaMA2, Phi-2, Mixtral и Grok — нет. Мало что изменилось: в отчете Mozilla State of Open Source AI report от сентября 2026 года были рассмотрены 16 заметных открытых релизов, и ни один из них не поставляется с рецептом данных, требуемым в определении.

Модель с открытыми весами — это ИИ-модель, обученные параметры которой опубликованы для скачивания по лицензии, в то время как данные и код, использованные для ее обучения, могут оставаться закрытыми.

Открытый исходный код против открытых весов и закрытых моделей

• Открытый исходный код (OSAID 1.0): весы, код обучения и достаточно информации об обучающих данных для воссоздания системы на условиях, которые разрешают использование, изучение, изменение и распространение. Эталонными примерами являются OLMo и Pythia.
• Открытые весы: скачиваемые весы по лицензии, которая может варьироваться от Apache 2.0 или MIT до пользовательской лицензии с правилами атрибуции или порогами выручки. Данные и рецепт обучения обычно остаются закрытыми.
• Закрытые: весы отсутствуют, а размер или архитектура зачастую не раскрываются. Вы используете модель через API поставщика.

Почему ярлык имеет значение, если весы в любом случае можно скачать? Пользовательская лицензия может ограничивать коммерческое использование или налагать условия при масштабировании, а без возможности изучения обучающих данных вы не можете полностью проверить, чему научилась модель.

Регуляторы также проводят границы на основе условий лицензирования, как описано в разделе о Законе об искусственном интеллекте ЕС ниже.

Ключевые термины: параметры, активные параметры и контекстные окна

Параметры — это числа, которым обучается модель; активные параметры — это доля параметров, которую модель типа MoE использует для каждого токена; контекстное окно — это максимальное количество токенов, которое модель может прочитать за один раз.

• Параметры (весы): числа, которым модель обучается в процессе тренировки. Количество параметров во многом определяет, сколько памяти ускорителя вам потребуется.
• Смесь экспертов (MoE): модель, разделенная на множество небольших подсетей, называемых экспертами, плюс маршрутизатор, который отправляет каждый токен только некоторым из них. Плотная модель, такая как Qwen3.8-27B, вместо этого использует все свои параметры для каждого токена.
• Общее количество параметров против активных: общее количество параметров — это размер всей модели MoE; активные параметры — это то, сколько из них используется для каждого токена. Reflection Beam имеет общую емкость 501B, но 23B активных. Общее количество параметров определяет необходимый объем памяти, поскольку должен быть загружен каждый эксперт; активные параметры определяют объем вычислений на токен, а следовательно — скорость и стоимость работы.
• Токен: единица, которую модель читает и записывает, обычно слово или часть слова. В английском языке один токен составляет примерно три четверти слова в среднем.
• Контекстное окно: максимальное количество токенов, которое модель может принять за один раз, включая ваш промпт, любые включенные вами документы и ее ответ. «Контекст в 1 млн токенов» означает около одного миллиона токенов или примерно 750 000 английских слов. Заявленный максимум не всегда является полезным диапазоном: Kolibri-1 от Aleph Alpha поддерживает около 1 млн токенов, но recommends 262,144 or fewer.
• Точность и квантование (BF16, FP8, NVFP4, 2-bit): количество битов для хранения каждого параметра. Меньшее количество битов означает меньший объем памяти, обычно ценой некоторого снижения качества. В Nemotron 3.5 Bolt от NVIDIA используется native 2-bit build to fit in 24GB.

Каковы последние релизы моделей с открытыми весами?

С конца июля 2026 года девять лабораторий выпустили новые модели с открытыми весами, большинство из которых представляют собой крупные MoE-модели с контекстом до 1 млн токенов. Список сгруппирован по месту базирования разработчика, что является скорее вопросом закупок, чем оценкой качества.

Релизы американских лабораторий

• Meta Muse Spark Open (15 октября 2026 г.): MoE-модель с общим объемом 816B / 42B активных параметров с контекстом до 1 млн токенов, принимающая на вход текст, изображения, видео и аудио и выдающая текст. Ей требуется не менее 700 ГБ памяти ускорителя в формате NVFP4 и 2 ТБ в BF16, а репозиторий Hugging Face закрыт для свободного доступа.
• Meta Muse Glimmer 30B (август 2026 г.): Apache 2.0 model distilled from Muse Spark для потребительского оборудования.
• Reflection Beam 1.0 (5 октября 2026 г.): 501B total / 23B active MoE с контекстом 1M, только для работы с текстом, под лицензией Apache 2.0. Репозиторий Hugging Face включает сборки BF16, FP8 и NVFP4.
• NVIDIA Nemotron 3.5 Lightning (11 августа 2026 г.): 30B total / 3B active hybrid of Mamba-2, MoE and attention с контекстом до 1 млн. Она работает на одном H100 80GB с контекстом 256K и поставляется по лицензии OpenMDW-1.1.
• NVIDIA Nemotron 3.5 Bolt (15 октября 2026 г.): , которая принимает текст, изображения и видео продолжительностью до двух минут, с контекстом 256K, по лицензии OpenMDW-1.1.

Релизы китайских лабораторий

• Moonshot AI Kimi K3 (конец июля 2026 г.): 2.8T total / 104B active MoE с контекстом около 1 млн токенов, читающая текст и изображения, с весами в MXFP4.
• DeepSeek V4.1 Flash (10 сентября 2026 г.) и ее обновление V4.1-Flash-1017 (17 октября): multimodal MoE on a 552B backbone under MIT, с 8B активных параметров на токен при префилле и 16B при декодировании, и контекстом до 1M (обновление здесь).
• Z.ai GLM-5.3: выпущена 14 августа 2026 года, весы появились примерно через две недели, согласно оценке NIST, по пользовательской лицензии.
• Qwen3.8: 27B dense model under Apache 2.0 (август 2026 г.) с нативным контекстом 262K, расширяемым до 1M, плюс 2.4T total / 95B active MoE под пользовательской лицензией Qwen3.8-Max License.
• Xiaomi MiMo-V2.6-Pro (сентябрь 2026 г.): 1.02T total / 42B active omnimodal model under MIT с контекстом 1M.

Релизы европейских лабораторий

• Aleph Alpha Kolibri-1 (3 октября 2026 г.): под лицензией Apache 2.0 с весами FP8 размером около 78 ГБ, которые работают на одном H200 или B200, либо на двух H100.
• Mistral Large 4 (ожидается): Mistral previewed it on 6 October 2026 как «мультимодальная модель с 1 триллионом параметров и 52 миллиардами активных параметров». По состоянию на 27 октября ее страница в Hugging Face указывает весы как ожидаемые, с датой выхода 31 октября и без указания лицензии.

Какое место занимают модели Llama от Meta в настоящее время

Llama больше не является линейкой открытых моделей Meta. Mozilla сообщает, что , с семейством Muse. Последние LLM Meta Llama — Llama 4 Scout и Maverick от апреля 2025 года — remain gated under the llama4 licence.

Что означают последние релизы с открытыми весами?

В совокупности релизы демонстрируют четыре тенденции: архитектура MoE с контекстом в 1 миллион токенов стала стандартом де-факто, сильные открытые модели появляются в большем числе стран, открытые модели лишь немного уступают закрытым, а многие лицензии выглядят открытыми, не являясь при этом полноценным ПО с открытым исходным кодом.

MoE и контекст в 1М токенов — новая базовая линия

Почти каждый крупный анонс выше представляет собой модель MoE, причем большинство из них — это открытые LLM с поддержкой длинного контекста до 1 млн токенов. Практичность такого подхода достигается за счет разницы между общим и активным количеством параметров: Kimi K3 активирует 104 млрд из своих 2,8 трлн параметров на один токен, а Kolibri-1 задействует 3,46 млрд из 78 млрд.

Сильные открытые модели теперь создаются в самых разных регионах

В ходе исследования Mozilla выяснилось, что самые сильные открытые модели «преимущественно китайские», среди них были названы Kimi K3, GLM-5.3 и Qwen 3.8. Осенью к ним добавились сильные альтернативы из других стран. Издание Interconnects называет Muse Spark Open лучшей открытой моделью американского производства с заметным отрывом, а Kolibri-1 предлагает европейским покупателям эффективную модель с мягкой лицензией от европейского разработчика.

Открытые модели лишь немного уступают закрытым

Согласно Индексу искусственного интеллекта Artificial Analysis по состоянию на 1 сентября 2026 года, лучшая открытая модель , по данным Mozilla; годом ранее ведущая открытая модель набирала 22 балла. Для большинства корпоративных задач, таких как генерация с дополненной выборкой (RAG) по внутренним документам, разница такого масштала имеет меньшее значение, чем соответствие модели конкретным требованиям.

Лицензии, которые выглядят открытыми, но таковыми не являются

Четыре заметных релиза используют нестандартные лицензии. Лицензия Kimi K3 требует заключения отдельного соглашения для компаний, предоставляющих модель как услугу (MaaS) и имеющих доход более 20 млн долларов США за любые 12 месяцев, а также наличия упоминания «Kimi K3» в интерфейсе очень крупных продуктов, при этом внутреннее использование освобождено от этих требований. Лицензия Muse Model требует указания авторства «Built with Muse Spark Open» и заключения отдельного соглашения для провайдеров MaaS с валовым доходом более 20 млн долларов США за любые 12 месяцев. требует прохождения проверки безопасности Z.ai для бизнесов модели как услуги с доходом более 10 млрд долларов.

Называть такие модели «открытыми» — значит скрывать именно те условия, которые должен изучить ваш юридический отдел.

Какая модель с открытыми весами лучше всего подходит для написания кода и других задач?

GLM-5.3 и Kimi K3 лидируют в агентском программировании, Nemotron 3.5 Bolt оптимизирована под один графический процессор с 24 ГБ памяти, а Kolibri-1 поддерживает немецкий и английский языки. Рассматривайте этот список как шорт-лист для тестирования: большинство показателей заявлены самими производителями, а рейтинги меняются ежемесячно.

• Агентское программирование: GLM-5.3 и Kimi K3 являются лучшими моделями с открытыми весами в бенчмарке DeepSWE от Datacurve, набрав 69,0% и 68,5% на 113 оригинальных задачах по разработке ПО по состоянию на сентябрь 2026 года. Kimi K3, обладающая 2,8 трлн общих параметров, требует оборудования дата-центра.
• Один графический процессор: Nemotron 3.5 Bolt создана для локального выполнения агентских задач на 24 ГБ, хотя ее бенчмарки предоставлены разработчиком. Другими компактными вариантами на базе одной карты H100 80GB являются Qwen3.8-27B и Nemotron 3.5 Lightning.
• Изображения, видео и аудио: Muse Spark Open принимает все четыре типа входных данных, MiMo-V2.6-Pro является мультимодальной, а Bolt работает с изображениями и короткими видеороликами.
• Немецкий и английский языки: Kolibri-1 — двуязычная модель от немецкого разработчика.
• Минимум лицензионных ограничений: Beam, Kolibri-1 и Qwen3.8-27B (Apache 2.0), а также DeepSeek V4.1 Flash и MiMo-V2.6-Pro (MIT).

Почему модели с открытыми весами важны для бизнеса и суверенного ИИ?

Модели с открытыми весами позволяют запускать ИИ близкого к передовому уровню на выбранной вами инфраструктуре, с меньшими затратами и без зависимости от API одного вендора — это практическая основа суверенного ИИ.

Корпоративное использование растет

Опрос 200 предприятий, проведенный ETR reported by Techstrong.ai, показал, что на модели с открытыми весами приходится 34% от общего объема использования корпоративных ИИ-токенов по сравнению с 23% год назад, причем 42% респондентов запускают их в продакшене. Сокращение расходов является главной причиной, а проверки безопасности и соответствия нормативным требованиям — основным препятствием; как отмечает Constellation Research, эти цифры основаны на самооценке участников.

Открытые весы — практическая основа для суверенного ИИ

Суверенный ИИ означает сохранение контроля над тем, где работает ваш ИИ, какие данные он обрабатывает и от каких поставщиков вы зависите; наша обзорная статья подробно раскрывает концепцию суверенного ИИ. Когда весы находятся у вас, вы можете запустить модель локально (on-premises) или в выбранном регионе, хранить промпты и документы внутри собственной инфраструктуры и перейти на другую модель без пересмотра контракта на API.

Выбор моделей для суверенного ИИ по-прежнему требует внимания к происхождению модели. Возьмем европейское предприятие, стремящееся к ИИ-суверенитету и запускающее на собственном оборудовании модель из китайской лаборатории, такую как Kimi K3 или DeepSeek V4.1 Flash: его данные никогда не попадают к разработчику модели, в чем и заключается смысл самостоятельного хостинга.

Ему по-прежнему необходимо тестировать поведение модели, читать лицензию и проверять, не вызывает ли ее происхождение вопросов с точки зрения закупок или регулирования, точно так же, как в случае с американской или европейской моделью. Наличие сильных вариантов из разных регионов делает такое сравнение возможным.

Что исключает и не исключает Закон об ИИ ЕС

Закон об ИИ ЕС дает открытым моделям лишь небольшую поблажку, а не полное освобождение от требований. Article 53(2) освобождает провайдеров моделей искусственного интеллекта общего назначения от предоставления технической документации и информации для последующих разработчиков, если модель выпущена под свободной лицензией с открытым исходным кодом и общедоступными весами, однако это не распространяется на модели с системным риском, presumed above 10^25 FLOPs of training compute.

Что следует проверить перед запуском модели с открытыми весами в продакшн?

Прежде чем принимать решение, проверьте четыре параметра: лицензию, аппаратное обеспечение, происхождение и применимость модели, а также простоту ее последующей замены. Опрос 1411 разработчиков, проведенный Mozilla и SlashData, показал , и позволил сделать вывод, что «проблема заключается в инструментарии, а не в возможностях».

• Лицензия: является ли она Apache 2.0 или MIT, или это пользовательская лицензия с требованиями к указанию авторства, порогам выручки или проверкам со стороны вендора, которые применимы к вашему случаю использования?
• Аппаратное обеспечение: сколько памяти требуется для общего числа параметров при выбранной вами точности, и не лучше ли для этой задачи подойдет меньшая модель вроде Qwen3.8-27B или Nemotron 3.5 Bolt, либо MoE с малым количеством активных параметров, такая как Kolibri-1?
• Происхождение и применимость: протестировали ли вы модель на собственных данных и задачах, и не вызывает ли ее происхождение вопросов нормативного, закупочного или политического характера для вашей организации?
• Возможность замены: сможете ли вы заменить модель, не перестраивая поиск, промпты и определения инструментов?

Как сохранить взаимозаменяемость моделей с помощью Haystack?

Возможность замены моделей — это во многом архитектурное решение. Платформа Haystack Enterprise Platform не привязана к конкретным моделям: модель находится в компоненте LLM или Agent пайплайна, поэтому переход от размещенного API к модели с открытыми весами на собственном хостинге сводится к изменению настроек модели в этом компоненте, а не к перестройке поиска или инструментов. Пользовательское определение модели сохраняет вашу хостинговую модель и ее параметры для повторного использования в разных пайплайнах, а Prompt Explorer позволяет сравнивать до трех пайплайнов параллельно, что дает возможность перенастроить промпты перед переключением.

Как инженерия обвязки (harness engineering) повышает производительность моделей с открытыми весами?

Инженерия обвязки — это работа по проектированию кода вокруг модели: того, что она извлекает, как формируются промпты, какие инструменты она может вызывать и когда она останавливается. В исследовании Meta-Harness обвязка определяется как "the code that determines what information to store, retrieve, and present to the model", и демонстрируется, как один усовершенствованный вариант обвязки повысил точность решения сложных математических задач в среднем на 4,7 пункта по пяти различным моделям.

Это имеет наибольшее значение для моделей с открытыми весами, поскольку модель, которую вы можете разместить самостоятельно, часто меньше передовой модели, работающей через API. Более совершенная обвязка сокращает этот разрыв без изменения весов, поэтому сравнивайте модели внутри той обвязки, которую вы действительно будете запускать. В Haystack каждая часть обвязки представляет собой компонент, который вы можете настраивать и тестировать отдельно:

• Что видит модель: ретриверы и ранкеры выбирают несколько важных фрагментов вместо заполнении контекстного окна.
• Как она действует: компонент Agent вызывает инструменты в цикле до выполнения условия выхода с ограничением на количество шагов.
• Как это проверяется: цикл конвейера с ConditionalRouter может отправить некорректный ответ на повторную попытку, а Agent возвращает ошибку неудачного вызова инструмента модели, чтобы она могла восстановиться.

Haystack Enterprise Platform запускает те же компоненты Haystack, записывает трассировку каждого запуска, чтобы вы могли видеть, какой шаг завершился с ошибкой, является независимой от моделей и может развертываться самостоятельно в частном облаке или локально. По умолчанию она не включает никаких моделей: в изолированных (air-gapped) средах вы размещаете собственные LLM, модели эмбеддингов и ранжирования.

Что ждет модели с открытыми весами в будущем?

Ожидайте новых релизов, ориентированных на корпоративных и суверенных покупателей, подобных тем, на которые намекала Reflection, когда она представила Beam «предприятиям и суверенным государствам». Весы Mistral Large 4 — следующие, за которыми стоит понаблюдать, и ее лицензия будет иметь столь же важное значение, как и сама модель. Поскольку открытые модели отстают от закрытых на несколько пунктов, большая часть оставшихся усилий приходится на внешнюю часть по отношению к модели: проверку лицензии, согласование безопасности, развертывание, проектирование обвязки и оценку.

Заключение

Большинство LLM с открытым исходным кодом являются моделями с открытыми весами. Изучите цифры, описывающие релиз, отберите модели по выполняемой вами задаче и оценивайте каждую по ее лицензии, требованиям к оборудованию, происхождению и тому, насколько легко ее заменить. Затем инвестируйте в обвязку, потому что именно в ней модель для самостоятельного хостинга получает больше всего преимуществ.

Часто задаваемые вопросы

Являются ли модели Llama от Meta открытым исходным кодом?

Нет. Llama 4 Scout и Maverick , а организация OSI обнаружила, что LLaMA2 не соответствует ее определению. Теперь Meta выпускает открытые веса под именем Muse.

Является ли DeepSeek открытым исходным кодом?

DeepSeek V4.1 Flash — это модель с открытыми весами под либеральной лицензией MIT, поэтому вы можете свободно скачивать, запускать и изменять ее. Это не открытый исходный код в понимании OSI: Mozilla обнаружила, что ни один из 16 заметных открытых релизов, которые она рассмотрела, не поставляет рецепт данных, требуемый этим определением.

Какая LLM с открытым исходным кодом лучше всего подходит для написания кода?

GLM-5.3 и Kimi K3 лидируют среди моделей с открытыми весами в бенчмарке программирования DeepSWE от Datacurve. Для одной видеокарты компактным вариантом для тестирования является Nemotron 3.5 Bolt. Сравните ваш короткий список внутри собственной агентской обвязки.

Что такое LLM с открытым исходным кодом с длинным контекстом?

Это модель с открытыми весами, которая может принимать очень длинные входные данные, часто до одного миллиона токенов за раз (примерно 750 000 английских слов). Kimi K3, Beam, DeepSeek V4.1 Flash и Muse Spark Open — все они поддерживают это, но качество при такой длине варьируется, поэтому тестируйте на собственных документах.