KRAFTON представляет превью собственной высокоэффективной LLM «Raon-1 mini»

– Обучение LLM класса 30B с нуля, публикация в открытом доступе для всеобщего использования

– Достигнута производительность, превосходящая зарубежные аналоги того же класса, по некоторым показателям приближается к крупным корейским моделям

– Преимущества в корейском диалоге, агентных возможностях и высокой скорости отклика… стремление к созданию «LLM с высокой производительностью и низкими затратами»

Компания KRAFTON (генеральный директор Ким Чан Хан) 21-го числа представила превью-версию собственной большой языковой модели (LLM) класса 30B «Raon-1 mini».

Данная модель является версией, выпущенной перед официальным релизом. Она была опубликована на Hugging Face под лицензией Apache 2.0. Любой желающий может бесплатно скачать и использовать модель, а также свободно применять её как в исследовательских целях, так и для разработки коммерческих сервисов и продуктов.

Превью Raon-1 mini — это LLM класса 30B, весь процесс создания которой, от проектирования архитектуры до обучения с нуля, был выполнен силами KRAFTON. Модель поддерживает английский и корейский языки. Чтобы обеспечить высокую производительность и эффективность вывода, KRAFTON разработала собственную уникальную архитектуру модели. В её основе лежит сочетание структуры «смеси экспертов» (MoE), которая активирует только 4 миллиарда (4B) параметров из общего числа в 30 миллиардов (30B), и собственной технологии линейного внимания (Linear Attention). Такая конструкция позволила добиться высокой скорости отклика и низких затрат на вывод.

Превью Raon-1 mini продемонстрировало превосходные показатели по сравнению с зарубежными моделями аналогичного масштаба, а по некоторым метрикам приблизилось к крупным корейским моделям. В частности, модель обладает сильными сторонами в естественном корейском диалоге и высокой скоростью отклика. Она также отлично справляется с выполнением инструкций, таких как форматирование или настройка персонажа. Способность следовать инструкциям является критически важной для использования агентов, которые самостоятельно выполняют многоэтапные задачи.

Ключевым фактором конкурентоспособности LLM для KRAFTON стала экономическая эффективность. Поскольку использование ИИ распространяется на все отрасли, компания пришла к выводу, что конкурентоспособность модели определяется не только производительностью, но и соотношением цены и качества в реальных условиях эксплуатации. Разработка модели с учетом практического применения, а не просто бенчмарковых оценок, продиктована тем же подходом. Модель, обеспечивающая высокую производительность при меньших затратах — это то, к чему стремится KRAFTON. Данное превью является отправной точкой, разработанной с упором на корейский диалог, агентные возможности и быструю скорость отклика.

KRAFTON планирует продолжать обновление Raon-1 mini для дальнейшего улучшения производительности перед выпуском официальной версии. При выпуске официальной версии также будет опубликован технический отчет, подробно описывающий процесс обучения и итоговые характеристики модели.

Ли Кан Ук, CAIO (директор по ИИ) KRAFTON, заявил: «Выпуск Raon-1 mini — это результат независимой разработки конкурентоспособной языковой модели, достигнутый благодаря научно-исследовательскому потенциалу в области ИИ, который KRAFTON накапливал более 5 лет. Мы будем расширять возможности использования ИИ в различных отраслях с помощью этой экономичной LLM, которая сочетает высокую производительность и низкие затраты».

В апреле KRAFTON запустила бренд ИИ-моделей «Raon» и опубликовала в открытом доступе 4 типа моделей: модель речевого языка (Raon-Speech), модель диалога в реальном времени (Raon-SpeechChat), модель преобразования текста в речь (Raon-OpenTTS) и визуальный энкодер (Raon-VisionEncoder). Данное превью Raon-1 mini является LLM, которая станет основой для будущих ИИ-моделей KRAFTON. Благодаря этой разработке компания получила технологический потенциал для проектирования производительности и эффективности вывода в соответствии с требованиями различных областей применения ИИ.

Между тем, KRAFTON продолжает исследования фундаментальных технологий, лежащих в основе разработки ИИ-моделей, и регулярно представляет их результаты на ведущих мировых конференциях по ИИ. Исследовательское подразделение ИИ на данный момент представило 54 статьи на ключевых международных конференциях, таких как NeurIPS, ICML и ICLR, а в этом году на NeurIPS 2026 было принято 9 статей в основной трек.