PrismML расширяет семейство моделей Bonsai 2 моделями с 2B, 4B и 9B параметрами для локального ИИ

Источник: PrismML•

PrismML расширяет семейство моделей Bonsai 2 моделями с 2B, 4B и 9B параметрами для локального ИИ

Новые модели сочетают в себе возможности рассуждения, компьютерного зрения и вызова инструментов для поддержки ИИ-агентов на повседневных устройствах

Новые модели сочетают в себе возможности рассуждения, компьютерного зрения и вызова инструментов для поддержки ИИ-агентов на повседневных устройствах

ПАСАДЕНА, Калифорния — 15 октября 2026 г. — Сегодня компания Prism расширила свое семейство Bonsai 2 новыми тернарными моделями с 2B, 4B и 9B параметрами на базе Qwen3.5. Эти релизы предоставляют более широкие возможности для компактных вариантов развертывания, рассчитанных на ресурсные ограничения персональных компьютеров, смартфонов, умных очков и других носимых устройств. Семейство Ternary Bonsai 2 теперь включает четыре размера с количеством параметров от 2B до 27B.

Опираясь на модели первого поколения Bonsai 1.7B, 4B и 8B, новые версии сочетают в себе улучшенные возможности рассуждения, визуального восприятия и поддержку рабочих процессов на основе вызова инструментов. В моделях используется разработанное Prism представление тернарных весов, которое кодирует веса модели с помощью трех значений: {−1, 0, +1}. Модели 2B, 4B и 9B имеют объем 0,43 ГБ, 0,95 ГБ и 2,00 ГБ соответственно, что более чем в 9 раз меньше их полноразмерных аналогов.

«Локальные агенты должны быть достаточно умными, чтобы принимать правильные решения в условиях ограниченной памяти и энергопотребления», — заявил Бабак Хассиби, основатель и генеральный директор Prism. «Выпуская эти версии Ternary Bonsai 2, мы предоставляем разработчикам больше возможностей в рамках данных ограничений и большую гибкость в создании приложений».

Более высокая производительность для локального ИИ

В ходе тестирования по набору из 19 бенчмарков новые модели Ternary Bonsai 2 не уступают или превосходят производительность полноразмерных аналогов в задачах написания кода, математики и следования инструкциям. В задачах, связанных с компьютерным зрением, агентской работой, вызовом инструментов, а также знаниями и логическими рассуждениями, модели сохраняют значительно более 90% результатов бенчмарков полноразмерных моделей Qwen3.5. Во всех случаях модели Ternary Bonsai 2 демонстрируют значительный прирост производительности по сравнению с моделями Ternary Bonsai первого поколения.

Для агентов, которые чередуют интерпретацию информации, вызов инструментов и генерацию ответов, более быстрый вывод может сократить время, затрачиваемое на подготовку каждого действия или ответа.

На таком оборудовании, как RTX 4090 и Macbook M5 Pro, модели Bonsai 2 обеспечивают до 3 раз большую энергоэффективность и до 5 раз большую пропускную способность по сравнению с соответствующими полноразмерными моделями. Bonsai 2 9B достигает до 124 токенов/с, в то время как Bonsai 2 2B — до 276 токенов/с.

Их компактный размер также идеально подходит для мобильных устройств. На iPhone 18 Pro Max модель Bonsai 2 9B обеспечивает скорость до 34 токенов в секунду, тогда как Bonsai 2 2B достигает до 120 токенов/с.

Создание приложений с использованием Bonsai 2

На саммите Snapdragon в сентябре компания Prism продемонстрировала 1-битную модель визуального языкового восприятия Bonsai, работающую локально на умных очках с поддержкой ИИ на базе платформы Snapdragon AR1 Gen 1. Созданная на основе Bonsai первого поколения, эта модель продемонстрировала, как визуальное восприятие и помощь могут работать в рамках ограничений памяти и энергопотребления носимого оборудования.

Новые модели Bonsai 2 развивают этот успех благодаря более сильным возможностям рассуждения, визуального понимания и вызова инструментов. Эти возможности создают основу для внедрения базового функционала агентов в будущие приложения на смартфонах, умных очках и других носимых устройствах. Разработчики могут создавать ассистенты, которые интерпретируют запросы пользователя, анализируют текстовый или визуальный контекст и используют инструменты приложений для выполнения коротких последовательностей действий.

Технические детали

Модели Ternary Bonsai 2 2B, 4B и 9B были обучены с использованием Google v5 TPU. Они разработаны для бесшовной интеграции с существующими рабочими процессами ИИ и оптимизированы для вывода с низким временем отклика на потребительских процессорах и периферийных графических процессорах.

Цены и доступность

Разработчики, исследователи и другие пользователи могут бесплатно загрузить новые модели Bonsai 2 по лицензии Apache 2.0 начиная с 15 октября 2026 года.

О компании Prism

Prism — американская компания, занимающаяся искусственным интеллектом и стремящаяся сделать ИИ более эффективным и доступным. Компания Prism выросла из команды исследователей из Caltech и была основана при поддержке Khosla Ventures, Cerberus и Google, а также продолжает получать поддержку от Samsung. Для получения дополнительной информации посетите веб-сайт, LinkedIn или X.

Все зарегистрированные товарные знаки и идентификаторы продуктов принадлежат их соответствующим корпоративным юридическим лицам. Любые другие товарные знаки или названия продуктов, упомянутые здесь, также являются исключительной собственностью соответствующих компаний.

О чём эта статья