Beam — это авторегрессионная трансформерная модель, которая принимает текстовые входы и генерирует текстовые выходы (преимущественно на английском языке). Она имеет архитектуру «микросхема экспертов» (MoE) с общим количеством параметров 501B, 23B активных параметров на токен и окном контекста до 1 миллиона токенов.
Beam — первая модель в новом семействе от Reflection, причем в будущих версиях планируется добавить поддержку многоязычности и мультимодальности. Beam разработана для разработчиков и исследователей, создающих системы для программирования и агентские системы, а также для предприятий, которые хотят настраивать и запускать собственные модели. Она работает «из коробки» с теми средами выполнения, фреймворками, инструментами для написания кода и утилитами, которые разработчики используют уже сегодня.
Оценки Reflection демонстрируют высокую производительность в бенчмарках для программирования, агентских задач, логического вывода и точных наук (STEM):
Производительность в агентском программировании
Производительность логического вывода
Reflection обучила Beam решать задачи программирования и агентские задачи, используя меньше токенов для достижения успешного результата. Цель состоит в том, чтобы снизить стоимость таких нагрузок. Обучение с подкреплением (RL) стало ключевой частью процесса обучения Beam.
Reflection использовала более длинные прогоны RL, чтобы Beam могла практиковаться в решении задач в несколько этапов, используя инструменты и корректируя свой подход на основе обратной связи. Reflection вознаграждала успешные решения во время обучения и применяла штраф за длину, чтобы предотвратить появление лишних токенов. Короче говоря, более длинные прогоны позволяли Beam справляться со сложными задачами, а штраф за длину стимулировал делать это с меньшим количеством токенов.
Пользователи также могут настраивать параметр глубины логического вывода Beam: более низкие значения отдают предпочтение более коротким ответам, а более высокие — допускают больший объем рассуждений для повышения производительности в сложных задачах.
Начните использовать Beam на Baseten
Вы можете использовать Beam уже сегодня через API моделей Baseten и выделенный инференс (Dedicated Inference). Создавайте системы для программирования и агентские системы, которые решают сложные задачи без перерасхода токенов.
