Коротко о главном (TL;DR)
Команда прикладных исследований LangChain обучает модели, лежащие в основе LangSmith Engine, с использованием Baseten Loops. Они дообучают открытую модель на агентных трейсах из LangSmith, и ранее в этом месяце мы уже писали об этой работе.
Теперь этот рабочий процесс доступен каждому, кто создает продукты на базе LangSmith. Компания LangChain объявила о запуск функции дообучения LangSmith сегодня на своей конференции Interrupt 26 в Нью-Йорке. Она работает на базе smithtune — CLI с открытым исходным кодом, который вы можете использовать самостоятельно или передать агенту по написанию кода.
CLI считывает ваши трейсы LangSmith и превращает успешные запуски в набор данных для обучения с учителем. Затем обучение запускается на Baseten Loops. Как только LangSmith оценивает новую контрольную точку (чекпойнт), команда smithtune deploy развертывает ее на выделенном инстансе инференса Baseten (Dedicated Inference).
Обучение на Baseten
Будучи провайдером обучения, Baseten позволяет smithtune осуществлять обучение через Python SDK для Loops на выделенных GPU в вашем собственном рабочем пространстве Baseten. Контрольные точки сохраняются на Baseten прямо во время прогона, поэтому развертывание модели никогда не требует скачивания весов и их загрузки куда-либо еще.
Перед планированием запуска CLI проверяет, для каких именно моделей в вашем рабочем пространстве разрешено обучение. Это особенно полезно, когда команды вводит агент по написанию кода. Он видит, что доступно, и не будет ставить в очередь задачу, которая не сможет запуститься.
Вы используете собственный ключ API Baseten, а оплата за обучение и инференс списывается с вашего аккаунта Baseten.
«Пользователи LangSmith давно просили дать им способ превращать производственные трейсы в модели, созданные под их собственные агенты. Мы дали нашему агенту файл README проекта smithtune и навыки агента, а затем просто позволили ему работать. Он прошел весь путь до модели, развернутой на Baseten, и это потребовало минимум вмешательства! У большинства пользователей LangSmith уже есть тысячи трейсов от их агентов, и мы хотели, чтобы обучение на них казалось столь же простым. Команда Baseten тесно сотрудничала с нашей на протяжении этого запуска, и мы рады предоставить пользователям LangSmith прямой путь от их трейсов к модели, работающей на Baseten».
Начало работы
Код доступен по адресу github.com/langchain-ai/smithtune. Для обучения на Baseten требуется аккаунт с поддержкой Loops, и поскольку Loops находится на стадии раннего доступа, возможно, сначала вам потребуется запросить эту функцию для вашего рабочего пространства.
Если smithtune будет запускать агент по написанию кода, навык агента в репозитории указывает на страницу docs.baseten.co/agent-setup. Эта страница настраивает вашего агента с использованием наших навыков агента и MCP-сервера документации Baseten.
