TL;DR
Команда прикладных исследований LangChain обучает модели, лежащие в основе LangSmith Engine, с помощью Baseten Loops. Они выполняют тонкую настройку открытой модели на основе трассировок агентов из LangSmith, и мы писали об этой работе ранее в этом месяце.
Теперь этот рабочий процесс доступен всем, кто создает решения на базе LangSmith. Сегодня на конференции Interrupt 26 в Нью-Йорке компания LangChain анонсировала LangSmith Fine-Tuning. Он работает на базе smithtune — CLI с открытым исходным кодом, который вы можете использовать самостоятельно или передать агенту для написания кода.
CLI считывает ваши трассировки LangSmith и превращает успешные запуски в набор данных для обучения с учителем. Затем обучение выполняется в Baseten Loops. Как только LangSmith оценивает новую контрольную точку, команда smithtune deploy развертывает ее в среде Baseten Dedicated Inference.
Обучение на Baseten
Поскольку Baseten выступает в качестве провайдера обучения, smithtune выполняет обучение через Python SDK Loops на выделенных GPU в вашем собственном рабочем пространстве Baseten. Контрольные точки сохраняются на Baseten во время выполнения, поэтому для развертывания модели не нужно скачивать веса и загружать их куда-то еще.
Перед планированием запуска CLI проверяет, какие модели разрешено обучать в вашем рабочем пространстве. Это особенно полезно, когда команды вводит агент для написания кода. Он видит, что доступно, и не поставит в очередь задачу, которая не может быть запущена.
Вы используете свой собственный API-ключ Baseten, а оплата за обучение и вывод (inference) списывается с вашего аккаунта Baseten.
«Пользователи LangSmith просили предоставить способ превращения их производственных трассировок в модели, созданные для их собственных агентов. Мы дали нашему агенту README smithtune и навык агента, и позволили ему действовать. Он довел нас до модели, развернутой на Baseten, и это потребовало минимум вмешательства! У большинства пользователей LangSmith уже есть тысячи трассировок от их агентов, и мы хотели, чтобы обучение на них было таким же простым. Команда Baseten тесно сотрудничала с нашей во время этого запуска, и мы рады предоставить пользователям LangSmith прямой путь от их трассировок до модели, работающей на Baseten».
Начало работы
Код находится по адресу github.com/langchain-ai/smithtune. Для обучения на Baseten требуется аккаунт с включенным Loops, а поскольку Loops находится на стадии раннего доступа, возможно, вам сначала потребуется запросить его для вашего рабочего пространства.
Если smithtune будет запускать агент для написания кода, навык агента в репозитории указывает на docs.baseten.co/agent-setup. Эта страница поможет настроить вашего агента с помощью наших навыков агента и MCP-сервера документации Baseten.
