Подразделение Salesforce AI Research недавно опубликовало SFR-AutoR&D — набор агентов, созданных для выполнения полного цикла исследований, автономного улучшения кодовых баз и обучения моделей ИИ. Получив одну цель, систему для работы и бюджет вычислительных ресурсов, агенты SFR-AutoR&D формулируют гипотезы, внедряют методы и проводят контролируемые эксперименты в сравнении с базовыми показателями. Они сохраняют улучшения в кодовой базе только в том случае, если они подтверждены доказательствами и признаны точными и безопасными.
SFR-AutoR&D в настоящее время используется для обучения и улучшения производственных моделей ИИ. Система автономно улучшила SFR-Embedding V3 — модель, которую Salesforce использует для поиска в Data Cloud. Затем команда Salesforce AI Research направила SFR-AutoR&D на модель с открытым исходным кодом EmbeddingGemma 2, и в результате была получена модель SFR-Embedding v4, заметно превосходящая предыдущую как по качеству, так и по задержке. Это ранние примеры чего-то большего: ИИ-систем, которые улучшают программное обеспечение и модели, на которых уже работает предприятие.
Система уже успела зарекомендовать себя в улучшении публичных кодовых баз. Первые опубликованные результаты были получены на примере программного обеспечения с открытым исходным кодом, на которое ежедневно полагаются команды по работе с корпоративными данными: pandas, библиотека Python, которую большинство специалистов по анализу данных используют для обработки больших таблиц. Другие кодовые базы, улучшенные с помощью SFR-AutoR&D, включают hnswlib и USearch — две библиотеки, обеспечивающие поиск по сходству, лежащий в основе ИИ-поиска. Это глубоко оптимизированные проекты, в которые эксперты вкладывали годы настройки, и все же агенты нашли дополнительные улучшения во всех трех, каждое из которых подкреплено эталонными доказательствами.
Модели эмбеддингов — это «рабочие лошадки» корпоративного ИИ, выполняющие неброскую работу, которая поддерживает функционирование бизнеса. Они преобразуют текст в числовые представления, чтобы система могла найти нужную запись, документ или историю болезни среди миллионов. Когда агент Agentforce отвечает на вопрос, основываясь на собственных данных клиента, он обращается к Data Cloud, и модель эмбеддингов решает, что именно будет возвращено. Качество поиска — показатель того, насколько хорошо модель находит нужную информацию — определяет все, что агент скажет дальше.
От недель до часов
Улучшение модели эмбеддингов исторически было процессом, требующим участия человека. Ученые-исследователи предлагают подход, создают эксперимент, проводят его, читают результаты и решают, что делать дальше, часто в течение нескольких недель. С SFR-AutoR&D система выполнила всю эту работу самостоятельно, завершив цикл примерно за 80 часов — чуть более чем за три дня.
«На протяжении большей части истории машинного обучения прогресс двигался со скоростью человеческих экспериментов, — сказал Сильвио Саварезе, исполнительный вице-президент и главный научный сотрудник Salesforce. — То, что мы видим сейчас, — это исследовательская система, которая формирует гипотезу, проверяет ее и опирается на доказательства, применяя это к модели, от которой зависят наши клиенты. Научный метод по-прежнему управляет процессом, а цикл выполняется быстрее. Это самосовершенствование, разработанное для надежного корпоративного развертывания».
То, что мы видим сейчас, — это исследовательская система, которая формирует гипотезу, проверяет ее и опирается на доказательства… Научный метод по-прежнему управляет процессом, а цикл выполняется быстрее. Сильвио Саварезе, исполнительный вице-президент и главный научный сотрудник, Salesforce
То, что мы видим сейчас, — это исследовательская система, которая формирует гипотезу, проверяет ее и опирается на доказательства… Научный метод по-прежнему управляет процессом, а цикл выполняется быстрее.
Команда создала двух агентов для обеспечения такого рода улучшений. AutoR&D-Engineer ищет алгоритмические и системные улучшения в существующем коде. TrainForge исследует новые методы обучения, запускает их и оценивает кандидатов по отложенным тестам, на которых система никогда не обучается. Оба агента работают на AutoInfra, тренировочной базе, которая распределяет их эксперименты по общим мощностям GPU.
«Наша цель — создавать ИИ-агентов, которые обнаруживают методологические улучшения, о которых мы бы не догадались, и подкрепляют эти открытия строгими экспериментальными доказательствами, — сказал Шафик Джоти, старший директор по исследованиям в Salesforce AI Research. — Вместо того чтобы выбирать из заранее определенного набора рецептов обучения, агенты SFR-AutoR&D самостоятельно формулируют гипотезы, разрабатывают новые методы и проверяют их с помощью контролируемых экспериментов на отложенных данных. Сохраняются только те улучшения, которые демонстрируют измеримый прирост по сравнению с установленными базовыми показателями. Этот акцент на эмпирической проверке делает автономные исследования ИИ одновременно мощными и заслуживающими доверия».
Наша цель — создавать ИИ-агентов, которые обнаруживают методологические улучшения, о которых мы бы не догадались, и подкрепляют эти открытия строгими экспериментальными доказательствами. Шафик Джоти, старший директор по исследованиям, Salesforce
Наша цель — создавать ИИ-агентов, которые обнаруживают методологические улучшения, о которых мы бы не догадались, и подкрепляют эти открытия строгими экспериментальными доказательствами.
При оценке по 10 публичным задачам поиска в MTEB, SFR-AutoR&D улучшила способность модели размещать релевантные результаты ближе к началу списка, повысив ее показатель nDCG@10 на 6,13 балла. Эта метрика измеряет релевантность первых 10 результатов, отдавая больший вес тем, что ранжированы выше.
Затем система самостоятельно провела второй сеанс, занявший около девяти часов, на этот раз нацеленный на скорость и экономичность работы модели. Результатом стало увеличение пропускной способности на 36% и снижение задержки на 17% практически без потери качества. Для бизнеса это разница между моделью, которая хорошо работает в тестах, и моделью, которую доступно использовать для миллионов записей клиентов.
Создание доверия в процессе обучения
Важным аспектом обучения любой модели в Salesforce является доверие. Модели, обученные для использования в продуктах, опираются только на наборы данных, прошедшие этическую и юридическую проверку — ограничение, которое исследовательская команда рассматривает как часть определения проблемы, а не как последующий этап. Модель, которая хорошо показывает себя при оценке, все равно должна пройти производственные требования, прежде чем ее увидит какой-либо клиент, и эта работа сейчас ведется для поддержания высочайшего уровня доверия и безопасности.
Автономия здесь ограничена по замыслу. Исследователи устанавливают цель, бюджет, оценку и ограничения данных, а система исследует их внутри. Без подтвержденного улучшения по сравнению с базовым уровнем модель остается прежней.
Что дальше в саморазвивающихся системах
Самообучающиеся агенты и модели скоро станут нормой, и роль исследователей и инженеров уже смещается к постановке целей и ограничений для автономных самообучающихся фреймворков. Смежная работа от Salesforce AI Research, CodeEvolve,, использует эволюционный поиск с большими языковыми моделями для улучшения производительности и качества кода на Java и Salesforce Apex. Предстоящий блог подробно расскажет об этой работе.
«Улучшения происходят прямо сейчас, — сказал Джоти. — Раньше мы измеряли прогресс неделями человеческого труда. Теперь мы измеряем его часами вычислений». Он добавил: «Это действительно захватывающее время для исследований в области корпоративного ИИ».
SFR-AutoR&D — это ранний взгляд на то, как будет строиться корпоративный ИИ в будущем: с помощью систем, которые предлагают свои собственные улучшения и доказывают их эффективность перед любым выпуском. Люди остаются твердо у руля, устанавливая ограничения, которые вызывают доверие.
