Чтобы ИИ работал на вашу компанию, не хватает вовсе не лучших моделей или большего объема контекста — нужны лучшие знания. Это знание о том, как устроена ваша компания, какие стандарты работы вы используете, где хранятся данные и как к ним получить доступ.
Самые эффективные сотрудники держат эти знания в голове. Они знают, с кем поговорить, куда обратиться за ответами, почему всё делается именно так. Эти знания часто носят неявный, невысказанный и рассредоточенный характер — иногда они существуют только в головах людей, а иногда разбросаны по самым разным документам.
Чтобы ИИ работал на вашу компанию, вам нужно собирать, курировать и поддерживать представление этих знаний для передачи агентам. Систему, которая помогает это делать, мы называем фабрикой знаний.
Мы реализовали такой подход в LangChain несколькими способами. Наши внутренние агенты для GTM и студии контента работают на базе фабрики знаний. LangSmith Engine (наш агент, который анализирует трейсы и предлагает исправления) также поддерживает отдельную фабрику знаний для каждого агента. В этом блоге мы делимся нашим опытом.
Контекст против знаний
Контекст — это то, к чему у агента есть доступ во время выполнения задачи.
Знания — это многократно используемое понимание, которое мы поддерживаем в актуальном состоянии, чтобы агент мог правильно выполнять задачу: что означает метрика, какому источнику стоит доверять или как мы поступаем в конкретной ситуации. Иногда это записано, но чаще нет.
Фабрика знаний превращает разрозненные документы и опыт в знания, которые могут стать контекстом для будущей работы.
Таким образом, знания — это форма контекста, которую получает агент, но часто это не единственный контекст (и так быть не должно), который ему предоставляется. Другие типы контекста вы уже надежно получаете и храните, и их можно просто передавать агенту напрямую (см. раздел об быстро меняющихся данных ниже).
От фабрики программного обеспечения к фабрике знаний
Концепция «фабрик программного обеспечения» стремительно набирала популярность последние полтора года. Идея заключается в том, что вместо того, чтобы заставлять лучших инженеров писать код вручную, они должны создавать фабрику (системы), которая помогает всем сотрудникам компании разрабатывать ПО эффективнее. Самую же разработку могут выполнять агенты.
Общая интеллектуальная работа сейчас идет по схожему пути. Агенты достаточно хороши для создания презентаций, запуска видео или подготовки исходящих рассылок. Вы должны максимально задействовать их в этих задачах. Но чтобы они могли с ними справляться, им нужны все те неявные, невысказанные и рассредоточенные знания.
Именно на это стоит направить ресурсы. Вам нужно выстроить эти знания и, что еще важнее, фабрику для сбора, кураторства и поддержки этих знаний. Именно это позволит вам передавать на аутсорсинг агентам все больше задач умственного труда.
Элементы знаний
Как правило, вам нужно поддерживать в актуальном состоянии несколько видов знаний.
- Как выполнять работу — Навыки. Процедуры, инструкции и скрипты для решения задач так, как этого ожидает ваша компания.
- Как устроен бизнес — Предметные знания. Определения, политики и факты о ваших продуктах, клиентах, конкурентах и организации.
- Где получить актуальную информацию — Руководство по доступу к данным. Какие источники использовать, где какие данные находятся и как делать к ним запросы.
Навыки: это процедуры того, как правильно делать вещи внутри вашей компании. Инструкции и скрипты для решения задач тем особым способом, который требуется в вашей компании. Часто эти вещи никогда ранее не фиксировались письменно (а передавались от коллеги к коллеге). Вы должны стремиться записывать их.
Предметные знания: это знания, которые не устаревают слишком часто. Зачастую это ключевая информация о людях, продуктах и конкурентах. Эта информация часто записывается, но обычно остается неполной (или неверной) просто из-за огромного объема таких знаний.
Руководство по доступу к данным: у вас должна быть выстроена хорошая стратегия работы с данными (Snowflake, Databricks и т.д.). Это фундамент для полезных агентов. Если источник достоверных данных уже существует, является полным и актуальным, нет необходимости поддерживать его отдельную копию. Вместо этого вам нужно поддерживать четкие инструкции о том, какие данные где хранятся и как к ним обращаться.
Элементы фабрики
Вся эта информация необходима для создания полезных агентов. Не пытайтесь поддерживать ее вручную — это титанический труд. Вместо этого вам понадобится создать систему для ее поддержания. Как правило, она состоит из следующих частей:
Способ для агентов отмечать отсутствующие знания: один из лучших способов узнать, каких знаний не хватает — сделать так, чтобы агенты фиксировали это в процессе работы. Если их просят сделать что-то, но они не могут найти информацию или находят ее и выясняют, что она неверна, они должны это зафиксировать! Предоставьте агенту инструмент, который как минимум сообщает о том, что не так, и, опционально, предлагает правильное обновление.
Агент-куратор: агент для обновления, кураторства и поддержки этих знаний. Эти знания нельзя поддерживать вручную — это слишком много работы. И их нельзя поддерживать исключительно силами агентов, которые их используют: они отлично справляются с обнаружением ошибок и пробелов, но их исправление требует глубокого понимания базовых знаний и других источников данных. Если заставлять агентов (которые в первую очередь пытаются решить собственные задачи) должным образом обновлять и поддерживать эти знания, система станет неуправляемой и полной противоречий. Вместо этого вам понадобится агент-куратор, который работает в фоновом режиме по определенному расписанию и обновляет эти знания. У него должен быть доступ ко всем исходным источникам данных (Notion, Slack и т.д.), где могут быть разбросаны знания. У него должен быть доступ к трейсам агентов, чтобы он видел, как люди пытаются использовать агентов, и мог претворять это в навыки. У него должен быть доступ к тем вещам, которые агенты отметили как ошибочные (см. раздел выше).
Хранилище для знаний: в каком-то смысле это наименее важный компонент. Вы можете хранить эти знания в формате навыков на GitHub. В одном файле в Notion. В формате OKF format в LangSmith Context Hub. В графе знаний в Neo4j. Агент-куратор должен уметь работать со всеми этими форматами (это не так сложно). С другой стороны, эта область изучена меньше всего. Как представлять память? Как индустрия, мы сошлись на навыках для «процедурной памяти». Для более семантической памяти, вероятно, появится другой стандарт (OKF?). Еще рано говорить об этом, и единый стандарт пока не сформировался, поэтому, пожалуй, лучше не быть слишком категоричными и не усложнять то, как должен выглядеть этот формат.
Сводим всё воедино
Давайте завершим примером полного цикла подготовки отчета о выручке с помощью агента.
Есть базовый контекст, который потребуется агенту: исходные показатели выручки, хранящиеся в BigQuery и Salesforce.
Затем идут знания. Они могут состоять из нескольких различных типов:
- Навыки: как создавать отчеты в стиле LangChain. Они хранятся на GitHub в стандартном формате навыков.
- Долгосрочные знания: способ расчета ARR. Они хранятся во внутренней вики компании.
- Как получить доступ к быстро меняющимся знаниям: как получить доступ к этим необработанным данным в BigQuery/Salesforce. Они также просто хранятся в виде навыков, но на этот раз в Context Hub.
Агент запускается. Возможно, он замечает, что мы переименовали столбец в BigQuery. Он на лету определяет правильный столбец. Он использует свой инструмент для сообщения о проблемах, чтобы отметить это и предложить правильное имя столбца.
После создания отчета наш финансовый директор работает синхронно с агентом, чтобы исправить несколько проблем с форматированием, в том числе поручает ему использовать новый колонтитул, который теперь нам нужно применять для всех документов LangChain.
Этой же ночью агент-куратор видит отмеченную проблему. Он также изучает трассировки агента и замечает этот диалог с нашим финансовым директором. Он соответствующим образом обновляет нужные навыки (чтобы использовать новый столбец при извлечении данных и новый колонтитул при составлении отчета).
Заключение
Цель состоит не в том, чтобы документировать всё до того, как агенты смогут начать работу. Цель — построить систему, в которой выполнение работы выявляет нехватку знаний, а устранение этих пробелов улучшает будущую работу. Начните с одного повторяющегося рабочего процесса, проанализируйте, где агенты испытывают трудности, и замкните этот цикл.
Мы создали это в LangChain и работаем с несколькими клиентами, чтобы внедрить это для их агентов (внутренних и внешних). Если вам это интересно — пожалуйста, обращайтесь, мы можем помочь!












