Каждый автоматизированный процесс полон мелких решений. Какая команда должна обработать этот тикет? Этот счет оспаривается или просто просрочен? Можем ли мы доверять значению, которое только что извлекли? Сегодня каждое из этих решений отправляется в большую языковую модель (LLM) или агенту, и при масштабировании это приводит к затратам времени и денег.

Правильная модель для каждого решения

LLM и агенты хорошо подходят для рассуждений, планирования и задач с открытым финалом. Но многие этапы рабочего процесса не являются открытыми. Это ограниченные решения: выбрать один из нескольких вариантов, поместить что-то на шкалу или ответить «да» или «нет». В корпоративных процессах такие решения часто требуются для тысяч записей, причем некоторые из них достаточно ясны для автоматизации, а другие требуют человеческого контекста и руководства.

Ограниченные решения требуют быстрого мышления и способа распознавания неопределенности. Отправка каждого мелкого решения в LLM или агенту может означать оплату по тарифам моделей рассуждения и ожидание задержек, характерных для таких моделей, ради выбора из трех вариантов. Модель, разработанная для этих решений, может помочь ускорить рабочие процессы, а сигналы уверенности помогут разработчикам определить, когда нужно привлечь человека.

Модели Jev сочетают ограниченные суждения с сигналами уверенности, которые разработчики могут использовать для установки пороговых значений для автоматических действий. Когда уверенность падает ниже порогового значения для задачи, рабочий процесс UiPath может привлечь человека для проверки информации, предоставления недостающего контекста и направления решения перед продолжением процесса. Вот хороший пример реализации «системы двух мозгов».

Именно поэтому UiPath сотрудничает с TypeSafe, чтобы предоставить модели Jev разработчикам UiPath и корпоративным клиентам. Сегодня мы анонсируем коннектор TypeSafe в UiPath Integration Service, чтобы вы могли вызывать модели Jev на своем клиенте TypeSafe из своих автоматизаций.

Коннектор UiPath для TypeSafe (предварительная версия)

Коннектор TypeSafe теперь доступен в предварительной версии в UiPath Integration Service. Подключите его с помощью собственного ключа API TypeSafe, и действия Jev станут доступны в ваших рабочих процессах. Попробуйте их в UiPath Maestro™ Automate, Maestro Orchestrate и любых интерфейсах UiPath, поддерживающих коннекторы. Ищите «Jev», «TypeSafe» или «System One», чтобы найти их.

Коннектор поддерживает все основные конечные точки принятия решений, для которых вы уже привыкли использовать Jev. Jev возвращает типизированный ответ, вероятность каждого варианта и свою уверенность в решении. Поскольку коннектор использует ваш собственный ключ TypeSafe, запросы регулируются вашим прямым соглашением с TypeSafe и не направляются через UiPath AI Trust Layer.

Большинству решений в бизнес-процессе не нужна модель, чтобы написать абзац. Им нужен правильный ответ в правильной форме с честным сигналом о том, насколько модель уверена. Именно для этого мы создали Jev. Разработчики и клиенты UiPath уже управляют процессами, в которых принимаются эти решения, что делает UiPath естественной средой для моделей System One. Мы с нетерпением ждем того, что они создадут с его помощью. Эрик Гафни, технический директор, TypeSafe

Большинству решений в бизнес-процессе не нужна модель, чтобы написать абзац. Им нужен правильный ответ в правильной форме с честным сигналом о том, насколько модель уверена. Именно для этого мы создали Jev. Разработчики и клиенты UiPath уже управляют процессами, в которых принимаются эти решения, что делает UiPath естественной средой для моделей System One. Мы с нетерпением ждем того, что они создадут с его помощью.

Эрик Гафни, технический директор, TypeSafe

Вот краткий обзор начала работы с Jev и коннектором TypeSafe:

Как это работает

С помощью Jev вы передаете состояние, контекст JSON для принятия решения и набор вопросов. Каждый вопрос относится к одному из трех типов:

Выбор: какой из этих вариантов применим?

Выбор: какой из этих вариантов применим?

Оценка: какой уровень по упорядоченной шкале?

Оценка: какой уровень по упорядоченной шкале?

Истина: насколько верно это утверждение, от 0 до 1?

Истина: насколько верно это утверждение, от 0 до 1?

Каждый ответ ограничен определенными вами вариантами и возвращается с вероятностями для каждого варианта и оценкой уверенности. Несколько вопросов об одном и том же состоянии могут быть обработаны параллельно в одном запросе.

Думайте об этом как о быстром мышлении для ограниченных решений, в то время как LLM и агенты продолжают заниматься вдумчивыми, многоэтапными рассуждениями. Платформа UiPath Platform™ может координировать оба варианта последовательно или параллельно, обеспечивая гибкое моделирование и визуализацию наиболее эффективного дизайна принятия решений для вашего случая использования.

Прежде чем предлагать это клиентам, мы протестировали Jev и другие модели принятия решений на реальных рабочих нагрузках: оценка результатов работы агентов, извлечение полей из документов, классификация, переранжирование результатов поиска и многое другое. Это ранние внутренние эксперименты, но четыре вывода оказались примечательными.

Jev довольно точен (94% совпадения с системой LLM-как-судья в оценочных наборах данных).

Jev довольно точен (94% совпадения с системой LLM-как-судья в оценочных наборах данных).

Установка порогов уверенности с помощью оценок уверенности, которые возвращает Jev, — это мощный шаблон. Это позволяет передавать более сложные решения агентам рассуждения или людям, сохраняя при этом высокую пропускную способность в большинстве случаев.

Установка порогов уверенности с помощью оценок уверенности, которые возвращает Jev, — это мощный шаблон. Это позволяет передавать более сложные решения агентам рассуждения или людям, сохраняя при этом высокую пропускную способность в большинстве случаев.

Специализация обходится в долю стоимости и обеспечивает значительно меньшую задержку. Наша внутренняя оценка показала аналогичное принятие решений при стоимости в 7,7 раза ниже и скорости в 4–20 раз выше, чем у эквивалентного судьи LLM.

Специализация обходится в долю стоимости и обеспечивает значительно меньшую задержку. Наша внутренняя оценка показала аналогичное принятие решений при стоимости в 7,7 раза ниже и скорости в 4–20 раз выше, чем у эквивалентного судьи LLM.

С моделями принятия решений задачи извлечения документов можно рассматривать как поиск и выбор, а не как генерацию. Один вызов Jev находит, какая часть документа содержит каждое поле, а второй выбирает точное значение.

С моделями принятия решений задачи извлечения документов можно рассматривать как поиск и выбор, а не как генерацию. Один вызов Jev находит, какая часть документа содержит каждое поле, а второй выбирает точное значение.

Модели принятия решений демонстрируют захватывающую способность классифицировать контент, переранжировать результаты поиска, приписывать извлеченные значения их источнику и заблаговременно останавливать неудачные оценки агентов. Мы рады тому, как модели принятия решений изменят оркестрации, которые создают наши клиенты, и способы их создания.