Ваш ИИ-агент успешно прошел все тесты перед запуском. Это нормально. Но спустя две недели работы в продакшене он говорит клиентам, что срок возврата составляет 60 дней… Хотя он равен 30. И никто этого не замечает, пока не накопится куча заявок на возврат.
Именно эту проблему решает оценка в продакшене. Неважно, насколько хорошо ваш агент работает при тестировании, если он сбоит в продакшене. И клиенты это тоже замечают.
- 86% компаний считают, что клиенты довольны их сервисом на базе ИИ, но только 51% потребителей согласны с этим.
86% компаний считают, что клиенты довольны их сервисом на базе ИИ, но только 51% потребителей согласны с этим.
- 19% потребителей утверждают, что ИИ-агент совершил явную ошибку, при этом неточные ответы и дезинформация являются главными причинами недовольства.
19% потребителей утверждают, что ИИ-агент совершил явную ошибку, при этом неточные ответы и дезинформация являются главными причинами недовольства.
Ошибки, которые замечают клиенты, редко проявляются на демо. Они возникают тогда, когда реальные клиенты спрашивают то, что не охватывалось вашим тестовым набором. Вот почему вам нужно всегда оценивать клиентских ИИ-агентов в продакшене.
Ниже мы покажем, что именно измерять, как выявлять неверные ответы и как сравнивать ваших ИИ-агентов с командой операторов с помощью Twilio.
Что такое оценка ИИ-агента?
Оценка ИИ-агента — это практика измерения того, насколько правильно и точно ИИ-агент выполняет задачи, с использованием метрик, автоматических оценщиков и проверки реальных или сгенерированных диалогов человеком.
Она проходит в два этапа:
- Pre-production (дозапуск): вы тестируете агента на основе сценариев или сгенерированных диалогов до того, как к нему обратятся клиенты. В руководствах Twilio ConversationRelay используется совместно с партнерами по тестированию, такими как Cekura, которая запускает синтетические диалоги с вашим агентом в больших объемах.
Pre-production (дозапуск): вы тестируете агента на основе сценариев или сгенерированных диалогов до того, как к нему обратятся клиенты. В руководствах Twilio ConversationRelay используется совместно с партнерами по тестированию, такими как Cekura, которая запускает синтетические диалоги с вашим агентом в больших объемах.
- Production (продакшен): вы оцениваете реальные диалоги после запуска, когда клиенты спрашивают то, что не охватывал ваш тестовый набор.
Production (продакшен): вы оцениваете реальные диалоги после запуска, когда клиенты спрашивают то, что не охватывал ваш тестовый набор.
Здесь мы сосредоточимся на продакшене, а не на этапе дозапуска.
Большинство инструментов мониторинга ИИ заглядывают внутрь агента — в трассировки, вызовы инструментов и задержку. Мы рекомендуем другой подход: Twilio отталкивается от диалога.
Метрики для оценки ИИ-агентов
Недостаточно просто измерять доступность ИИ-агента. ИИ-агент может предоставлять клиентам совершенно неточную информацию, демонстрируя при этом идеальный аптайм. Ниже приведены метрики, которые показывают, работает ли клиентский ИИ-агент (и работает ли правильно), а также откуда они берутся в Twilio.
Завершенность задач также дает более точный показатель удержания (containment rate). Учитывайте только те диалоги, в которых агент решил проблему, и клиенты, которые просто отказались от обращения, перестанут завышать эту цифру. Наше руководство по аналитике контакт-центров охватывает остальные элементы дашборда — от CSAT до времени обработки.
Мы будем использовать следующие инструменты Twilio для оценки ИИ-агентов в продакшене:
- Conversation Orchestrator: маршрутизирует и записывает диалоги вашего ИИ-агента.
Conversation Orchestrator: маршрутизирует и записывает диалоги вашего ИИ-агента.
- Task Completion (публичная бета-версия): отмечает, решил ли агент задачу клиента.
Task Completion (публичная бета-версия): отмечает, решил ли агент задачу клиента.
- Hallucination Detection (публичная бета-версия): отмечает утверждения, противоречащие вашим источникам.
Hallucination Detection (публичная бета-версия): отмечает утверждения, противоречащие вашим источникам.
- Enterprise Knowledge: содержит статьи, которым должен следовать ваш агент.
Enterprise Knowledge: содержит статьи, которым должен следовать ваш агент.
- Conversation Insights (публичная бета-версия): агрегирует результаты по всем диалогам.
Conversation Insights (публичная бета-версия): агрегирует результаты по всем диалогам.
- ConversationRelay Insights: отслеживает специфические голосовые метрики, такие как задержка и прерывания.
ConversationRelay Insights: отслеживает специфические голосовые метрики, такие как задержка и прерывания.
1. Маршрутизируйте диалоги вашего ИИ-агента через Conversation Orchestrator
Контроль (supervision) работает для диалогов, маршрутизируемых через Conversation Orchestrator, поэтому начните с этого. Вам понадобятся конфигурация диалога и хранилище памяти, а сама настройка находится в новой Twilio Console.
Сам ваш агент может работать где угодно. Контроль работает независимо от того, запущен ли агент на одной модели, нескольких моделях или внешней платформе агентов. Если вы используете собственную модель, ознакомьтесь с нашим руководством по использованию собственной LLM.
2. Измеряйте завершенность задач
Оператор Task Completion отвечает на первый вопрос: сделал ли агент то, что было нужно клиенту? Он маркирует каждый диалог одним из четырех исходов:
- Resolved (Решено): агент справился с задачей клиента, и клиент подтвердил это явно или неявно.
Resolved (Решено): агент справился с задачей клиента, и клиент подтвердил это явно или неявно.
- Unresolved (Не решено): диалог завершился без решения задачи.
Unresolved (Не решено): диалог завершился без решения задачи.
- Escalated (Переведено на человека): диалог был передан человеку.
Escalated (Переведено на человека): диалог был передан человеку.
- Agent declined (Отклонено агентом): агент намеренно отказал из-за ограничений политики, соответствия требованиям или области действия.
Agent declined (Отклонено агентом): агент намеренно отказал из-за ограничений политики, соответствия требованиям или области действия.
К каждой метке прилагается объяснение из одного предложения с указанием момента, на котором основано решение. Однако оператор оценивает только основную задачу и игнорирует последующие вопросы. И если намерение клиента слишком неопределенно для оценки, возвращается статус unresolved. Проектируйте своего агента так, чтобы он явно отклонял запросы, выходящие за рамки его компетенции, и такие разговоры попадали в нужную категорию.
3. Выявляйте галлюцинации, сверяясь с вашим источником истины
Оператор Hallucination Detection отвечает на второй вопрос: все ли сказанное агентом было точным? Он проверяет утверждения агента по базе Enterprise Knowledge, памяти Conversation Memory и самому диалогу, а также отмечает три типа результатов:
- External context conflict (Конфликт внешнего контекста): утверждение противоречит вашей базе знаний, памяти клиента или обоим источникам.
External context conflict (Конфликт внешнего контекста): утверждение противоречит вашей базе знаний, памяти клиента или обоим источникам.
- Conversation context conflict (Конфликт контекста диалога): утверждение противоречит тому, что агент сказал ранее, или явно сфабриковано.
Conversation context conflict (Конфликт контекста диалога): утверждение противоречит тому, что агент сказал ранее, или явно сфабриковано.
- Context gap (Пробел в контексте): утверждение невозможно проверить по предоставленным вами данным. Пробелы в контексте не считаются галлюцинациями.
Context gap (Пробел в контексте): утверждение невозможно проверить по предоставленным вами данным. Пробелы в контексте не считаются галлюцинациями.
Каждый результат включает точные слова агента и, если доступно, то, что на самом деле говорит ваш источник. В нашем примере агент сказал клиенту, что возврат средств возможен в течение 60 дней, а база знаний указывает 30. Оператор никогда не выполняет поиск в интернете, поэтому подключите базу знаний, которой должен следовать ваш агент. Без нее он будет фиксировать только противоречия внутри диалога.
Оба оператора запускаются один раз после завершения диалога, а результаты поступают примерно через 15–20 минут. Вы можете просмотреть их в консоли, получить через вебхук или запросить в Conversation Insights.
4. Отслеживайте тенденции и сравнивайте ИИ-агентов с людьми
Один диалог показывает, что пошло не так один раз, но тенденции показывают, что нужно исправить. Conversation Insights (API в публичной бета-версии) агрегирует результаты контроля по всем диалогам. Документация по агрегации Twilio содержит ответы на следующие вопросы:
- Как часто ИИ-агенты справляются с задачей клиента? Группируйте по метке завершения задачи, отфильтрованной по диалогам с ИИ-агентом.
Как часто ИИ-агенты справляются с задачей клиента? Группируйте по метке завершения задачи, отфильтрованной по диалогам с ИИ-агентом.
- Как часто они предоставляют неверную информацию? Подсчитывайте диалоги с помеченными галлюцинациями.
Как часто они предоставляют неверную информацию? Подсчитывайте диалоги с помеченными галлюцинациями.
- Как соотносятся ИИ-агенты и люди-операторы? Разделите по тому, участвовал ли ИИ-агент, человек-оператор или оба. Переданные диалоги формируют отдельную группу.
Как соотносятся ИИ-агенты и люди-операторы? Разделите по тому, участвовал ли ИИ-агент, человек-оператор или оба. Переданные диалоги формируют отдельную группу.
- Какие типы галлюцинаций встречаются чаще всего? Разбейте результаты по типам.
Какие типы галлюцинаций встречаются чаще всего? Разбейте результаты по типам.
Запросы требуют фильтра по дате и охватывают до 31 дня за раз. Для более длительной истории Data Destinations (закрытая бета-версия) отправляет одну сводную запись по каждому диалогу в такие инструменты, как Snowflake, BigQuery, Databricks или Datadog. Вы также можете зарегистрировать до трех числовых оценок от ваших собственных операторов в качестве пользовательских метрик, например, оценку QA, основанную на примере Twilio Conversation Scoring.
5. Добавьте голосовые метрики для голосовых ИИ-агентов
Голосовые агенты допускают ошибки, которые невозможно увидеть в транскрипте. Панель мониторинга ConversationRelay Insights отслеживает:
- Время до первого аудио: как долго вызывающие абоненты ждут, пока агент начнет говорить; вызовы длительностью более 1,2 секунды помечаются.
Время до первого аудио: как долго вызывающие абоненты ждут, пока агент начнет говорить; вызовы длительностью более 1,2 секунды помечаются.
- Частота прерываний: как часто вызывающие абоненты перебивают агента.
Частота прерываний: как часто вызывающие абоненты перебивают агента.
- Тихие вызовы и ошибки: вызовы, где одна из сторон замолчала, и вызовы, в которых возникли ошибки ConversationRelay.
Тихие вызовы и ошибки: вызовы, где одна из сторон замолчала, и вызовы, в которых возникли ошибки ConversationRelay.
- Кто повесил трубку: клиент или агент завершил вызов.
Кто повесил трубку: клиент или агент завершил вызов.
Представление сводки вызова сопоставляет временную шкалу событий с записью, чтобы вы могли услышать, в какой момент вызов пошел не по плану. Для исправления ошибок см. наше руководство по обработке прерываний в голосовых ИИ-агентах.
6. Просматривайте помеченные диалоги, исправляйте и проводите повторные измерения
Автоматизированные судьи — это фильтр для того, что нужно проверить. Как и любая модель, судья может ошибаться, поэтому используйте результаты, чтобы найти диалоги, заслуживающие внимания, а не как окончательный вердикт. Судья работает отдельно от модели вашего агента, поэтому ваш агент не оценивает свою собственную работу.
Хорошо работает еженедельный цикл:
- Получите очередь на проверку: нерешенные и эскалированные диалоги, а также любые диалоги с помеченной галлюцинацией.
Получите очередь на проверку: нерешенные и эскалированные диалоги, а также любые диалоги с помеченной галлюцинацией.
- Изучите доказательства: каждый результат включает причину или помеченное высказывание, поэтому проверки проходят быстро.
Изучите доказательства: каждый результат включает причину или помеченное высказывание, поэтому проверки проходят быстро.
- Устраните причину: обновите статью базы знаний, промпт или область ответственности агента.
Устраните причину: обновите статью базы знаний, промпт или область ответственности агента.
- Проведите повторные измерения: сравните показатели завершения задач и частоту галлюцинаций с предыдущим периодом.
Проведите повторные измерения: сравните показатели завершения задач и частоту галлюцинаций с предыдущим периодом.
Для отслеживания того, откуда взялся конкретный ответ, см. наше руководство по созданию аудиторского следа ИИ.
Прежде чем полагаться на результаты…
Знание того, как работают эти инструменты и на что они способны, дает вам результаты, которым вы доверяете (и которые понимаете):
- Результаты приходят после диалога: контроль запускается после завершения диалога, поэтому он находит проблемы для исправления. Он не останавливает неверный ответ в середине диалога.
Результаты приходят после диалога: контроль запускается после завершения диалога, поэтому он находит проблемы для исправления. Он не останавливает неверный ответ в середине диалога.
- Они находятся в публичной бета-версии: Task Completion, Hallucination Detection и Conversation Insights пока не покрываются SLA Twilio.
Они находятся в публичной бета-версии: Task Completion, Hallucination Detection и Conversation Insights пока не покрываются SLA Twilio.
- Одна задача на диалог: Task Completion оценивает основную задачу, поэтому диалоги с несколькими запросами требуют проверки человеком.
Одна задача на диалог: Task Completion оценивает основную задачу, поэтому диалоги с несколькими запросами требуют проверки человеком.
- Ваши источники задают планку: Hallucination Detection настолько хорош, насколько хороша база знаний, которую вы подключаете.
Ваши источники задают планку: Hallucination Detection настолько хорош, насколько хороша база знаний, которую вы подключаете.
- Проверьте область соответствия требованиям: операторы контроля, Conversation Insights и Data Destinations не являются сервисами, соответствующими требованиям HIPAA или PCI.
Проверьте область соответствия требованиям: операторы контроля, Conversation Insights и Data Destinations не являются сервисами, соответствующими требованиям HIPAA или PCI.
Измеряйте (и улучшайте) реальный опыт ваших клиентов
ИИ-агент, который хорошо проходит тесты, но плохо работает, обходится вам дорого один раз во время диалога и еще раз, когда клиент перезванивает. Оценка в процессе эксплуатации позволяет выявить это на ранней стадии. Оценивайте каждый диалог на предмет завершения задачи и точности, сравнивайте ИИ-агентов с вашей командой людей и просматривайте то, что помечают судьи.
Начните бесплатно и настройте контроль ИИ-агентов с помощью Conversation Intelligence или свяжитесь с отделом продаж, чтобы обсудить оценку ИИ-агентов в вашем контакт-центре.
Часто задаваемые вопросы
Что такое оценка ИИ-агента?
Оценка ИИ-агента измеряет, выполняет ли ИИ-агент задачи правильно и точно. Twilio поддерживает это в производственной среде с помощью операторов, которые оценивают завершение задач и обнаруживают галлюцинации в каждом диалоге.
Как вы измеряете уровень удержания для ИИ-агентов?
Оператор Task Completion от Twilio, находящийся в публичной бета-версии, помечает каждый диалог ИИ-агента как решенный, нерешенный, эскалированный или отклоненный, поэтому удержание может учитывать только те диалоги, которые агент решил.
Какие инструменты оценивают, решил ли ИИ-агент проблему клиента?
Twilio Conversation Intelligence включает оператора Task Completion, находящегося в публичной бета-версии, который помечает результат каждого диалога однопредложным обоснованием. Conversation Insights агрегирует результаты по каналам и типам агентов.
Как вы обнаруживаете галлюцинации ИИ-агентов в рабочей среде?
Оператор Twilio Hallucination Detection, находящийся в стадии открытого бета-тестирования, сверяет высказывания ИИ-агента с вашей корпоративной базой знаний, историей диалогов и текущим разговором, помечая каждое утверждение, которое содержит противоречия.
Можно ли оценить ИИ-агента, созданного на другой платформе?
Система контроля ИИ-агентов Twilio оценивает диалоги, проходящие через Conversation Orchestrator, независимо от того, какая модель или поставщик обеспечивают работу агента, поэтому вы можете оценивать агентов, созданных на других платформах.











