Решение Snowflake: модель принятия решений в функциях Cortex AI

Многие рабочие нагрузки ИИ на уровне предприятий представляют собой задачи принятия решений: определение категории записи, оценка рисков транзакции или необходимости дальнейшей обработки обращения. Многие из таких задач имеют ограниченное число вариантов ответа и выполняются с высокой интенсивностью для больших таблиц.

Языковые модели общего назначения могут справляться с этими задачами, но они могут требовать больших затрат ресурсов и времени, чем это необходимо. Модели принятия решений созданы специально для простых задач с высокой интенсивностью, которые не требуют сложного рассуждения, включая классификацию, скоринг, фильтрацию и маршрутизацию. Они возвращают типизированный ответ, например категорию, оценку или вероятность «да/нет», с которым ваш рабочий процесс может работать напрямую.

Клиенты уже используют функции Cortex AI для классификации, скоринга и маршрутизации данных в больших объемах. Теперь мы представляем Snowflake Decision (в режиме закрытого предварительного просмотра) — модель принятия решений, доступную через AI_COMPLETE, которая помогает командам еще эффективнее масштабировать простые задачи с высокой интенсивностью. Вызов выполняется в функциях Snowflake Cortex AI, поэтому системы управления, контроля доступа и аудита, которые вы уже используете, применяются к каждому решению.

Модель, разработанная для эффективных и точных структурированных решений

Рассмотрим рабочий процесс поддержки, обрабатывающий от тысяч до миллионов обращений. Перед тем как каждое обращение попадет к специалисту, его нужно направить в нужную команду. Для того же сообщения может потребоваться оценить уровень недовольства клиента и проверить его на наличие срочности. Вместо того чтобы обрабатывать это с помощью отдельных вызовов моделей, модель принятия решений может оценить все три вопроса одновременно, возвращая структурированные ответы, которые ваш рабочий процесс может использовать напрямую.

При выборе модели для таких рабочих процессов наряду со скоростью, стоимостью и форматом ответа важна и точность принятия решений. Именно поэтому мы рады предоставить Snowflake Decision в распоряжение клиентов. В ходе нашей оценки Snowflake Decision показала наивысший балл качества среди 72 моделей, сравнение которых проводилось по бенчмаркам Jev Decision Index 0.2.1. Для клиентов более высокое качество решений означает более надежную классификацию, скоринг и маршрутизацию при работе с высокоинтенсивными рабочими процессами.

Примечание: мы оценили Snowflake Decision по 29 бенчмаркам , которые выполняются полностью в рамках нашего текущего интерфейса и охватывают 88 837 тестовых запросов в области рассуждений, языка, поиска информации, использования инструментов и творческой оценки. Эти 29 бенчмарков представляют собой подмножество более широкого бенчмарка Hugging Face; ограничения текущего интерфейса, такие как максимум 32 варианта, не позволяют нам запустить полный бенчмарк. Snowflake Decision набрала 57,63 балла — это наивысший показатель качества среди 72 моделей, оцененных по тем же 29 бенчмаркам. Чтобы обеспечить корректное сравнение, мы рассчитали показатель каждой модели, используя одни и те же результаты бенчмарков и опубликованную скорректированную с учетом случайности методологию индекса.

Триаж обращений в службу поддержки с помощью функций Cortex AI

Функции Cortex AI позволяют вызывать модели прямо из SQL. Вы вызываете модель принятия решений через AI_COMPLETE, передавая запрос в формате JSON в аргументе prompt. Вы передаете текст обращения и четко сформулированные вопросы, используя три поддерживаемых типа вопросов:

• Выбор (Choice): выбор варианта из заданного списка, например «биллинг», «техническая поддержка» или «продажи».

Выбор (Choice): выбор варианта из заданного списка, например «биллинг», «техническая поддержка» или «продажи».

• Оценка (Score): оценка входных данных по упорядоченной шкале, например «спокоен», «раздражен, но вежлив» или «очень злен».

Оценка (Score): оценка входных данных по упорядоченной шкале, например «спокоен», «раздражен, но вежлив» или «очень злен».

• Да или нет (noul): возвращает вероятность от 0 до 1 для утверждения вроде «Сообщение выражает срочность».

Да или нет (noul): возвращает вероятность от 0 до 1 для утверждения вроде «Сообщение выражает срочность».

В этом примере каждая строка в таблице support_tickets содержит сообщение клиента в столбце ticket_text. Один вызов Snowflake Decision выполняет маршрутизацию обращения, оценивает уровень недовольства и проверяет срочность:

Результат возвращается в виде карты ответов (answers), где ключами являются названия ваших вопросов, а значениями — выбранный вариант, вероятности для каждого из вариантов, а для вопросов с выбором и оценкой — также и значение уверенности.

Что вы можете сделать с помощью модели принятия решений в Snowflake

Функции Cortex AI сегодня предлагают командам различные варианты моделей для решения разных задач. Наша модель принятия решений расширяет этот выбор, добавляя еще один вариант к уже доступным моделям общего назначения. Она подходит для массовых и ограниченных по вариантам ответов решений, выполняемых по множеству строк: классификации, маршрутизации, скоринга, фильтрации и триажа.

Когда стоит выбирать модель принятия решений:

• Ответ представляет собой один из известных вариантов, оценку по шкале или ответ «да/нет»
• Вы обрабатываете решение для тысяч строк
• Скорость и стоимость имеют значение
• Вам нужна вероятность, по которой можно установить пороговое значение
• Вы хотите использовать модель принятия решений для маршрутизации и категоризации в качестве первого шага многошагового конвейера ИИ

Когда лучше подходит модель общего назначения:

• Вам нужны сводки, рассуждения открытого типа или извлечение данных в произвольной форме
• Пространство ответов ничем не ограничено
• Задача требует многошагового рассуждения или творческой генерации

Команды рассматривают модели принятия решений для таких задач, как:

• Операции поддержки: команде поддержки необходимо, чтобы каждое входящее обращение было распределено в очередь до того, как его возьмет специалист. Один вызов возвращает очередь, оценку недовольства и флаг срочности для каждого обращения в таблице.
• Аналитика отзывов клиентов: продуктовой команде нужно узнать, какие проблемы возникают чаще всего во всем массиве отзывов. Один вызов может вернуть категорию отзыва и оценку степени серьезности, чтобы команда могла легко агрегировать тональность и расставить приоритеты для функций.
• Проверка качества ответов: команда, управляющая ИИ-помощником, хочет знать, соответствуют ли его ответы заданной политике. Модель принятия решений оценивает каждый ответ на соответствие этой политике и определяет, насколько полно он удовлетворяет запрос клиента, благодаря чему проверяющие читают только те ответы, которые не дотягивают до стандарта.
• Построение конвейеров данных ИИ: некоторые конвейеры сегодня отправляют каждый запрос в большую модель. Модель принятия решений определяет, сколько усилий на рассуждение требует каждый запрос, после чего клиенты могут построить конвейер, который направляет сложные случаи в более крупную модель, а остальные обрабатывает более экономичным путем.

С чего начать

Чтобы запросить доступ, обратитесь к своей команде по работе с клиентами Snowflake. Представитель Snowflake свяжется с вами и расскажет о дальнейших шагах, включая предоставление документации по закрытому предварительному просмотру.