Управление ИИ становится задачей проектирования рабочих процессов.
В сфере финансовых услуг ИИ уже помогает организациям интерпретировать политики, отслеживать активность, создавать документацию, анализировать требования соответствия нормативным требованиям и обосновывать решения. Он также поддерживает сотрудников при принятии ими все более сложных суждений. То, что начиналось как способ обобщения информации или подготовки черновиков контента, переходит в рабочие процессы, которые формируют финансовые результаты и клиентский опыт.
Этот сдвиг происходит в таких областях, как расследование мошенничества, андеррайтинг продавцов, споры, обслуживание, комплаенс, исключения по платежам и казначейские операции. Поскольку ИИ берет на себя все большую роль в этих процессах, управление должно развиваться вместе с ним.
Недавние исследования генеративного ИИ в финансовых учреждениях подчеркивают важное различие: риск зависит не только от того, использует ли рабочий процесс модель ИИ, но и от того, насколько результат работы модели близок к бизнес-решению и какой вред может быть нанесен, если этот результат окажется неверным.
Это полезный взгляд для руководителей финансовых услуг. Модель, которая обобщает внутренний документ, имеет другой профиль риска, чем та, которая составляет текст об отказе, интерпретирует предупреждение системы мониторинга или дает рекомендации по разрешению расследования мошенничества. Базовая технология может быть схожей. Рабочий процесс определяет, как используется результат, кто на него полагается и что происходит дальше.
Три вывода для финансовых учреждений
- 1. Управление должно следовать за решением. Традиционное управление моделями установило дисциплины для валидации, мониторинга, управления изменениями и надзора. Генеративный и агентный ИИ усложняют вопрос о том, где должны применяться эти дисциплины, поскольку ИИ может влиять на решение, не выполняя окончательный расчет и не предпринимая окончательного действия.
1. Управление должно следовать за решением
Традиционное управление моделями установило дисциплины для валидации, мониторинга, управления изменениями и надзора. Генеративный и агентный ИИ усложняют вопрос о том, где должны применяться эти дисциплины, поскольку ИИ может влиять на решение, не выполняя окончательный расчет и не предпринимая окончательного действия.
- Рассмотрим андеррайтинг продавцов. ИИ может обобщить бизнес-информацию, интерпретировать политику, выявить недостающую документацию и составить рекомендацию аналитика. Детерминированная модель риска может по-прежнему выдавать оценку, а человек-андеррайтер — одобрять или отклонять заявку. Тем не менее, ИИ сформировал информацию, которую видит андеррайтер, и мог повлиять на обоснование принятого решения.
Рассмотрим андеррайтинг продавцов. ИИ может обобщить бизнес-информацию, интерпретировать политику, выявить недостающую документацию и составить рекомендацию аналитика. Детерминированная модель риска может по-прежнему выдавать оценку, а человек-андеррайтер — одобрять или отклонять заявку. Тем не менее, ИИ сформировал информацию, которую видит андеррайтер, и мог повлиять на обоснование принятого решения.
- Поэтому управление должно охватывать весь рабочий процесс принятия решений. Руководителям необходимо понимать, где ИИ извлекает информацию, интерпретирует политику, генерирует контент, вызывает инструменты и возвращает работу сотрудникам. Им также нужно знать, какие данные и источники лежат в основе результата, как управляются изменения в рабочем процессе и на ком лежит ответственность, когда результат является неполным или неверным.
Поэтому управление должно охватывать весь рабочий процесс принятия решений. Руководителям необходимо понимать, где ИИ извлекает информацию, интерпретирует политику, генерирует контент, вызывает инструменты и возвращает работу сотрудникам. Им также нужно знать, какие данные и источники лежат в основе результата, как управляются изменения в рабочем процессе и на ком лежит ответственность, когда результат является неполным или неверным.
- Этот более широкий взгляд помогает учреждениям видеть влияние ИИ, даже если оно не отражено в окончательной записи о решении. Это также упрощает определение того, где применяются существующие средства контроля, где их необходимо расширить и какие решения требуют дополнительной проверки.
Этот более широкий взгляд помогает учреждениям видеть влияние ИИ, даже если оно не отражено в окончательной записи о решении. Это также упрощает определение того, где применяются существующие средства контроля, где их необходимо расширить и какие решения требуют дополнительной проверки.
- 2. Человеческий надзор должен быть спроектирован
2. Человеческий надзор должен быть спроектирован
- «Человек в контуре» часто рассматривается как полноценный контроль. На практике присутствие проверяющего полезно только в том случае, если у этого человека есть информация, время и полномочия, чтобы оспорить систему.
«Человек в контуре» часто рассматривается как полноценный контроль. На практике присутствие проверяющего полезно только в том случае, если у этого человека есть информация, время и полномочия, чтобы оспорить систему.
- Ключевой вопрос: что именно человек должен проверять?
Ключевой вопрос: что именно человек должен проверять?
- При расследовании мошенничества рабочий процесс с поддержкой ИИ может запрашивать историю транзакций, связывать соответствующие объекты, обобщать предупреждения, выстраивать хронологию и составлять описание дела. Это естественные области применения генеративного ИИ, но каждый шаг может повлиять на то, что замечает следователь и как понимается дело.
При расследовании мошенничества рабочий процесс с поддержкой ИИ может запрашивать историю транзакций, связывать соответствующие объекты, обобщать предупреждения, выстраивать хронологию и составлять описание дела. Это естественные области применения генеративного ИИ, но каждый шаг может повлиять на то, что замечает следователь и как понимается дело.
- Проверяющему нужно больше, чем просто отшлифованный финальный абзац. Ему необходима видимость базовых доказательств, использованных источников, любых исключений или недостающей информации, уверенности системы и интерпретации политики, лежащей в основе рекомендаций. Им также нужно видеть, какие действия уже были предприняты, и знать, какие шаги они могут отменить или эскалировать.
Проверяющему нужно больше, чем просто отшлифованный финальный абзац. Ему необходима видимость базовых доказательств, использованных источников, любых исключений или недостающей информации, уверенности системы и интерпретации политики, лежащей в основе рекомендаций. Им также нужно видеть, какие действия уже были предприняты, и знать, какие шаги они могут отменить или эскалировать.
- Эффективный надзор зависит от продуманного дизайна рабочего процесса: где требуется суждение, какие доказательства представлены, какие действия могут выполняться автоматически и какие условия вызывают эскалацию. Когда эти границы ясны, проверка человеком может быть сосредоточена на значимых решениях, а не на проверке результатов ИИ без достаточного контекста для их оценки.
Эффективный надзор зависит от продуманного дизайна рабочего процесса: где требуется суждение, какие доказательства представлены, какие действия могут выполняться автоматически и какие условия вызывают эскалацию. Когда эти границы ясны, проверка человеком может быть сосредоточена на значимых решениях, а не на проверке результатов ИИ без достаточного контекста для их оценки.
- 3. Управление может стать ускорителем
3. Управление может стать ускорителем
- Эффективное управление должно упрощать повторное внедрение ответственных решений. Если каждой команде приходится создавать элементы контроля с нуля, внедрение ИИ будет медленным и неравномерным. Общие шаблоны для идентификации, доступа, извлечения данных, мониторинга, проверяемости, экспертной оценки и эскалации могут обеспечить командам единую основу.
Эффективное управление должно упрощать повторное внедрение ответственных решений. Если каждой команде приходится создавать элементы контроля с нуля, внедрение ИИ будет медленным и неравномерным. Общие шаблоны для идентификации, доступа, извлечения данных, мониторинга, проверяемости, экспертной оценки и эскалации могут обеспечить командам единую основу.
- Затем организации могут адаптировать эти шаблоны под уровень риска каждого рабочего процесса. Инструмент для суммирования документов и расследование мошенничества с поддержкой ИИ могут использовать некоторые из одних и тех же средств защиты, но им не потребуются идентичные точки утверждения или правила эскалации.
Затем организации могут адаптировать эти шаблоны под уровень риска каждого рабочего процесса. Инструмент для суммирования документов и расследование мошенничество с поддержкой ИИ могут использовать некоторые из одних и тех же средств защиты, но им не потребуются идентичные точки утверждения или правила эскалации.
- Именно здесь технологическая экосистема имеет решающее значение. Облачные платформы, платформы для работы с данными и мониторинга моделей от таких провайдеров, как AWS, Google, Microsoft, Databricks и Snowflake, могут предоставлять компоненты среды контроля. Но сами по себе платформы не могут определить, как эти возможности должны работать в рамках внутренней политики банка, толерантности к риску, регуляторных требований и обязательств перед клиентами. Для этого требуется внедрение элементов контроля непосредственно в те рабочие процессы, где используется ИИ.
Именно здесь технологическая экосистема имеет решающее значение. Облачные платформы, платформы для работы с данными и мониторинга моделей от таких провайдеров, как AWS, Google, Microsoft, Databricks и Snowflake, могут предоставлять компоненты среды контроля. Но сами по себе платформы не могут определить, как эти возможности должны работать в рамках внутренней политики банка, толерантности к риску, регуляторных требований и обязательств перед клиентами. Для этого требуется внедрение элементов контроля непосредственно в те рабочие процессы, где используется ИИ.
Три приоритета на следующие шесть месяцев
- 1. Картирование влияния ИИ, а не только инвентаризация
1. Картирование влияния ИИ, а не только инвентаризация
- Определите, где ИИ уже интерпретирует, рекомендует, составляет проекты, отслеживает или инициирует действия в рамках критически важных рабочих процессов. Включите как инструменты, встроенные в существующие платформы, так и системы, разработанные специально для использования ИИ.
Определите, где ИИ уже интерпретирует, рекомендует, составляет проекты, отслеживает или инициирует действия в рамках критически важных рабочих процессов. Включите как инструменты, встроенные в существующие платформы, так и системы, разработанные специально для использования ИИ.
- Затем оцените, насколько близко каждый результат находится к принятию клиентских, финансовых или комплаенс-решений. Это дает руководству более четкое представление о подверженности рискам и помогает расставить приоритеты в отношении того, где необходим более строгий контроль или более четкое распределение ответственности.
Затем оцените, насколько близко каждый результат находится к принятию клиентских, финансовых или комплаенс-решений. Это дает руководству более четкое представление о подверженности рискам и помогает расставить приоритеты в отношении того, где необходим более строгий контроль или более четкое распределение ответственности.
- 2. Создание повторно используемых шаблонов контроля
2. Создание повторно используемых шаблонов контроля
- Определите общие требования к доступу к данным, обоснованию, отслеживаемости, мониторингу, утверждениям, эскалации и хранению доказательств. Четко укажите, что должно быть единым для всей организации, а что команды могут настраивать для конкретного рабочего процесса.
Определите общие требования к доступу к данным, обоснованию, отслеживаемости, мониторингу, утверждениям, эскалации и хранению доказательств. Четко укажите, что должно быть единым для всей организации, а что команды могут настраивать для конкретного рабочего процесса.
- Эти шаблоны особенно полезны для агентских рабочих процессов, где работа может пересекаться между системами, инициировать действия и проходить через многократные передачи управления. Четкие элементы контроля могут помочь командам понять, что разрешено делать агенту ИИ, когда он должен приостановить работу для проверки и как его действия могут быть восстановлены впоследствии.
Эти шаблоны особенно полезны для агентских рабочих процессов, где работа может пересекаться между системами, инициировать действия и проходить через многократные передачи управления. Четкие элементы контроля могут помочь командам понять, что разрешено делать агенту ИИ, когда он должен приостановить работу для проверки и как его действия могут быть восстановлены впоследствии.
- 3. Комплексный пересмотр приоритетов рабочих процессов
3. Комплексный пересмотр приоритетов рабочих процессов
- Выберите небольшой круг высокоэффективных процессов, таких как расследование мошенничества, андеррайтинг продавцов, споры или исключения по платежам. Опишите текущий порядок работы, определите, где ИИ может помочь, и спроектируйте средства контроля параллельно с новыми возможностями.
Выберите небольшой круг высокоэффективных процессов, таких как расследование мошенничества, андеррайтинг продавцов, споры или исключения по платежам. Опишите текущий порядок работы, определите, где ИИ может помочь, и спроектируйте средства контроля параллельно с новыми возможностями.
- Оценивайте не только производительность. Измеряйте качество решений, объяснимость, уровень исключений и степень вмешательства человека наряду сэкономленным временем или объемом обработки. Эти показатели помогают руководству понять, улучшает ли ИИ рабочий процесс в целом, а не просто ускоряет один из его этапов.
Оценивайте не только производительность. Измеряйте качество решений, объяснимость, уровень исключений и степень вмешательства человека наряду сэкономленным временем или объемом обработки. Эти показатели помогают руководству понять, улучшает ли ИИ рабочий процесс в целом, а не просто ускоряет один из его этапов.
Перспективы на будущее
Сфера финансовых услуг потратила десятилетия на внедрение механизмов контроля в платежи, кредитование, управление рисками и комплаенс. ИИ привносит новый уровень аналитики в те же самые процессы, открывая возможности для более раннего выявления закономерностей, снижения ручных трудозатрат и помощи сотрудникам в принятии более обоснованных решений.
Организации, которые создадут долгосрочную ценность, свяжут эти возможности с рабочими процессами, спроектированными так, чтобы решения были наблюдаемыми, объяснимыми, контролируемыми и подотчетными. Это означает рассмотрение управления как части повседневной работы: встроенного в поток информации, решений, утверждений и действий.
Именно поэтому следующий этап развития управления ИИ потребует нечто большего, чем просто политики. Он потребует инженерии рабочих процессов.








