На этой неделе на конференции SAP TechEd компания SAP представила ряд решений, ориентированных на говернанс ИИ. Хотя эти решения охватывают различные аспекты говернанса в эпоху ИИ, все они отражают одни и те же базовые принципы:
- Опирайтесь на проверенные бизнес-контроли: у вас уже есть стандарты и практики говернанса. Говернанс ИИ должен интегрироваться с этими контролями и расширять их.
- Внедряйте инновации с уверенностью: подход к говернансу, который мы пропагандируем, совпадает с тем общедоступным и задокументированным подходом, который мы используем для разработки, развертывания и регулирования решений и услуг, поставляемых нами.
- Сохраняйте контроль по мере роста вашего бизнеса: существующие у вас контроли и стандарты должны не только способствовать внедрению ИИ, но и позволять вам оценивать затраты, риски и ценность по мере расширения его использования.
С момента появления этого нового мира автономных технологий люди стремятся найти наиболее эффективные сценарии их применения. По мере того как путь к извлечению пользы становился более понятным, возникал новый вызов: гарантировать как то, что использование ИИ не приведет к непредвиденным и потенциально вредным последствиям, так и то, что это использование остается в рамках формирующихся нормативно-правовых режимов.
Следование описанным выше принципам позволяет SAP решать обе эти задачи. Более того, как мы показали на SAP TechEd, SAP также предоставляет решения, необходимые для регулирования, контроля и внедрения инноваций как сейчас, так и в будущем.
Анонсы в области говернанса ИИ на SAP TechEd
Вот о чем мы говорили на SAP TechEd в отношении говернанса ИИ.
Настоящий говернанс ИИ — это не выяснение того, соблюдались ли политики и правила задним числом; он должен заключаться в обеспечении применения говернанса тогда, когда это важно. SAP Enterprise AI Gateway обеспечивает такой проактивный подход к говернансу, объединяя аутентификацию, соблюдение политик и маршрутизацию во время выполнения, а также позволяя осуществлять непрерывный мониторинг, отслеживание использования и аудит. Таким образом, шлюз контролирует трафик через MCP, API, соединения между агентами и языковые модели (LLM). Опираясь на SAP Integration Suite, шлюз консолидирует и оптимизирует надзор и контроль над ИИ в режиме реального времени.
В дополнение к шлюзу мы также объявили о предоставлении клиентам доступа к курируемым языковым моделям SAP Sovereign Cloud LLMs напрямую через SAP AI Core. Это позволяет клиентам использовать эти LLM в критических процессах, соблюдая при этом установленные стандарты говернанса. Более того, обеспечивая прямой доступ через SAP Sovereign Cloud, клиенты могут снизить как затраты, так и сложность операций с ИИ.
Предоставление агентам контекста архитектуры, необходимого им для эффективной работы, также имеет решающее значение для контроля поведения агентов. На SAP TechEd мы рассказали о новых функциях портфолио SAP LeanIX, позволяющих корпоративным архитекторам контролировать данные архитектуры, которые агенты Joule используют для принятия и выполнения решений.
Эта функция архитектурного контекста опирается на агента сбора знаний, который извлекает актуальную информацию из документов по безопасности и архитектурным решениям, а также предлагает связи с графом знаний SAP LeanIX и отправляет все данные на утверждение человеку, прежде чем сделать их доступными для агентов.
Наконец, для поддержки оценок в рамках Закона об искусственном интеллекте ЕС (EU AI Act) непосредственно в SAP AI Agent Hub мы также представили нашего нового помощника AI Governance Assistant. Этот помощник выполняет аудит и отмечает неполную документацию в реестре агентов, предзаполняет поля на основе завершенных оценок, выявляет системы, которые кажутся высокорискованными, но не имеют классификации, и инициирует повторную оценку при существенном изменении листа данных.
И точно так же, как функция архитектурного контекста зависит от одобрения человека, все результаты работы AI Governance Assistant отображаются в виде черновиков для проверки юридическим отделом и отделом комплаенс.
SAP и говернанс ИИ: подробный обзор
Решения и инновации в области говернанса ИИ, которые мы обсуждали на SAP TechEd, являются частью гораздо более широкой истории. Эта история в некоторой степени историческая. SAP уже давно играет ключевую роль в управлении ключевыми операционными и финансовыми функциями. Наш подход к говернансу ИИ опирается на это наследие и является его логичным продолжением.
Конечно, для SAP это далеко не новость: компания уже давно установила четкие внутренние стандарты говернанса ИИ и при этом постоянно внедряет функции и решения, посвященные этой теме. Среди таких решений — SAP AI Agent Hub, который сам по себе является продолжением возможностей говернанса ИИ в SAP LeanIX. Позволяя компаниям быстро создавать и поддерживать надежный реестр агентов независимо от платформы, серверов MCP и LLM, мощные функции обнаружения этого хаба имеют решающее значение для комплексного говернанса ИИ.
Другая часть этой истории — ценность. Хотя говернанс ИИ крайне важен по множеству причин, компании инвестируют в ИИ для достижения измеримых бизнес-целей. Как выясняется, наблюдаемость, необходимая для эффективного говернанса, может быть использована и расширена в целях управления производительностью и ее оценки.
Например, с помощью возможностей процессногнанса агентов в SAP Signavio вы можете отслеживать поведение агентов в контексте ваших бизнес-процессов. Таким образом, вы можете обеспечить соответствие агентов требованиям комплаенс, одновременно фиксируя бизнес-результаты, которые они приносят.
Говернанс не должен быть второстепенной задачей
Эволюция ИИ не замедлится, и внедрение ИИ — тоже. К сожалению, хотя основное внимание здесь справедливо уделяется непрерывному поиску новых способов использования ИИ для достижения операционного совершенства и конкурентного преимущества, это внимание не должно означать, что говернанс отходит на второй план.
Напротив, говернанс — это ключ к успешному внедрению ИИ.
Важно помнить, что говернанс в эпоху ИИ — это не просто вопрос соблюдения нормативных требований или корпоративного комплаенс. Поскольку эта технология предполагает различную степень автономии, говернанс должен применяться к поведению самой технологии, а не только к поведению управляющих ею людей. Это одна из причин, почему мы делаем акцент на применении политик говернанса во время выполнения.
Однако проблема, которую мы видим сегодня, заключается в том, что никто еще не установил четких отраслевых ориентиров и стандартных практик для говернанса ИИ. Также наблюдается общий недостаток устоявшихся платформ, ориентированных на говернанс.
Мы говорим «общий недостаток», потому что на самом деле SAP предлагает именно такую платформу, построенную на десятилетиях опыта и экспертизы в области говернанса.
Говернанс никогда не был для нас второстепенной задачей. И сегодня, когда речь заходит о говернансе ИИ, как показывают многочисленные представленные здесь инновации, это находится в самом центре нашего внимания.
Доминик Розе (Dominik Rose) — директор по продуктам SAP LeanIX в SAP.
