Почему масштабирование ИИ сегодня требует непрерывного контроля и как Cognizant Trust™ Framework и Collibra AI Command Center превращают управление из бумажной волокиты в работающий инструмент.
Большинство программ управления ИИ были разработаны вокруг одного момента: проверки. Модель документируется, оценивается, утверждается и выпускается. Все подписывают документы. Папка закрывается.
Это работало, когда ИИ в основном занимался прогнозированием. Ситуация усложнилась с появлением генеративного ИИ с его галлюцинациями, инъекциями промптов и утечками интеллектуальной собственности — ничто из этого не отображается четко в контрольном списке перед развертыванием. И это полностью перестает работать с агентами. Агент не просто выдает ответ; он принимает решения, вызывает инструменты, считывает корпоративные данные и инициирует действия в других системах. Вопрос больше не звучит как «Можем ли мы это одобрить?». Он звучит так: «Можем ли мы по-прежнему ручаться за это, пока система работает?»
Это другой вопрос, и для него нужен другой ответ.
Почему масштабирование обнажает слабые места
Работая с Cognizant над нашим совместным техническим документом, мы постоянно сталкивались с одними и теми же четырьмя проблемами, и ни одна из них не является экзотической. Распространение ИИ: модели, варианты использования и агенты множатся в бизнес-подразделениях быстрее, чем любая центральная команда успевает их регистрировать. Теневой ИИ: команды запускают инициативы вне процесса, поэтому инвентаризация оказывается неполной еще до завершения. Непрозрачные цепочки принятия решений: агентский рабочий процесс может охватывать несколько систем, и восстановление того, какие данные, модель и политика привели к результату, становится криминалистической работой. И непрерывный риск: системы, которые переобучаются, обновляются и действуют в режиме реального времени, не будут вежливо ждать следующего цикла аудита.
Ничто из этого не является поводом для замедления. Цифры говорят об обратном. Опрос McKinsey «Состояние ИИ в 2025 году» показал, что 88% организаций используют ИИ как минимум в одной функции, при этом 23% уже масштабируют агентские системы, а еще 39% экспериментируют. [1] Тем не менее, проект MIT NANDA после изучения более 300 корпоративных внедрений обнаружил, что 95% пилотных проектов генеративного ИИ не принесли измеримого влияния на прибыль и убытки. [2] Прочитайте это вместе, и посыл станет ясен: узкое место — не амбиции. А исполнение. Программы, которые не могут показать, что делает их ИИ и кто несет за это ответственность, — это те, которые буксуют.
Фундамент и контроль — это не выбор
Вот аргумент из технического документа, который я готов отстаивать наиболее решительно. Безопасное масштабирование ИИ требует двух уровней, и они работают только вместе.
Первый — это фундамент: каждый вариант использования, модель и агент зарегистрированы, имеют владельца, классифицированы и связаны с применимыми к ним политиками. Второй — это непрерывный контроль: за теми же системами наблюдают, пока они работают, меняются и действуют в производственной среде.
Пропустите фундамент, и мониторингу не на что будет опираться; вы будете получать оповещения о системах, у которых нет владельца. Пропустите контроль, и фундамент устареет в тот же день, когда система будет запущена. Документация описывает то, что было одобрено, а не то, что происходит на самом деле. Большинство современных программ имеют что-то из первого уровня и почти ничего из второго.
Операционная модель и плоскость управления
Чтобы устранить этот разрыв, требуются две вещи, которых у большинства организаций нет в одном месте: способ работы и способ видения.
Cognizant Trust™ Framework охватывает первое. Он предоставляет организациям подход, основанный на фреймворке, для обеспечения повторяемости ответственного ИИ по всему предприятию, построенный на общих принципах, лежащих в основе Закона ЕС об ИИ, NIST AI RMF и руководства ОЭСР. На практике это означает приведение вариантов использования ИИ в соответствие с бизнес-целями и влиянием на принятие решений, оценку и настройку самой структуры управления, создание инвентаризации и картирование активов ИИ, обеспечение прослеживаемости между вариантами использования, моделями, агентами и данными, перевод нормативных требований в операционные контроли, а также создание комитетов, ролей и повышение грамотности, которые заставляют операционную модель управления действительно работать. Cognizant привносит в эту работу десятилетний опыт партнерства с Collibra и более 100 внедрений Collibra.
Collibra AI Command Center охватывает второе. Это плоскость управления, где эта операционная модель становится видимой, применимой и актуальной. Фреймворк Cognizant помогает организациям определить, как должен управляться ИИ. AI Command Center — это место, где это определение работает непрерывно на протяжении всего жизненного цикла ИИ.
Структурировать, управлять, контролировать
Путь внутри AI Command Center состоит из трех шагов.
Структурирование фундамента. Каждый вариант использования, модель и агент попадают в единый реестр ИИ с указанием владельца, бизнес-контекста, этапа жизненного цикла и классификации рисков. Инженеры по машинному обучению регистрируют системы прямо из командной строки, поэтому реестр остается точным как побочный продукт разработки, а не как отдельная рутинная задача. Готовые шаблоны оценки, соответствующие Закону ЕС об ИИ, NIST AI RMF и AI UC-1 (развивающийся фреймворк для автономных агентов), дают командам надежную запись до того, как что-либо будет запущено.
Управление с помощью «живых» сигналов. Автоматизированная прослеживаемость связывает каждую систему с данными, которые она потребляет, и политиками, которым она должна соответствовать, с данными о происхождении (lineage), собранными из Databricks, Google Vertex AI, Amazon SageMaker и Bedrock, Azure ML и AI Foundry, SAP AI Core и MLflow. Никакой ручной сборки. Кроме того, показатель AI Trust Score объединяет полноту документации, качество данных, соответствие политикам и подверженность рискам в один постоянно обновляемый сигнал готовности для каждой системы. Статическая документация становится живым доказательством, и команды видят, когда и почему меняется готовность.
Контроль портфеля. Руководители получают единый «живой» обзор всех вариантов использования, моделей и агентов, организованный по этапам жизненного цикла, показателю доверия и концентрации рисков, чтобы они могли видеть, где накапливаются риски, расставлять приоритеты в устранении проблем и предоставлять советам директоров, аудиторам и регулирующим органам актуальные доказательства, а не отчеты за прошлый квартал.
Агенты повышают ставки
Все вышеперечисленное становится еще важнее, когда ИИ начинает действовать. Прогностическая модель, которая отклоняется от нормы, дает худшие рекомендации. Агент, который отклоняется от нормы, совершает действия. Он обращается к данным, вызывает инструменты и запускает последующие процессы. Разрыв между периодической проверкой и «живым» сигналом перестает быть нюансом соответствия требованиям и становится операционным риском. Прогрессия проста: от предиктивного к генеративному и агентскому, от периодического к непрерывному.
Контроль как ускоритель
Организации, которые масштабируют ИИ, не будут выбирать между скоростью и контролем. Они будут теми, кто сделает контроль частью того, как работает ИИ, чтобы утверждение стало вехой, а не барьером, и чтобы ответственность сопровождала систему при переходе в эксплуатацию.
Именно это призвано обеспечить партнерство Cognizant и Collibra: фреймворк, который помогает организациям определить, как должен управляться их ИИ, и плоскость управления, которая поддерживает этот порядок во время работы ИИ.
Прочитайте совместный технический документ «Масштабирование ИИ с доверием и контролем» и изучите Collibra AI Command Center.
Ссылки
[1] McKinsey & Company, «Состояние ИИ в 2025 году: Агенты, инновации и трансформация», ноябрь 2025 г. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
[2] Проект MIT NANDA, «Разрыв в GenAI: Состояние ИИ в бизнесе 2025», июль 2025 г. https://mlq.ai/media/quarterly_decks/v0.1_State_of_AI_in_Business_2025_Report.pdf
Все утверждения о Cognizant Trust™ Framework и Collibra AI Command Center взяты из совместного технического документа «Масштабирование ИИ с доверием и контролем» (2026).
- Дэвид ТалагаДэвид ТалагаДиректор по маркетингу продуктов Collibra
Дэвид Талага
Дэвид Талага
Директор по маркетингу продуктов
Collibra
