AI-агенты внедряются в производство быстрее, чем организации успевают наладить управление ими. Согласно опросу Deloitte «Состояние ИИ в бизнесе 2026», 74% организаций ожидают, что к 2027 году будут использовать агентов как минимум на среднем уровне, однако лишь у 21% есть для этого зрелая модель управления. Советы директоров требуют продуктивности. Руководители по безопасности хотят доказательств того, что агенты безопасны. И каждый поставщик уверяет своих клиентов, что его ИИ надежен и ответственен. Сложный вопрос заключается в том, как это проверить.
Collibra сделала конкретный шаг к ответу на этот вопрос. Мы получили сертификацию AIUC-1 — независимый стандарт безопасности, защищенности и надежности AI-агентов — для нашего помощника Maestro (ранее Collibra AI Copilot). Это разговорный ассистент, встроенный в платформу Collibra, с помощью которого пользователи задают вопросы о своих данных, политиках, происхождении (lineage) и системах ИИ. Collibra стала первой платформой управления данными и ИИ, получившей этот сертификат.
Проблема верификации
Для SaaS-решений стандарт SOC 2 в конечном итоге решил проблему доверия, предоставив покупателям общий проверяемый эталон. Для AI-агентов аналога не существовало. Руководителям по безопасности приходилось собирать «лоскутное одеяло» из требований EU AI Act, ISO 42001, NIST AI RMF, MITRE ATLAS и OWASP, ни одно из которых не было написано для систем, способных рассуждать, вызывать инструменты и работать с актуальными корпоративными данными. Опросники для поставщиков становились длиннее, а ответы — все сложнее для проверки.
Стандарт AIUC-1 был создан, чтобы закрыть этот пробел. Разработанный консорциумом из более чем 250 руководителей по безопасности компаний из списка Fortune 500, он организует специфические для агентов контроли по шести доменам: данные и конфиденциальность, безопасность, защищенность, надежность, подотчетность и влияние на общество. Он соотносится с основными фреймворками и обновляется ежеквартально, чтобы соответствовать ландшафту угроз, который меняется каждые несколько месяцев.
Что мы предоставили для сертификации
Сертификация AIUC-1 — это не самодекларация. Она начинается с определения области применения агента, контекста его развертывания и применимых контролей. Затем агент проходит тестирование «красной командой» (red-teaming) по тысячам реальных сценариев, включая попытки взлома, инъекции промптов, утечки данных, галлюцинации и небезопасные вызовы инструментов. Аккредитованный сторонний аудитор проверяет доказательства наличия политик, операционных и технических контролей по всем шести доменам. Только после этого выдается сертификат и полный отчет об аудите, действительный в течение одного года с ежеквартальными повторными проверками.
Помощник Maestro прошел каждый этап. Результатом стало независимое подтверждение того, что когда пользователь задает вопрос Maestro, ответ остается в рамках, требуемых стандартом: отсутствие доступа к данным, которые пользователь не имеет права видеть, устойчивость к манипуляциям и ответы, основанные на проверенных источниках, а не на вымысле.
Общий вектор для всех отраслей
Сертификация AIUC-1 еще молода, и организации, которые до сих пор стремились ее получить, представляют самые разные сферы ИИ: Cursor в разработке ПО, Harvey в юридической сфере, ElevenLabs в области голосовых технологий, UiPath в автоматизации, Fin от Intercom в поддержке клиентов и, совсем недавно, KPMG в профессиональных услугах. Их объединяет решение позволить независимой стороне протестировать и проверить своих агентов, вместо того чтобы просить клиентов верить в безопасность на слово. Мы рады быть частью этого движения.
Collibra стала первой компанией в сфере управления данными и ИИ, присоединившейся к нему, и причина этого кроется в самой сути платформы управления. Collibra хранит метаданные, политики, информацию о происхождении данных и правила доступа, которые описывают наиболее конфиденциальные активы организации. Ассистент, отвечающий на вопросы по всей этой структуре, несет особую ответственность, поскольку вопросы, на которые он может ответить, — это именно те вопросы, которые хотел бы задать злоумышленник. Платформа, на которую клиенты полагаются при управлении ИИ, сама должна управляться по стандарту, который они могут проверить.
Часть долгосрочных обязательств
Эта сертификация — не единственный наш шаг. Collibra была одной из первых организаций, получивших сертификат ISO 42001 по управлению ИИ, мы подписали Пакт ЕС об ИИ еще до вступления в силу обязательств по Закону об ИИ, и мы последовательно внедряем необходимые нашим клиентам фреймворки непосредственно в платформу. С мая Collibra AI Command Center включает готовую оценку по стандарту AIUC-1, поэтому клиенты могут оценивать каждого агента в своем портфеле по этому же стандарту, прикреплять доказательства, направлять их через рабочие процессы проверки и поддерживать соответствие актуальным по мере развития их агентов.
Прохождение сертификации нами самими сделало эту оценку лучше. Мы на собственном опыте узнали, какие контроли сложнее всего подтвердить и что на самом деле запрашивает аудитор. Теперь эти уроки помогают нашим клиентам на том же пути.
Что это значит для наших клиентов
Для команд безопасности и закупок сертификация предлагает нечто конкретное: независимый отчет об аудите того, как реализованы защитные механизмы Maestro и как он показал себя при тестировании «красной командой», вместо опросника, заполненного лишь заверениями. Для руководителей в области управления данными и ИИ это сигнал последовательности. Мы просим наших клиентов придерживаться независимого, специфичного для агентов стандарта. Теперь мы сами придерживаемся его.
Стандарт, который мы выбрали
Разрыв между внедрением агентов и доверием к ним не будет преодолен с помощью заверений. Он преодолевается доказательствами, проверенными кем-то, кроме самого поставщика, делающего заявление. Это то, что предоставляет AIUC-1, и это та планка, которую мы решили взять и которой будем придерживаться по мере развития нашего ИИ.
Чтобы узнать больше, изучите оценку AIUC-1 в Collibra AI Command Center, Collibra Trust Center и нашем блоге.
- Тара МавровитисТара МавровитисСтарший директор, GRCCollibra
Тара Мавровитис
Тара Мавровитис
Старший директор, GRC
Collibra
