Cisco и Fortanix помогают сделать конфиденциальный ИИ проверяемым от данных до Kubernetes

Fortanix Confidential AI теперь поддерживает CNCF Confidential Containers. Вот почему это важно для предприятий, создающих решения на базе Cisco Secure AIFactory с NVIDIA, и как это вписывается в полностековый подход к доверенному ИИ.

Варианты использования ИИ с наибольшей ценностью, как правило, связаны с самыми конфиденциальными данными. Банку необходимо, чтобы модели работали с записями транзакций. Больнице нужны аналитические данные на основе клинических записей. Правительственному ведомству требуется ИИ для работы с информацией, которая никогда не должна покидать его юрисдикцию. Для таких организаций вопрос больше не в том, работает ли ИИ. Вопрос в том, могут ли они убедиться в наличии средств защиты для своих данных и работающих с ними моделей во время выполнения ИИ.

Это сложнее, чем кажется. Шифрование защищает данные в состоянии покоя и при передаче, но во время вывода веса моделей и данные расшифровываются в памяти CPU и GPU, где привилегированные администраторы, операторы инфраструктуры или любой пользователь, имеющий доступ к хосту, могут получить к ним доступ. Новое исследование Fortanix и Atomik Research подтверждает этот разрыв цифрами: 93% лидеров в области ИИ понимают, что традиционное шифрование не защищает данные во время их обработки ИИ, но только половина из них может полностью проверить наличие такой защиты во время вывода.

В этом уравнении участвуют три стороны, и каждой из них нужно что-то свое. Предприятию необходимо сохранять контроль над своими данными. Владельцу модели нужно защитить веса и интеллектуальную собственность, на создание которых ушли годы. А оператор, управляющий инфраструктурой — будь то внутренняя ИТ-команда, неооблако или суверенное облако, — не должен иметь возможности видеть ни то, ни другое.

От открытого исходного кода к конфиденциальному ИИ промышленного уровня

На этой неделе Fortanix объявляет о поддержке CNCF Confidential Containers (CoCo) в Fortanix Confidential AI. CoCo уже позволяет рабочим нагрузкам Kubernetes в сфере ИИ выполняться внутри аппаратных сред доверенного исполнения (TEEs) на конфиденциальных CPU и GPU. Fortanix добавляет к этому то, что необходимо производственным командам: плагины с открытым исходным кодом, переданные в CoCo, которые связывают Fortanix Confidential Computing Manager (CCM) для аттестации и Fortanix Data Security Manager (DSM) для безопасного выпуска ключей, работая в рамках стандартных рабочих процессов CoCo.

Принцип прост: проверяй перед расшифровкой. Перед выдачей любого ключа CCM проверяет, является ли каждый контейнер подлинным, работает ли он внутри TEE и соответствует ли он политике безопасности. Поскольку CPU и GPU проверяются совместно посредством составной аттестации, доверие охватывает весь путь выполнения. Ключи остаются в DSM, решении HSM и управления ключами уровня FIPS 140-2 Level 3, и выдаются только в проверенную среду. Если измерения не соответствуют политике, ключи остаются заблокированными, и рабочая нагрузка не может выполнить расшифровку.

Для разработчиков ИИ практическая выгода заключается в том, что рабочий процесс Kubernetes не нужно менять. Разработчики сохраняют скорость контейнеров. Команды безопасности получают криптографические доказательства вместо заверений оператора. А поскольку Fortanix Confidential AI развертывается как SaaS, локально (on-premises) или в полностью изолированной среде (air-gapped), регулируемые и отключенные от сети среды могут внедрять его независимо от облака.

«Проблема корпоративного ИИ заключается не только в запуске моделей. Это создание архитектуры, которая позволяет организациям безопасно использовать свои самые важные данные везде, где запущен ИИ», — заявил Джереми Фостер (Jeremy Foster), старший вице-президент и генеральный менеджер Cisco Compute. «Cisco считает, что безопасность должна быть заложена в инфраструктуру ИИ с самого начала — на уровне вычислений, сетей, данных, приложений и самих рабочих нагрузок. Конфиденциальные вычисления добавляют важный уровень, защищая данные и модели в процессе их активного использования, что помогает предприятиям внедрять ИИ в производство с большей уверенностью».

Единый уровень доверия от платформы данных до Kubernetes

Это продолжает работу, которой мы поделились несколько недель назад. В статье «Создание надежной основы для конфиденциального ИИ» (Building a trusted foundation for confidential AI) Джавад Мемон (Jawwad Memon) описал, как Cisco и VAST Data помогают организациям внедрять передовые модели в инфраструктуру, где уже хранятся конфиденциальные данные, используя VAST DataEnclave — функцию конфиденциального ИИ в составе VAST DataEngine. Компания Fortanix создала уровень аттестации и управления ключами, интегрированный в DataEnclave.

Это дает клиентам две точки входа с единой моделью доверия. Команды, которым нужен конфиденциальный ИИ, встроенный в платформу данных, могут запускать модели рядом со своими данными с помощью VAST DataEnclave. Команды, которые создают и эксплуатируют собственные приложения и агенты ИИ на базе Kubernetes, могут использовать Fortanix Confidential AI с CoCo. В обоих случаях аттестация и выдача ключей Fortanix определяют, когда модель или набор данных могут быть разблокированы, поэтому команды безопасности и соответствия требованиям работают на основе одних и тех же средств контроля и одних и тех же доказательств.

Владельцы моделей получают не меньше выгод, чем предприятия. Передовая лаборатория ИИ может сделать проприетарную модель доступной локально или в изолированной сети (air-gapped), рядом с наиболее конфиденциальными данными клиента, при этом расшифровка привязана к одобренной ею аттестованной среде. Клиент сохраняет свои данные. Владелец модели сохраняет свою интеллектуальную собственность. Ни одна из сторон не подвергается риску перед другой или перед поставщиком инфраструктуры.

Почему Cisco: конфиденциальный ИИ — это забота всего стека

TEE защищает рабочую нагрузку в памяти. Производственной системе ИИ требуется гораздо больше. Данные должны перемещаться между графическими процессорами, хранилищами и службами. Политики должны применяться по всей сети. Модели и приложения сталкиваются с собственными угрозами. А операционные команды нуждаются в достаточной видимости, чтобы управлять системой, не нарушая изоляцию, от которой она зависит. Именно поэтому Cisco рассматривает конфиденциальный ИИ как часть Cisco Secure AI Factory с NVIDIA, где вычисления, сети, данные, безопасность и наблюдаемость спроектированы для совместной работы:

• Вычисления: Серверы Cisco UCS сочетают в себе аппаратные корни доверия, безопасную загрузку и аттестацию платформ с поддержкой технологий конфиденциальных вычислений, включая Intel TDX, AMD SEV-SNP и NVIDIA Confidential Computing, под управлением Cisco Intersight.
• Сети: Высокопроизводительные сети на базе Cisco Silicon One или NVIDIA Spectrum-X™ Ethernet обеспечивают предсказуемое перемещение данных между вычислительными ресурсами, хранилищами и системами ускоренных вычислений, а гибридный межсетевой экран Cisco Hybrid Mesh Firewall распространяет применение политик на DPU NVIDIA BlueField™.
• Данные: VAST Data предоставляет платформу данных для ИИ, а DataEnclave добавляет конфиденциальную среду выполнения и аттестацию для моделей, работающих с конфиденциальными данными, устраняя препятствия для производительности.
• Безопасность ИИ: Cisco AI Defense помогает снижать риски для моделей ИИ, приложений и агентов, дополняя средства защиты во время выполнения, обеспечиваемые конфиденциальными вычислениями.
• Наблюдаемость и операции: Splunk и Isovalent обеспечивают прозрачность приложений, инфраструктуры, сетей и облачно-нативных сред, а также предоставляют проверяемые записи аттестации и решений о политиках. Cisco Cloud Control создана для того, чтобы предоставить командам единое место для управления и мониторинга сетей, безопасности, вычислений и наблюдаемости.

Fortanix встраивает уровень доверия в этот стек как часть экосистемы Cisco Secure AI Factory с NVIDIA, поэтому клиенты могут выбирать необходимые строительные блоки, не собирая модель безопасности воедино самостоятельно.

Что это значит для команд, управляющих ИИ

Конidential AI имеет значение только тогда, когда он меняет то, что организации действительно могут делать. Вот что он открывает:

• Предприятия в регулируемых отраслях могут применять передовые модели к конфиденциальным и суверенным данным на инфраструктуре, которую они контролируют, вместо отправки этих данных стороннему сервису.
• Владельцы моделей могут охватывать клиентов в локальных (on-premises), суверенных и изолированных (air-gapped) средах, сохраняя привязку дешифрования к утвержденным, заверенным средами.
• Операторы неоклаудов и суверенных облаков могут размещать ИИ-сервисы для критически важных рабочих нагрузок, не получая доступа к данным или моделям клиентов.
• Команды платформ и разработчиков могут использовать стандартные рабочие процессы Kubernetes и CoCo, вместо того чтобы самостоятельно создавать уровень доверия.
• Руководители отделов безопасности и комплаенса получают криптографические доказательства того, что именно выполнялось, где и в соответствии с какой политикой, которые они могут предоставить аудиторам и регуляторам.

Посмотрите это на GTC Berlin

На NVIDIA GTC Berlin, 20–22 октября 2026 г., Cisco и Fortanix продемонстрируют весь процесс от защищенной модели до заверенного вывода на Cisco Secure AI Factory с ускоренными вычислениями NVIDIA. Посетите стенд Fortanix № 7017 для живой демонстрации и стенд Cisco № 3032. Вот что вы увидите:

• Защита модели: Владелец модели упаковывает ее в виде зашифрованного образа с ключами под своим управлением в Fortanix DSM.
• Развертывание: Предприятие запускает рабочую нагрузку на конфиденциальной виртуальной машине или через CoCo с Kata Containers на своей ИИ-инфраструктуре.
• Проверка: Fortanix CCM проверяет составные свидетельства аттестации для процессора, графического процессора и программной среды.
• Запуск: После успешной аттестации DSM выдает ключи в проверенную TEE, и модель обрабатывает запросы и ответы внутри защищенного периметра.
• Принудительное исполнение: Если образ, конфигурация или параметры изменяются, либо доступ отзывается, выдача ключей завершается сбоем, и рабочая нагрузка не может расшифроваться или запуститься.

Чтобы глубже изучить архитектуру, прочитайте новое руководство по проектированию Cisco и Fortanix.

Организации, которые могут получить наибольшую выгоду от ИИ, — это зачастую те, которые меньше всего могут позволить себе потерять контроль над своими данными. С помощью Cisco, Fortanix, VAST Data и NVIDIA они могут использовать мощные модели для работы с этими данными и проверять наличие средств защиты.

Прочитайте новое руководство по проектированию Cisco и Fortanix, чтобы узнать, как конфиденциальный ИИ работает на базе Cisco Secure AI Factory с NVIDIA.

Читать руководство по проектированию