NVIDIA создает инструменты для обеспечения безопасности агентов на всех уровнях. Архитектура NVIDIA OpenShell Reference Architecture, о которой было объявлено сегодня, является частью растущего портфеля технологий NVIDIA, позволяющего организациям безопасно развертывать агенты в больших масштабах. NVIDIA Confidential Computing — это уровень инфраструктуры, который защищает модели и данные, от которых зависят эти агенты во время работы.
Сегодня NVIDIA расширяет этот уровень с помощью Confidential Bare Metal — нового варианта развертывания в рамках NVIDIA Confidential Computing, который позволяет разработчикам передовых моделей запускать конфиденциальные рабочие нагрузки на выделенной сторонней инфраструктуре, сохраняя при этом контроль над своими моделями и данными.
NVIDIA представляет новые элементы управления безопасностью платформы, которые защищают данные при передаче, измеряют целостность платформы и обеспечивают соблюдение ограничений доступа на аппаратном уровне. Эти новые элементы управления позволяют разработчикам передовых моделей использовать выделенные (bare-metal) инстансы для владения и управления своим специализированным программным стеком, включая ПО хоста и инфраструктуры платформы, при работе на инфраструктуре ускоренных вычислений NVIDIA в сторонних облачных средах, неоклаудах и корпоративной инфраструктуре.
NVIDIA Confidential Computing теперь предлагает конвергентную архитектуру безопасности с тремя вариантами развертывания:
- Confidential Bare Metal для инфраструктуры «голого железа»
- Confidential Containers для сред Kubernetes
- Confidential Virtual Machines для виртуализированных сред
Организации могут подобрать подходящую модель в соответствии со своими границами доверия и требованиями к работе.
NVIDIA Confidential Computing также расширяется на системы NVIDIA Grace Blackwell и Rubin и будет интегрироваться с NVIDIA DSX OS в качестве эталонной архитектуры для облачных провайдеров, создающих фабрики ИИ.
Разработчики моделей используют глобальные мощности
Confidential Bare Metal предоставляет поддерживаемым провайдерам возможность обслуживать высокопроизводительные рабочие нагрузки, требующие надежной защиты конфиденциальности моделей и данных. Для разработчиков моделей расширяющаяся экосистема предлагает больше географических, суверенных и операционных возможностей для масштабирования обучения и инференса по всему миру.
Cohere планирует интегрировать Confidential Bare Metal в Cohere Model Vault, используя доверенные среды выполнения NVIDIA Confidential Computing для распространения аппаратной безопасности непосредственно на GPU — защиты моделей и данных в памяти и межсоединениях во время выполнения.
«Предприятия доверяют Cohere в обеспечении безопасной и конфиденциальной платформы для инференса, — сказал Фил Блансум, главный технический директор Cohere. — С помощью NVIDIA Confidential Computing в Cohere Model Vault мы распространяем аппаратную безопасность непосредственно на GPU, защищая клиентские данные в памяти и по межсоединениям во время выполнения».
Google Cloud расширяет поддержку Confidential Bare Metal на инстансы A4X Max на базе систем NVIDIA GB300 NVL72. Они объединят невиртуализированные ускоренные вычисления NVIDIA с криптографической защитой обучающих данных и интеллектуальной собственности моделей.
«Google Cloud представляет Confidential Bare Metal, чтобы предоставить лабораториям ИИ изолированные на аппаратном уровне, невиртуализированные вычислительные среды и комплексную криптографическую защиту. Наши инстансы A4X, созданные с использованием NVIDIA Confidential Computing, сохраняют конфиденциальность пользовательских данных, защищают интеллектуальную собственность моделей и обеспечивают высочайшую производительность обслуживания», — сказал Андрес Лагар-Кавилья, выдающийся инженер и руководитель отдела безопасности инфраструктуры ИИ в Google Cloud.
NVIDIA Confidential Computing использует аппаратную изоляцию и криптографическую аттестацию для защиты моделей и данных во время выполнения.
Поддержка теперь распространяется на NVIDIA Grace Blackwell NVL72 — привнося конфиденциальные вычисления в стоечные системы NVL72, — а также на системы x86 на базе NVIDIA HGX Rubin NVL8 и NVIDIA DGX Rubin NVL8.
CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale и Vultr поддерживают развертывания NVIDIA Confidential Computing. Глобальные системные партнеры, включая Cisco, Dell Technologies, HPE, Lenovo, Supermicro и Bull, будут поддерживать эти возможности с помощью NVIDIA-Certified Systems.
NVIDIA DSX OS будет поддерживать все режимы NVIDIA Confidential Computing, предоставляя облачным провайдерам программную основу для создания и эксплуатации фабрик ИИ, поддерживающих конфиденциальные рабочие нагрузки.
Узнайте больше о NVIDIA Confidential Computing.
