Ввод автономных агентов в промышленную эксплуатацию означает обработку конфиденциальных данных и ценной интеллектуальной собственности в реальном времени. Защита проприетарных весов моделей, пользовательских промптов и сгенерированных результатов требует безопасности, которая охраняет данные во время их непосредственного вычисления.

В рамках наших усилий по обеспечению безопасности вашего бизнеса мы объявляем о том, что служба Confidential Computing на инстансах Google Cloud G4 с графическими процессорами NVIDIA RTX PRO 6000 Blackwell Server edition теперь общедоступна. Этот релиз объединяет NVIDIA Confidential Computing напрямую с AI Hypercomputer от Google Cloud, обеспечивая динамическую производительность, необходимую для масштабирования без ущерба для конфиденциальности.

Когда в начале этого года мы объявили о предварительной версии Confidential G4, мы рассказали о ее глобальном охвате и масштабе. Сегодня эти инстансы общедоступны в 36 зонах с использованием нескольких моделей потребления на виртуальных машинах Compute Engine и узлах GKE.

Кроме того, в ближайшие недели станет общедоступной поддержка Confidential Space, обеспечивающая безопасный обмен данными между несколькими сторонами.

Защита конфиденциальных данных и моделей с низкой задержкой

Защита данных в памяти не должна означать пожертвование пропускной способностью GPU или операционной гибкостью. Сочетая неэкспортируемые аппаратные ключи, проверяемую удаленную аттестацию и прозрачное шифрование памяти, Confidential G4 помогает организациям максимизировать инвестиции в агентские рабочие нагрузки и рабочие нагрузки вывода. Предприятия могут снижать затраты, одновременно выполняя строгие нормативные требования и требования соответствия.

«Поскольку организации развертывают ИИ в во всё более сложных облачных, локальных и агентских средах, защита конфиденциальных данных имеет решающее значение. Предприятия также должны гарантировать, что системы ИИ работают безопасно и согласованно с их политиками. Виртуальные машины Google Cloud Confidential G4 на базе графических процессоров NVIDIA RTX PRO 6000 Blackwell предоставляют мощную основу для конфиденциального ИИ и операций с ИИ. Confidential Core AI опирается на Google Cloud для преобразования принципов, политик и операционных требований предприятия в средства защиты в реальном времени, которые мониторят и регулируют ИИ-агентов, модели, данные и инструменты. Вместе эти возможности позволяют организациям масштабировать доверенный ИИ в Google Cloud, сохраняя при этом контроль, конфиденциальность и подотчетность». — Тахер Бехбехани (Taher Behbehani), основатель и генеральный директор Confidential Core AI

Дополнительные преимущества для корпоративных рабочих нагрузок ИИ включают в себя:

Сквозная конфиденциальность и изоляция: Шифрование данных и параметров моделей в аппаратно защищенных средах выполнения для защиты интеллектуальной собственности и пользовательских входных данных от администраторов хост-систем, гипервизоров и доступа со стороны облачных провайдеров.

Сквозная конфиденциальность и изоляция: Шифрование данных и параметров моделей в аппаратно защищенных средах выполнения для защиты интеллектуальной собственности и пользовательских входных данных от администраторов хост-систем, гипервизоров и доступа со стороны облачных провайдеров.

Проверяемое криптографическое доверие: Использование удаленной аттестации на аппаратной основе для проверки кода, конфигурации платформы и целостности среды перед выпуском конфиденциальных наборов данных и запуском рабочих нагрузок.

Проверяемое криптографическое доверие: Использование удаленной аттестации на аппаратной основе для проверки кода, конфигурации платформы и целостности среды перед выпуском конфиденциальных наборов данных и запуском рабочих нагрузок.

Без рефакторинга кода: Развертывание моделей «из коробки» с использованием стандартных образов ОС Ubuntu, драйверов NVIDIA и библиотек NVIDIA CUDA-X без изменения приложений или пользовательских сборках.

Без рефакторинга кода: Развертывание моделей «из коробки» с использованием стандартных образов ОС Ubuntu, драйверов NVIDIA и библиотек NVIDIA CUDA-X без изменения приложений или пользовательских сборках.

Для Polaris Cloud такая простота развертывания стала революционной.

«Polaris создает рабочие пространства для ИИ-агентов, и нашим клиентам необходимо знать, где именно выполнялась работа агента и что она была криптографически изолирована на всем пути. Google Cloud Confidential G4 изменил правила игры в этом отношении. Мы получаем аппаратное происхождение от графического процессора NVIDIA RTX PRO 6000 Blackwell, которое мы привязываем к квитанции, получаемой клиентами с их результатами. Практически ничего больше не изменилось: тот же образ G4, тот же драйвер NVIDIA, та же среда выполнения контейнеров, один флаг при запуске, та же производительность. За одну ночь это подняло наше обещание клиентам с „мы запускаем вашего агента“ до „каждая рабочая нагрузка, которую вы запускаете у нас, проверяема“». — Фред Эсере (Fred Esere), основатель и генеральный директор Polaris Cloud

Совместная работа с данными несколькими сторонами: Запуск совместной аналитики и совместного обучения моделей с помощью Confidential Space. Несколько сторон могут объединять конфиденциальные наборы данных, не раскрывая друг другу лежащие в их основе частные данные.

Совместная работа с данными несколькими сторонами: Запуск совместной аналитики и совместного обучения моделей с помощью Confidential Space. Несколько сторон могут объединять конфиденциальные наборы данных, не раскрывая друг другу лежащие в их основе частные данные.

«Предприятиям необходимо задействовать свои самые ценные данные с помощью ИИ, одновременно защищая их во время обработки. NVIDIA Confidential Computing обеспечивает аппаратную защиту рабочих нагрузок с ускорением на GPU, помогая защитить конфиденциальные данные и проприетарные модели во время их использования. Вместе с Google Cloud мы переносим производительность NVIDIA Blackwell и эти возможности безопасности на виртуальные машины Confidential G4, чтобы организации могли масштабировать промышленный ИИ с высокой производительностью и проверяемой защитой». — Дэйв Сальватор (Dave Salvator), директор по продуктам для ускоренных вычислений в NVIDIA

Тестирование производительности

Чтобы понять операционное влияние шифрования памяти, мы проанализировали инстансы Confidential G4 в сравнении со стандартными неконфиденциальными инстансами G4 на конфигурации машины g4-standard-48. Наше тестирование было сосредоточено на широко распространенных моделях с открытыми весами, которые клиенты часто развертывают на инстансах с одним GPU для собственных конвейеров вывода.

Бенчмаркинг популярных моделей, включая Llama 3, Llama 3.3, Resnet-50 и SDXL, показывает, что Confidential G4 обеспечивает производительность на уровне стандартных инстансов G4 для рабочих нагрузок вывода ИИ с деградацией пропускной способности менее чем на 3.5% (измеряется в токенах или изображениях в секунду).

Примечание: Результаты производительности основаны на конкретных условиях тестирования и конфигурациях. Производительность отдельных рабочих нагрузок может варьироваться в зависимости от настройки системы, выбора оборудования и программной среды.

Наш анализ может помочь вам двигаться быстро, защищая при этом конфиденциальные данные и выполняя требования соответствия — компромисс, который реальные развертывания уже подтверждают.

«Мы провели бенчмаркинг Confidential G4 от Google Cloud со стандартным G4, выполняющим идентичное ПО для наших рабочих нагрузок. Мы обнаружили, что при скромном увеличении сквозной задержки на 5.2% мы получаем гарантию на аппаратном уровне, которая гарантирует, что неавторизованные пользователи за пределами подтвержденной среды наших пользователей не смогут прослушивать их разговоры. Мы бы шли на этот компромисс каждый раз; наши пользователи получают удобство облака с конфиденциальностью локальной среды». — Энди Цинь (Andy Qin), генеральный директор, MemGPT

Начало работы с Confidential G4

С Confidential G4 повышение корпоративной безопасности при выполнении моделей и автономных рабочих нагрузках не требует жертв в производительности, гибкости или операционной простоте. Обеспечивая проверяемое доверие и надежную аппаратную изоляцию с практически нулевым снижением пропускной способности, организации могут безопасно развертывать ценные модели и защищать критически важные массивы данных в масштабах облака.

Начните работу сегодня, ознакомившись с документацией по Confidential VM с GPU.