Общая доступность инстансов начнется в следующем месяце с планируемым расширением доступности в Европу, предоставляя облачным клиентам интегрированную платформу для обучения, инференса и крупномасштабного обучения с подкреплением.
Инстансы A5X объединяют NVIDIA Vera Rubin NVL72, супер-сетевые адаптеры NVIDIA ConnectX-9 SuperNICs, сеть Google Cloud Virgo Network и передовую технологию жидкостного охлаждения четвертого поколения от Google Cloud для масштабных и ресурсоемких рабочих нагрузок агентного инференса и обучения с подкреплением. Google Cloud планирует масштабировать свою инфраструктуру на базе Vera Rubin до 960 000 графических процессоров Rubin в нескольких дата-центрах.
Ineffable Intelligence, лондонская технологическая компания, основанная создателем AlphaGo Дэвидом Силвером (David Silver), стала первым клиентом, получившим доступ к A5X. Ineffable использует эту платформу для развития крупномасштабного обучения с подкреплением и создания систем «суперобучения», которые непрерывно учатся на основе опыта.
Обучение через взаимодействие требует непрерывного цикла генерации опыта, оценки результатов и обновления моделей, что подразумевает наличие инфраструктуры, способной поддерживать весь этот процесс в больших масштабах. A5X объединяет Vera Rubin в систему искусственного интеллекта Google Cloud AI Hypercomputer как интегрированное решение, сочетающее в себе вычислительные мощности, сетевые возможности и системы хранения для поддержки масштабного обучения на основе опыта.
«Мы создаем системы суперобучения, которые непрерывно совершенствуются на основе собственного опыта, — заявил Дэвид Силвер, основатель и генеральный директор Ineffable Intelligence. — Для этого требуются как огромные вычислительные мощности, так и тесная связь между генерацией опыта и обучением на его основе, чтобы каждое улучшение агента могло быстро определять его следующий опыт. Сочетание производительности вычислений и высокоскоростного подключения Vera Rubin — между ЦП Vera и ГП Rubin, а также между ГП Rubin внутри стойки — позволяет нам расширять масштабы и амбиции наших исследований в области обучения с подкреплением».
WPP, лондонская компания в сфере маркетинга и коммуникаций, также продемонстрировала свою эталонную архитектуру креативных агентов на инстансах A5X на базе NVIDIA Vera Rubin с использованием моделей NVIDIA Nemotron и NVIDIA OpenShell, входящих в эталонную архитектуру NVIDIA OpenShell для безопасных ИИ-агентов.
Агенты преобразуют текстовые запросы в многоэтапные творческие рабочие процессы, такие как генерация видео, повышение разрешения и изменение стилистики, с предварительным одобрением человека перед выполнением. OpenShell предоставляет изолированные среды с поддержкой политик управления для выполнения агентов, помогая контролировать доступ к конфиденциальным активам брендов и инструментам творчества. В ходе первичных тестов WPP рабочие нагрузки, которые обычно требовали многоузлового кластера, выполнялись на одном инстансе A5X.
По мере внедрения агентных систем организациям необходимо защищать проприетарные модели и конфиденциальные данные, лежащие в их основе — даже при работе на инфраструктуре, которая им не принадлежит.
Google Cloud станет одним из первых облачных провайдеров, предлагающих конфиденциальные вычисления NVIDIA (NVIDIA Confidential Computing) в масштабе стойки на «голом железе» (bare metal), таких как инстансы A4X Max на базе NVIDIA GB300 NVL72. Кроме того, Google Cloud делает конфиденциальные вычисления общедоступными на виртуальных машинах G4 VMs на базе графических процессоров NVIDIA RTX PRO 6000 Blackwell Server Edition, предлагая гибкую платформу для конфиденциального инференса и дообучения. Такие клиенты, как Vertebrae, Polaris Cloud и Confidential Core AI, используют Confidential G4 для обеспечения конфиденциальности разговоров, проверяемого выполнения агентов и управляемого политиками корпоративного интеллекта.
Для поддержки энергоэффективного развертывания в больших масштабах Google Cloud и NVIDIA изучают возможности NVIDIA DSX MaxLPS для инфраструктуры на базе Vera Rubin, чтобы помочь оптимизировать производительность на ватт и расширить емкость в рамках доступных бюджетов мощности дата-центров.
Узнайте больше об инстансах NVIDIA Vera Rubin и Google Cloud A5X.
