Облачные партнеры NVIDIA расширяют присутствие по всей Европе — суверенные, открытые и созданные для безопасных ИИ-агентов

Источник: NVIDIA Blog•

Облачные партнеры NVIDIA расширяют присутствие по всей Европе — суверенные, открытые и созданные для безопасных ИИ-агентов

Спрос со стороны разработчиков на базе ИИ подстегивает европейскую экосистему облачных вычислений быстрее, чем когда-либо. Разработчикам нужны вычислительные мощности ближе к их данным, открытые модели, которые можно настраивать и обслуживать в больших масштабах, а также полностековая…

Спрос со стороны разработчиков на базе ИИ подстегивает европейскую экосистему облачных вычислений быстрее, чем когда-либо. Разработчикам нужны вычислительные мощности ближе к их данным, открытые модели, которые можно настраивать и обслуживать в больших масштабах, а также полностековая инфраструктура, безопасная по своему дизайну.

NVIDIA Cloud Partners по всей Европе, в странах Северной Европы, Африке и Центральной Азии расширяют региональные вычислительные мощности для обучения моделей и инференса, помогая разработчикам создавать приложения с агентным и физическим ИИ, а также устанавливая границы для того, к чему агенты могут получить доступ и что могут делать.

Вместе они превращают европейский опыт в области энергетики, данных, исследований и промышленности в продуктивный интеллект, поддерживая новые модели, приложения, организации и рабочие места, а также предоставляя людям больше контроля над тем, где и как они разрабатывают и развертывают ИИ.

Суверенные: облачные ИИ-платформы, создающие европейскую инфраструктуру искусственного интеллекта

Европа является родиной исследований мирового уровня, инженерных талантов, промышленного опыта, данных, а также нового поколения моделей и приложений, требующих масштабных вычислений вблизи мест нахождения этих знаний. Региональные облака с поддержкой ИИ обеспечивают инфраструктурную основу, на которой могут расти создатели моделей, предприятия и целые отрасли.

По мере масштабирования ИИ-фабрик энергоснабжение становится ограничивающим фактором, из-за чего критически важно, чтобы каждый ватт производил больше интеллекта. Nscale использует платформу NVIDIA DSX Platform для координации распределения энергии с требованиями рабочей нагрузки. В ходе тестов с использованием систем NVIDIA GB300 NVL72 компания Nscale продемонстрировала, что решение NVIDIA DSX MaxLPS обеспечивает на 37% больше графических процессоров и почти на 50% более высокую совокупную пропускную способность инференса в рамках того же выделенного бюджета мощности.

Nscale также планирует развернуть инфраструктуру NVIDIA Vera Rubin для обучения передовых моделей и рабочих нагрузок продакшена, чтобы поддерживать ведущих разработчиков моделей и приложений с помощью своей полностековой, вертикально интегрированной платформы с расширением на пяти европейских рынках.

Crusoe разрабатывает Spark — свои модульные ИИ-фабрики с жидкостным охлаждением, созданные для платформы NVIDIA Vera Rubin, чтобы приблизить мощности Crusoe Cloud к пользователям для обеспечения низких задержек при инференсе ИИ. Crusoe Cloud обслуживает ведущих разработчиков моделей и приложений по всему региону EMEA, включая Base44, Gradium, LTX и Wonderful.

Aleria, Cassava Technologies, Firebird, G42, Radiant, SWI Compute и Vultr также разрабатывают и расширяют инфраструктуру ИИ на базе технологий NVIDIA по всей Европе, в странах Северной Европы, Африке и Центральной Азии.

Региональные мощности ИИ-облаков объединяют полностековую платформу NVIDIA DSX AI Factory platform, включая сетевые технологии NVIDIA Vera Rubin, NVIDIA BlueField и NVIDIA Spectrum-X Ethernet, предоставляя клиентам еще больше возможностей выбора и контроля над тем, где размещаются рабочие нагрузки и данные, одновременно способствуя развитию суверенных вычислительных сервисов и экономического роста.

Открытые: модели и библиотеки, от обучения до инференса

По всей экосистеме облачные ИИ-платформы расширяют инфраструктуру и сервисы на базе NVIDIA, позволяя разработчикам создавать приложения с использованием открытых моделей и библиотек. Эти новые мощности поддерживают обучение моделей, дообучение для специализированных задач и масштабный инференс, включая приложения, развернутые на периферии.

Для инференса в продакшене компания Nebius внедрила NVIDIA Groq 3 LPX, используя сетевые технологии Spectrum-X Ethernet для интеграции с Vera Rubin NVL72 на платформе Nebius Token Factory. Эта комбинация обеспечит более быструю генерацию токенов для приложений, чувствительных к задержкам, и агентных систем благодаря управляемым бессерверным и выделенным эндпоинтам платформы, а также привычным интерфейсам программирования приложений.

Для робототехники и физического ИИ Nebius предлагает специализированное облачное решение для ИИ, включающее полностековый инструмент Physical AI Workbench. На этой платформе создают свои продукты такие робототехнические компании, как Rhoda AI, RoboForce и Sereact. Компания также запустила в ранний доступ на инфраструктуре Nebius три шаблона розничных ИИ-агентов от NVIDIA, охватывающих управление запасами, операции в магазине и дообучение.

Nebius широко расширяет свои облачные сервисы по всему континенту с помощью проекта Physical AI Living Lab, а в Германии — в качестве поставщика вычислительной техники для конкурса Next Frontier Challenge от SPRIND, Федерального агентства по прорывным инновациям.

Baseten разработала специализированную модель для маршрутизации проверки кода с помощью Nemotron 3.5 Lightning, используемую CodeRabbit. Благодаря контролируемому дообучению и обучению с подкреплением компания CodeRabbit улучшила точность согласования маршрутизации с 75,8% до 80,7%, снизив при этом расчетные затраты на инференс на 50% для оцениваемой рабочей нагрузки. Полученные результаты демонстрируют, как разработчики ИИ могут настраивать открытые модели NVIDIA под специализированные задачи, повышая при этом точность и эффективность инференса.

Fireworks и Era4 объединяют усилия, чтобы предоставить открытые модели предприятиям по всей Великобритании и в Европе. Сотрудничество объединяет платформу обучения и инференса моделей от Fireworks с мощностями прямого жидкостного охлаждения на базе графических процессоров NVIDIA Blackwell Ultra на объекте Era4 в Честерфилде, поддерживая планы по внедрению корпоративных ИИ-решений в финансовых услугах, страховании и науках о жизни.

Mistral расширяет свою инфраструктуру ускоренных вычислений NVIDIA для поддержки обучения моделей, кастомизации и инференса. Расширение включает инфраструктуру NVIDIA Vera Rubin, поставка которой запланирована на 2027 год. Модель Mistral Large 4, обученная на 3800 графических процессорах NVIDIA Grace Blackwell в европейских дата-центрах под управлением Mistral, является новейшей передовой мультимодальной моделью компании, расширяющей возможности в области программирования, агентных рабочих процессов и мультимодального понимания.

Verda планирует развернуть NVIDIA Vera Rubin, продолжая продвигать модели с открытыми весами благодаря уже используемым в производстве технологиям NVIDIA Nemotron и NVIDIA Cosmos, а также применяя открытый фреймворк NVIDIA Dynamo для оптимизации инференса.

Безопасные: надежные границы для ИИ-агентов, от кремния до программного обеспечения

По мере того как разработчики подключают модели к инструментам и бизнес-системам, им также необходим контроль над тем, к чему агенты могут получить доступ и что могут делать.

На конференции GTC Berlin была представлена ​​эталонная архитектура NVIDIA OpenShell Reference Architecture при поддержке партнеров по экосистеме облачных ИИ-решений. Созданная на основе безопасного ПО среды выполнения NVIDIA OpenShell, архитектура разработана для того, чтобы предоставить организациям полностековый контроль при развертывании ИИ-агентов с четкими границами в отношении того, к чему агенты могут получать доступ и какие действия совершать.

Системы NVIDIA Vera Rubin NVL72 для инференса моделей, центральные процессоры NVIDIA Vera CPUs с поддержкой OpenShell для агентных оболочек и использования инструментов, а также DPU-процессоры NVIDIA BlueField-4 под управлением NVIDIA Sentry для обеспечения безопасности на кремниевом уровне. Каждое из этих решений играет свою роль в обеспечении такого контроля, работая в тандеме, чтобы агенты могли выполнять поставленные задачи, не выходя за рамки установленных людьми границ.

Партнеры, включая Aleria, Baseten, Cassava, CoreWeave, Crusoe, DigitalOcean, Firebird, Fireworks, Firmus, G42, GMI Cloud, IREN, Lambda, Lightning AI, Nebius, Nscale, Radiant Verda и Vultr, поддерживают эталонную архитектуру OpenShell, чтобы обеспечить безопасное развертывание агентных систем для своих клиентов.

Объединяя усилия, европейские облачные платформы в сфере ИИ связывают региональные инвестиции в инфраструктуру с задачами разработки и развертывания ИИ. Расширенные мощности предоставляют разработчикам больше мест для выполнения рабочих нагрузок. Сервисы моделей и инференса помогают им эффективно использовать эти мощности. Элементы управления агентами определяют, что приложениям разрешено делать при переходе в производство.

Ознакомьтесь с NVIDIA Cloud Partners для инфраструктуры и сервисов, а также с эталонной архитектурой OpenShell для средств управления развертыванием агентов.

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →

Ещё от NVIDIA