NeuroSpark объединяет графические процессоры AMD Instinct™ на OCI с программным обеспечением ROCm™ для обслуживания рабочих нагрузок инференса и предоставления клиентам дополнительных вариантов вычислений.
NeuroSpark AI предоставляет инфраструктуру для обучения и инференса для ИИ-лабораторий, ИИ-ориентированных компаний и предприятий, задействуя всё: от больших языковых моделей до генерации видео, синтеза речи и моделей эмбеддингов. NeuroSpark полностью сопровождает своих клиентов — от модели до кремния — на различных аппаратных средствах, включая графические процессоры AMD Instinct™.
Клиенты NeuroSpark сталкиваются со взрывным ростом спроса на токены, и для многих вычисления стали самой большой статьей расходов. Просто получить необходимую емкость графических процессоров на некоторых платформах может быть сложно. Новым моделям часто требуется более высокая производительность, чем могут обеспечить текущие графические процессоры клиента. А как только модели достигают стадии производства, они должны оставаться надежными.
NeuroSpark помогает клиентам преодолевать эти ограничения, подбирая для каждой модели аппаратное обеспечение, которое наилучшим образом соответствует ее уникальным требованиям к размеру, задержке и производительности. Такая адаптируемость важна, поскольку модели могут вести себя по-разному на разных графических процессорах в зависимости от шаблонов ввода, рабочей нагрузки и параллелизма. Добавление графических процессоров AMD Instinct на платформе Oracle Cloud Infrastructure (OCI) Bare Metal расширило возможности, которые NeuroSpark может предложить клиентам, а также предоставило более экономичный вариант для многих из их наиболее передовых моделей.
Адаптация с помощью открытого программного обеспечения AMD ROCm
Агентная платформа NeuroSpark выполняет итеративный цикл: она оценивает производительность фреймворков инференса и обучения по сравнению с реальными рабочими нагрузками, учится на результатах и продолжает стремиться к наилучшему соответствию. Открытый исходный код программного обеспечения AMD ROCm дает NeuroSpark гибкость в адаптации ПО под специфические требования моделей клиентов. После того как команда устанавливает рабочую базовую линию для данной модели, AMD ROCm позволяет им исправлять специфичные для рабочей нагрузки ошибки, настраивать ядра и добавлять функции до тех пор, пока модель не достигнет целевых показателей производительности клиента. Варианты фреймворков NeuroSpark включают ATOM (механизм инференса на базе ROCm), AITER (настройка ядер и библиотека ядер на базе ROCm), моноядро, FlyDSL, компонуемое ядро (вариация выбора ядер для наилучшего соответствия варианту использования клиента) и интегрированный ROCm в основной механизм инференса. «AMD ROCm предоставляет нам среду, в которой мы можем разрабатывать и на которую можем положиться для поддержки наших клиентов», — говорит Томас Нинг (Thomas Ning), основатель NeuroSpark AI.
Эта открытость работает в обоих направлениях. «Мы сотрудничаем с AMD, чтобы усовершенствовать ROCm и предоставить новые программные функции», — говорит Нинг. Команда NeuroSpark внесла большой вклад в развитие AMD ROCm, включая поддержку повышения производительности новых моделей, а также помогла с интеграцией в SGLang, основной механизм инференса с открытым исходным кодом. «AMD ROCm — это наш фундамент. Мы можем опираться на этот фундамент и придавать ему различные формы для решения задач клиентов».
Развертывание на графических процессорах AMD Instinct
NeuroSpark запускает графические процессоры AMD Instinct на «голом железе» OCI для обслуживания языковых моделей, моделей генерации видео и синтеза речи своих клиентов. Когда Z.ai выпустила GLM-5.3 в августе 2026 года, агентная система NeuroSpark перенесла свою поддержку с GLM-5.2 на GLM-5.3 с помощью программного обеспечения AMD ROCm. «GLM-5.3 — это передовая модель, и мы поддержали ее на AMD с первого дня, вскоре после запуска модели», — говорит Нинг. «Благодаря правильной программной оркестровке, созданной на базе AMD ROCm, мы быстро внедрили передовые модели с открытым исходным кодом, такие как Kimi K3, MiniMax M3 и Beam от Reflection, в производство на базе AMD».
OCI поставляет инфраструктуру «голого железа», мощности и поддержку, необходимые NeuroSpark. «Мы не смогли бы добиться этого без надежности и поддержки со стороны OCI, которые помогают нам действительно эффективно использовать графические процессоры AMD в стабильной и дружелюбной среде», — говорит Нинг.
Расширение возможностей клиентов в сфере ИИ
«В чипах AMD скрыт огромный нереализованный потенциал, и мы можем помочь компаниям разобраться, как наилучшим образом использовать их для достижения лучшей производительности и лучшей экономики», — говорит Нинг. В настоящее время NeuroSpark движется к сотрудничеству с OCI по использованию различных графических процессоров серии AMD Instinct.
Сочетая графические процессоры AMD Instinct с опытом работы в области AMD ROCm, NeuroSpark расширяет возможности для своих клиентов. «Разумно подбирая аппаратное обеспечение, мы возвращаем власть нашим клиентам», — говорит Нинг.
Узнайте больше о NeuroSpark AI на сайте neuro-spark.ai.
