Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Chto promyshlennyy ii trebuet ot urovnya dannyh
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Что промышленный ИИ требует от уровня данных

Источник: Everpure Blog•17 ноября 2026 г. в 15:01

Что промышленный ИИ требует от уровня данных

Что промышленный ИИ требует от уровня данных в блоге Everpure. Узнайте, как масштабируемый уровень данных для ИИ может ускорить создание контрольных точек и вывод данных, помогая поддерживать продуктивность графических процессоров при выполнении рабочих нагрузок ИИ. Статья «Что промышленный ИИ…

На протяжении большей части моей карьеры я оценивал производительность хранилищ в терабайтах.

Это не фигура речи. В облачных сервисах, где я работал до прихода в Everpure, вы покупали пропускную способность в фиксированном соотношении к емкости: гигабит в секунду на каждый выделенный терабайт или уровень, который давал вам 125, 250, 500 или 1000 МБ/с на выделенный ТБ. Это понятная модель, которую легко оценить. Она также означает, что когда задаче обучения требуется полоса пропускания, а не пространство, вы покупаете пространство, которое никогда не заполните, чтобы получить полосу пропускания, которая действительно поддерживает работу ваших ускорителей. Экономический эффект часто проявляется в виде недоиспользования мощностей GPU, а не в виде очевидных затрат на хранение, поэтому его часто не замечают.

Это первый пример закономерности, которую я заметил, когда два месяца назад присоединился к команде FlashBlade//EXA™. В своем блоге «Промышленному ИИ нужно не просто работать. Ему нужно масштабироваться» Кэмерон Бахар, генеральный менеджер подразделения FlashBlade//EXA, утверждал, что промышленный ИИ в масштабе — это другая инженерная задача, а не просто увеличенная версия той же самой. Я бы сузил это еще больше: многие проблемы, возникающие при масштабировании, связаны с двумя вещами, которые растут с разной скоростью, используя один ресурс. Путь управления и путь данных. Пропускная способность и емкость. Контекст и память GPU. Один арендатор и другой.

Поэтому полезный вопрос заключается не только в том, насколько быстро работает хранилище. А в том, во что вам обходится каждая из этих связок в терминах ИИ и что меняется, когда вы их разделяете.

Узкое место, которое не отображается на графике пропускной способности

Один из самых простых для неверной диагностики режимов сбоя — это насыщение метаданных.

Поиск, создание, получение статистики и удаление проходят через путь управления. В большинстве архитектур с горизонтальным масштабированием этот путь управления разделяет контроллеры, процессоры и сетевые порты с полезной нагрузкой, поэтому они масштабируются вместе в любой пропорции, которую навязывает оборудование. Когда рабочая нагрузка перегружена метаданными, как это бывает со многими конвейерами предварительной обработки, большими корпусами RAG и задачами вывода, путь управления может насытиться первым. Использование полосы пропускания при этом все еще выглядит комфортным. Время эпох увеличивается. Ничто на панели мониторинга хранилища не объясняет почему.

FlashBlade//EXA запускает эти пути на разном оборудовании. Метаданные находятся на ядре метаданных FlashBlade®, в то время как данные располагаются на стандартных узлах Linux с NVMe. Клиент согласовывает структуру файлов с ядром метаданных, а затем считывает и записывает данные напрямую на узлы данных через RDMA. Это означает, что команды могут масштабировать производительность метаданных и пропускную способность данных независимо, вместо того чтобы избыточно выделять ресурсы одного, просто чтобы получить больше другого. FlashBlade//EXA обрабатывает до 4,6 миллиарда операций с метаданными в секунду.

Рисунок 1: FlashBlade//EXA разделяет пути метаданных и данных, чтобы каждый из них мог масштабироваться независимо в зависимости от спроса рабочей нагрузки.

Поскольку пути метаданных и данных масштабируются независимо, команды могут добавлять производительность там, где она действительно нужна. Если проблема заключается в параллелизме небольших файлов, они могут масштабировать метаданные, не добавляя пропускную способность или емкость, которые им не нужны. А поскольку данные полезной нагрузки не проходят через центральный контроллер, производительность масштабируется вместе с фабрикой и узлами данных, а не ограничивается общим контрольным узлом.

STN, провайдер облачных GPU, выполняющий крупномасштабные задачи обучения и вывода ИИ для нескольких клиентов, является самым ярким доказательством того, что это работает за пределами лаборатории. Его предыдущая архитектура достигала максимума около 35 ГБ/с на высокооптимизированном наборе данных из мелких файлов, в то время как FlashBlade//EXA теперь обеспечивает до 100 ГБ/с. Сабур Миан, генеральный директор и основатель STN, описал проблему масштабирования так: «В типичной инфраструктуре хранения исследователи могут начать обучение модели на четырех узлах и получить хорошую производительность, но как только они начинают масштабироваться, эта производительность рушится. С FlashBlade//EXA мы пока масштабировались до 192 узлов, и мы еще не нашли предел». Суть не в пиковом показателе, который сейчас достигает 100 ГБ/с. Суть в том, что рост перестал быть архитектурным событием.

Ничего из этого не требует проприетарного файлового клиента, поэтому нет необходимости исправлять модули ядра на нескольких сотнях узлов GPU при каждом обновлении. Работая с управляемым сервисом Lustre, я воспринимаю это как инженерные часы, возвращенные команде ИИ, а не как функцию хранилища.

Почему создание контрольных точек важно в масштабе ИИ

Создание контрольных точек — это одно из мест, где производительность хранилища напрямую влияет на продуктивность GPU.

Во время крупного распределенного обучения большая часть ввода-вывода в установившемся режиме интенсивно считывается. Контрольная точка резко меняет этот шаблон: каждый ранг записывает свой сегмент одновременно, создавая всплеск трафика записи, который сильно отличается от нагрузки на чтение, которую система обрабатывает во время обучения. Пока этот всплеск сбрасывается, задача не обучается. Каждый ускоритель в ней ждет, и длительность ожидания определяется путем записи.

MLPerf Storage v3.0 — это первая версия теста, которая проверяет это напрямую, поскольку MLCommons добавила рабочие нагрузки контрольных точек и кэша KV, построенные на основе поведения ввода-вывода крупномасштабного обучения и вывода.

FlashBlade//EXA заняла 1-е место по всем показателям контрольных точек и кэша KV, которые мы представили в закрытом дивизионе MLPerf Storage. С 1024 симулированными ускорителями и моделью с 1,25 трлн параметров она записала контрольную точку со скоростью 877,52 ГиБ/с, завершив процесс за 17,74 секунды, и считала ее обратно со скоростью 588,28 ГиБ/с за 28,99 секунды.

Рисунок 2: Результаты MLPerf Storage v3.0 показывают, что FlashBlade//EXA лидирует по всем представленным показателям контрольных точек и кэша KV.

Масштабирование так же важно, как и пиковый результат. С 10 узлами данных пропускная способность записи контрольных точек составила 327,65 ГиБ/с. С 30 узлами она достигла 877,52 ГиБ/с. В меньшей конфигурации та же контрольная точка заставила бы все 1024 симулированных ускорителя ждать примерно в 2,7 раза дольше. Вот почему производительность контрольных точек — это не просто метрика хранилища. Она влияет на то, сколько времени система ИИ тратит на обучение, а сколько — на ожидание.

Эти результаты относятся конкретно к рабочим нагрузкам контрольных точек и кэша KV. Они являются полезными прокси для всплеска записи и пути контекста, но они не заменяют тестирование фактического сочетания рабочих нагрузок предварительной обработки, обучения и вывода в вашей среде.

Перемещение данных не должно требовать дополнительного уровня инфраструктуры

Большая часть перемещения данных в промышленном ИИ не требуется самой рабочей нагрузкой. Оно существует потому, что файловые данные и объектные данные живут в разных системах, поэтому кто-то копирует набор данных, чтобы сделать его пригодным для использования на следующем этапе. Каждая копия требует емкости, создает проблему актуальности и добавляет нагрузку на систему, которая уже находится под давлением. Ничто из этого не продвигает модель вперед.

FlashBlade//EXA объединяет файловые и объектные рабочие нагрузки на общей высокопроизводительной платформе, сохраняя при этом их собственные пути доступа и семантику. Что еще важнее для ИИ, она может обеспечить высокопроизводительный объектный доступ напрямую, не требуя от команд создания отдельного уровня файлового кэша или изменения стека клиента только для того, чтобы быстрее доставлять данные на GPU.

В Purity//FB 4.8.4 добавлена поддержка S3 поверх RDMA для FlashBlade//EXA, что позволяет передавать полезную нагрузку объектов по тому же каналу данных RDMA, который используется для высокопроизводительного файлового доступа, при этом используются стандартные вызовы API S3 и не требуются изменения ядра на стороне клиента. Это все еще новая возможность, имеющая ограничения раннего выпуска, которые клиентам следует изучить перед проектированием решений на ее основе.

То, что это исключает, важнее любого показателя пропускной способности. Распространенный шаблон для подачи данных на GPU из объектного хранилища заключается в создании перед ним быстрого уровня файлового кэша, а затем в запуске двух систем и поддержании их согласованности. Прямой высокопроизводительный доступ к объектам может снизить потребность в этом промежуточном уровне, а также в сопутствующих накладных расходах на копирование и эксплуатацию.

Повторные вычисления — самая затратная привычка в инференсе

Именно здесь уровень данных перестает быть просто смежным с экономикой инференса и становится ее частью.

Когда контекст вытесняется и его приходится восстанавливать, ускоритель заново выполняет арифметические операции, которые уже были завершены. При нескольких сессиях это незаметно. Но при тысячах одновременных агентных сессий с длинным контекстом это становится постоянным налогом на самое дорогое оборудование в здании. Кроме того, этот налог оплачивается метрикой, которую пользователи ощущают в первую очередь — временем до получения первого токена.

Pure Key-Value Accelerator (KVA) сохраняет состояния внимания между сессиями, а не отбрасывает их, и интегрируется нативно с vLLM. В нашем тестировании это обеспечило до 20 раз более быстрый инференс на NFS и в 6 раз на S3, при этом время до получения первого токена было в два-три раза лучше, чем у других подходов к кэшированию KV. FlashBlade//EXA выступает в качестве уровня под ним, когда кэш перерастает память GPU.

MLPerf независимо измерил сторону хранения: 85 736 токенов в секунду на рабочей нагрузке Llama 3.1 8B только с использованием хранилища, 67 642 на нагрузке 8B с использованием хранилища и памяти, и 33 403 на нагрузке 70B только с использованием хранилища.

Вариант «только хранилище» — это тот случай, который я бы изучил наиболее внимательно. Это означает, что кэш обслуживался полностью с FlashBlade//EXA без помощи памяти хоста, и при этом поддерживалась скорость в десятки тысяч токенов в секунду. В этом и заключается разница между персистентным контекстом как архитектурой, на которую можно опираться, и демо-версией для показа.

Изоляция — это то, как предсказуемость выживает при наличии нескольких арендаторов

Мультиарендность превращает предсказуемую производительность в обязательство перед клиентом. Ставки здесь конкретны, поскольку SLA инференса — это обещание по задержке, а график обучения — это дата сдачи. И то, и другое зависит от производительности, которую арендатор не может видеть или контролировать.

Обычный ответ — политика QoS. Политика помогает. Но она также работает на общих контроллерах, а это означает, что всплеск нагрузки будет арбитрироваться в точке, от которой зависят оба арендатора.

FlashBlade//EXA назначает каждую файловую систему группе узлов данных — определенному подмножеству узлов данных. Данные арендатора попадают на эти узлы и больше никуда, поэтому два арендатора в разных группах не конкурируют за одни и те же диски или порты. Проблема «шумного соседа» отсутствует по своей архитектуре, а не за счет управления. Та же граница ограничивает и сбои: выход из строя одного узла данных не затрагивает файловые системы в других группах. Для любого, кто предоставляет ИИ как сервис, эта граница — то, что позволяет обязательствам по производительности перед одним клиентом сохраняться при появлении следующего.

Оценивайте систему ИИ, а не массив

Смысл разделения всех этих ресурсов не в получении лучшей оценки хранилища. А в более предсказуемой системе ИИ. Тесты, которые я бы проводил, — это тесты системы ИИ, и ни один из них не выдает число производительности хранилища.

Измеряйте полезную производительность (goodput) — объем выполненной полезной работы, а не просто утилизацию GPU. Загруженный ускоритель не обязательно является продуктивным. Замерьте время полной записи контрольной точки при параллелизме, который вы ожидаете в следующем году, затем умножьте задержку на частоту создания контрольных точек и количество ваших ускорителей. Следите за временем до первого токена при реальной конкуренции, с повторным использованием кэша и без него, и выясните, какая доля вашей работы по предварительному заполнению (prefill) является повторной. Подсчитайте копии вашего самого большого набора данных и установите, для чего существует каждая из них. Выведите из строя узел под нагрузкой и измерьте, что теряют рабочие нагрузки рядом с ним, пока система восстанавливается. Если питание и занимаемая площадь являются ограничениями в вашей работе, измеряйте ватты на устойчивый ГБ/с, а не ватты на терабайт — именно пропускная способность питает GPU, а не емкость.

Ни на один из этих вопросов нельзя ответить на основе пилотного проекта, и показатель пиковой пропускной способности не отвечает ни на один из них.

Свяжитесь с нами. Приносите конфигурацию, которая вас беспокоит, и мы разберем, как она ведет себя при рабочих нагрузках, которые важны для вас.

← Все статьи

О чём эта статья

Ещё в разделе «Hardware и электроника»

Все →
Инфраструктура, лежащая в основе технологичного стадиона, готового к внедрению ИИ
Cisco

Инфраструктура, лежащая в основе технологичного стадиона, готового к внедрению ИИ

«Это совершенно иной взгляд на беспроводные технологии!»
Sennheiser

«Это совершенно иной взгляд на беспроводные технологии!»

Для вывода ИИ в реальном времени требуется распределенная сеть фронтенда
Arista Networks

Для вывода ИИ в реальном времени требуется распределенная сеть фронтенда

Arduino отправляется на Maker Faire Shenzhen 2026
Arduino

Arduino отправляется на Maker Faire Shenzhen 2026

Panasonic анонсирует LUMIX SHX1, первую компактную кинокамеру в истории LUMIX
Panasonic

Panasonic анонсирует LUMIX SHX1, первую компактную кинокамеру в истории LUMIX

Critical Care Suite 3.0 от GE HealthCare впервые внедряет ИИ непосредственно на устройство для обнаружения питательных зондов при рентгенологическом исследовании взрослых и детей
Ge Healthcare

Critical Care Suite 3.0 от GE HealthCare впервые внедряет ИИ непосредственно на устройство для обнаружения питательных зондов при рентгенологическом исследовании взрослых и детей

Ещё от Pure Storage

Поддержка PX-CSI для Talos Linux появится в декабре
Pure Storage

Поддержка PX-CSI для Talos Linux появится в декабре

Фундамент данных для Frontier Transformation
Pure Storage

Фундамент данных для Frontier Transformation

Вы покупаете передовые модели для простых задач. Протестируйте своих ИИ-агентов для программирования на собственном коде
Pure Storage

Вы покупаете передовые модели для простых задач. Протестируйте своих ИИ-агентов для программирования на собственном коде

Руководство администратора vSphere по эксплуатации (Day-Two) виртуальных машин в Kubernetes
Pure Storage

Руководство администратора vSphere по эксплуатации (Day-Two) виртуальных машин в Kubernetes

Portworx представляет расширенные возможности ИИ и виртуальных машин на Kubernetes; Everpure названа лидером в отчете IDC MarketScape за 2026 год
Pure Storage

Portworx представляет расширенные возможности ИИ и виртуальных машин на Kubernetes; Everpure названа лидером в отчете IDC MarketScape за 2026 год

Veeam и Everpure помогают восстановить бизнес
Pure Storage

Veeam и Everpure помогают восстановить бизнес