Следующим узким местом вашего дата-центра станет не GPU

Источник: Ansys•

Следующим узким местом вашего дата-центра станет не GPU

Почему производительность CAE и EDA все больше зависит от памяти, перемещения данных, электропитания, охлаждения и облачных мощностей.

Почему производительность CAE и EDA все больше зависит от памяти, перемещения данных, электропитания, охлаждения и облачных мощностей.

В последние несколько лет ключевой темой обсуждения инженерной инфраструктуры были ускорители. Каждая конференция, брифинг по планам развития и анонс в сфере искусственного интеллекта (AI) словно подкрепляют одну и ту же мысль: больше графических процессоров (GPU), крупнее кластеры, быстрее инновации.

Однако многие инженерные организации сталкиваются с иной реальностью. Они инвестируют в самые современные вычислительные технологии, но инженеры по-прежнему вынуждены ждать запуска задач, завершения моделирования, загрузки наборов данных или перемещения баз данных проектирования по сети. Несмотря на значительный прогресс в вычислительной мощности, сквозная производительность инженерной работы часто растет медленнее, чем ожидалось.

Причина проста: производительность стала системной проблемой. Для организаций в сфере автоматизации проектирования электроники (EDA) и компьютерного инжиниринга (CAE) следующим узким местом все чаще становится не процессор. А всё, что находится вокруг него.

Инженерные нагрузки меняются быстрее, чем инфраструктура

Нагрузки в сферах EDA, CAE, AI и цифрового инжиниринга стали значительно более требовательными. Базы данных проектов продолжают расти. Регрессионное тестирование при верификации потребляет все больше вычислительных ресурсов. Вычислительная гидрогазодинамика (CFD) и мультифизическое моделирование используют более крупные сетки и более сложную физику. AI также все глубже интегрируется в процессы проектирования, моделирования, оптимизации и верификации.

Тем не менее, многие инфраструктурные среды по-прежнему опираются на допущения, сформированные в те времена, когда главным ограничением были вычислительные мощности. Сегодня основные задержки происходят еще до того, как процессор вообще начинает работу. Инженеры ждут загрузки файлов. Данные перемещаются между уровнями хранения. Задачи простаивают в очередях в ожидании памяти или ресурсов. Результаты сохраняются в контрольных точках и записываются обратно в хранилище. Рабочие процессы AI тратят значительное время на передачу наборов данных ускорителям. Весь путь инфраструктуры начинает играть гораздо большую роль, чем любой отдельный компонент.

Перемещение данных становится новым показателем производительности

Рассмотрим современный инженерный рабочий процесс. Он начинается с доступа к данным проекта, моделям, библиотекам или входным данным моделирования. Затем процесс может подготавливать данные из хранилища, передавать информацию по сети, загружать ее в память, обмениваться сообщениями между вычислительными узлами, записывать контрольные точки и, наконец, сохранять результаты. Лишь часть этого процесса приходится на непосредственные вычисления.

По мере роста наборов данных именно перемещение данных все больше определяет общее время выполнения задачи. Эта тенденция меняет и архитектуру систем хранения. Отраслевые аналитики все чаще описывают хранилища как эволюционирующие из пассивного репозитория в активную платформу данных, способную одновременно поддерживать моделирование, обучение AI, инференс AI, а также новые инженерные процессы с поддержкой AI и агентных технологий. Традиционные стратегии хранения, оптимизированные в основном для операций создания контрольных точек и перезапуска, становятся менее эффективными по мере увеличения разнообразия нагрузок. Для многих инженерных команд сокращение перемещения данных может дать больший прирост производительности, чем покупка процессоров следующего поколения.

Дискуссия вокруг GPU меняет направление

Хорошая новость заключается в том, что использование GPU продолжает выходить за рамки национальных лабораторий и элитных суперкомпьютерных центров. Ускоренные вычисления внедряются на уровне подразделений, отделов и рабочих групп, становясь все более доступными для инженерных организаций любого размера. Экономическое обоснование становится все более очевидным для многих задач AI, моделирования и оптимизации.

Сложность заключается в том, что не каждая нагрузка получает одинаковую выгоду. Некоторые приложения EDA и CAE достигают существенного ускорения. Другие остаются ограниченными объемом памяти, перемещением данных, особенностями решателей или архитектурой программного обеспечения.

Поэтому вопрос заключается не просто в том: «Сколько GPU нам следует купить?». Он звучит так: «Какие нагрузки выигрывают от ускорения и что ограничивает их масштабирование?».

Организации, которые первыми находят ответ на этот вопрос, как правило, принимают более эффективные инвестиционные решения.

Память становится фактором стратегического значения

Пока внимание заголовков привлечено к GPU, память тихо становится одним из важнейших факторов проектирования инженерной инфраструктуры. Более крупные модели, проекты и наборы данных моделирования оказывают все большее давление на системы памяти.

Во многих средах проблема заключается уже не в выполнении вычислений. Сложность состоит в том, чтобы удерживать нужные данные достаточно близко к вычислительным ресурсам для поддержания высокой загрузки.

Эта тенденция усугубляется сохраняющимися ограничениями поставок. Hyperion Research отмечает, что организации, планирующие закупки новой инфраструктуры, продолжают сталкиваться с серьезными проблемами доступности и цен на GPU, центральные процессоры (CPU) и память, при этом поставщики заключают соглашения о поставках на годы вперед. В результате планирование памяти все больше превращается в стратегическую задачу, а не просто в решение по конфигурации сервера.

Электропитание становится новым ограничением инфраструктуры

Одно из крупнейших ограничений может быть связано не с кремнием, а с электричеством. Hyperion Research сообщает, что получение достаточной мощности электропитания для поддержки инфраструктуры AI и HPC следующего поколения остается серьезной проблемой, особенно в крупных мегаполисах, где мощности энергосетей все более ограничены. Многие существующие объекты не могут обеспечить уровень энергопотребления, необходимый для систем нового поколения.

Это создает необычную ситуацию. Инженерная организация может иметь утвержденный бюджет на дополнительную инфраструктуру, но все равно не иметь возможности развернуть ее из-за ограничений объекта. Последствия уже видны во всей отрасли. Жидкостное охлаждение становится все более распространенным, планирование электропитания поднимается на более высокие позиции в повестке дня IT-отделов, а при принятии решений по инфраструктуре к специалистам по вычислениям все чаще подключаются команды по эксплуатации зданий и инженерных систем. Для организаций, планирующих будущие дата-центры, энергообеспечение теперь должно оцениваться так же тщательно, как и производительность процессоров.

Почему все больше инженерных нагрузок переносится в облако

Другим последствием проблем с цепочками поставок и энергообеспечением является ускорение перехода в облака. Hyperion Research отмечает, что использование облачных решений для задач HPC и AI продолжает расти — отчасти потому, что гиперскейлеры часто имеют лучший доступ к квотам на поставки оборудования и энергоресурсам по сравнению с корпоративными дата-центрами. Пользователи все чаще используют облачную инфраструктуру, откладывая модернизацию локальных систем (on-premises).

Эта тенденция особенно заметна в сфере EDA. Согласно прогнозам Hyperion, расходы на облачные решения EDA вырастут примерно с 891 млн долларов США в 2025 году до более чем 2,2 млрд долларов к 2030 году, что соответствует годовому темпу роста около 20%. В то же время расходы на локальную инфраструктуру EDA продолжают расти, но более медленными темпами — примерно на 13% в год.

Это важное различие. Рынок не сигнализирует о конце локальной инфраструктуры. Вместо этого он указывает на то, что облако все больше становится расширением инженерных мощностей. Поэтому практическая цель состоит не в том, чтобы выбирать между облачной и локальной инфраструктурой, а в том, чтобы размещать каждую рабочую нагрузку там, где она обеспечивает наилучшее сочетание производительности, емкости, безопасности и экономической эффективности.

Новая цель: устранение «узких мест»

Организации, получающие наибольшую выгоду от EDA, моделирования и AI, не обязательно будут обладать самыми крупными кластерами или наибольшим количеством GPU. Они будут понимать, где именно их инженеры теряют время в ожидании, и систематически устранять эти узкие места.

Производительность современной инженерии зависит от того, насколько эффективно взаимодействуют вычисления, память, хранилище, сетевые ресурсы, питание, охлаждение и управление данными. Оценивая свои следующие инвестиции в инфраструктуру, уделяйте меньше внимания пиковым характеристикам отдельных компонентов и больше — сквозной производительности инженерных процессов.

Чтобы продолжить диалог, посетите наш стенд 1727 на Supercomputing 26. Мы будем рады обсудить, как компании из сферы CAE и EDA готовят свою инфраструктуру к инженерным нагрузкам следующего поколения.

О чём эта статья

Ещё в разделе «Промышленность и Industry 4.0»

Все →

Ещё от Ansys