По мере масштабирования центров обработки данных ИИ разработка полупроводников сталкивается с целым рядом ограничений одновременно. Для Сатиша Премананата (Satish Premanathan), вице-президента HCLTech, задача начинается с энергопотребления и плотности тепловыделения, но быстро распространяется на память, межсоединения, корпусирование и надежность.
Премананат отметил, что полупроводники для дата-центров ИИ теперь могут потреблять столько энергии, сколько в прежние поколения вычислительной техники было трудно даже представить.
«Первым фактором обычно является энергопотребление, — сказал он. — Прошли те времена, когда эти кремниевые [чипы] потребляли менее 25 ватт. Сегодня речь идет об одном киловатте».
Такой рост меняет как дизайн самих чипов, так и созданные вокруг них системы.
Энергопотребление становится конструктивным ограничением
По мере роста энергопотребления разработчикам приходится гораздо тщательнее управлять профилем питания полупроводников.
Премананат отметил, что методы, связанные с проектированием с низким энергопотреблением, становятся все более актуальными внутри центров обработки данных. Вместо того чтобы рассматривать энергопотребление как второстепенную задачу, управление питанием становится частью базовой архитектуры.
Система подачи питания также стала более сложной. Высокопроизводительные ИИ-чипы работают при низких напряжениях, требуя при этом очень высоких токов, что создает сложные инженерные задачи в отношении того, как электроэнергия поступает к устройству.
На системном уровне это означает более продвинутые архитектуры питания и тесную координацию между полупроводником и поддерживающей его инфраструктурой.
Охлаждение приближается к полупроводнику
Больше энергии также означает больше тепла.
«Тепловой профиль кремния становится очень высоким, поэтому применяемые методы охлаждения должны гарантировать качественное отведение тепла для поддержания надежности полупроводника», — сказал Премананат.
Это приводит к отказу от традиционных радиаторов и воздушного охлаждения как единственных способов решения проблемы. Жидкостное охлаждение приобретает все большую важность, поскольку операторы дата-центров ищут способы удержать высокоплотные ИИ-системы в рамках допустимого теплового режима.
Премананат также связал терморегуляцию с надежностью. Кремниевые чипы для ИИ должны работать в условиях значительных тепловых нагрузок в течение многих лет, что предъявляет повышенные требования к тестированию надежности на этапах проектирования и верификации.
Память и межсоединения становятся сложнее
Питание и охлаждение — это лишь часть проблемы.
Рабочие нагрузки ИИ также требуют очень высокой пропускной способности памяти. Премананат указал на растущее использование памяти с высокой пропускной способностью (HBM), поскольку разработчики стремятся обеспечить достаточный поток данных в вычислительный уровень и обратно.
В то же время архитектура межсоединений становится все более требовательной.
Высокоскоростные данные должны перемещаться между кремниевыми кристаллами, кластерами и компонентами. Премананат отметил более быстрые поколения PCI Express, высокоскоростные сети Ethernet и все более сложные межсоединения как часть этой эволюции.
Он также выделил оптические межсоединения и межсоединения на основе кремниевой фотоники как способ снижения энергозатрат на передачу данных с целью сделать энергопотребление на один гигабит передачи как можно более низким.
Это делает задачу проектирования шире, чем просто процессор. Вычисления, память и возможности подключения должны развиваться одновременно.
Передовое корпусирование становится частью архитектуры
Финальная задача — корпусирование.
Премананат сообщил, что методы передового корпусирования уже применяются в полупроводниках для дата-центров ИИ текущего поколения и станут еще более важными по мере перехода разработок к чиплетам.
По мере замедления закона Мура все более сложные системы больше не могут полагаться на размещение всего на одном монолитном кристалле. Разделение проектов на несколько чиплетов создает новые требования к способам соединения и корпусирования этих компонентов.
«Когда вы разделяете систему на несколько чиплетов, у вас нет другого выхода, кроме как использовать 2.5D- или 3D-корпусирование», — сказал Премананат.
Задача усложняется при добавлении в ту же систему стеков памяти HBM и оптических межсоединений. Премананат также указал на появление совместно корпусированной оптики (CPO) как еще один фактор, определяющий дизайн корпусов.
Тестирование должно развиваться параллельно с корпусированием.
Сочетание нескольких чиплетов, стеков памяти и других компонентов увеличивает сложность валидации интегрированной системы и может создавать проблемы с выходом годных изделий. В результате архитектура корпусов и стратегии тестирования передовых корпусов стали важными элементами общей экономики производства полупроводников.
Проблема проектирования на системном уровне
Полупроводники для дата-центров ИИ нового поколения не могут быть оптимизированы изолированно.
- Управление питанием влияет на тепловой дизайн
- Тепловые лимиты влияют на надежность
- Выбор памяти и межсоединений влияет на производительность и энергоэффективность
- Архитектуры на основе чиплетов создают новые требования к корпусированию и тестированию
В совокупности эти ограничения превращают разработку полупроводников в тесно взаимосвязанную инженерную задачу системного уровня.
Объединение этих инженерных областей также повышает ценность стратегических партнеров, способных работать на уровне кремния, систем, инфраструктуры и операций, помогая организациям справляться со сложностью и ускорять инновации в масштабу.
Для дата-центров ИИ масштабирование вычислений будет зависеть как от более быстрых чипов, так и от того, насколько эффективно вокруг них спроектированы питание, охлаждение, память, возможности подключения и корпусирование.
