[Техническая заметка] Почему ИИ всё ещё простаивает с десятками тысяч GPU? Как кремниевая фотоника и CPO строят «шоссе света»

ИИ не ждет. Фундамент каждой отрасли уже трещит по швам. Это история не об одном секторе. Производство. Финансы. Здравоохранение. ЦОДы. Весь промышленный уклад перестраивается вокруг ИИ — и это происходит прямо сейчас. Знать об ИИ больше не является конкурентным преимуществом. Нужно заглядывать в самую суть. Именно поэтому в нашей новостной колонке мы пристально изучаем ИИ и полупроводники, которые лежат в его основе.

В [Tech Note] профессор Ёнхён Ким из Школы конвергентных полупроводниковых технологий Ханьянского университета ERICA разбирает проблему узких мест в передаче данных на фабриках ИИ и исследует кремниевую фотонику и совмещенную оптику (CPO) как технологии нового поколения, которые могут помочь их преодолеть.

Конкурентоспособность полупроводников для ИИ больше не определяется исключительно скоростью обработки данных отдельными вычислительными чипами. Производительность всей фабрики ИИ зависит от того, где хранятся данные, какими путями они перемещаются и как быстро достигают пункта назначения. В эпоху ИИ магистрали передачи данных переходят от электрических сигналов к свету.

Представьте себе огромный промышленный комплекс, заполненный сотнями заводов, каждый из которых оснащен современным оборудованием, способным выпускать продукцию в мгновение ока. Но что произойдет, если дороги, соединяющие эти заводы, имеют только по одной полосе в каждом направлении? Грузовики с сырьем выстраиваются в очереди у складов, в то время как готовая продукция не может вовремя дойти до следующего этапа производства. Оборудование на заводах могло стать быстрее, но это не обязательно означает, что скорость производства растет с той же скоростью. Все потому, что скорость выпуска всего промышленного комплекса в конечном итоге зависит от пропускной способности его дорог. Аналогичная ситуация разворачивается в современных крупномасштабных дата-центрах ИИ, которые часто называют «фабриками ИИ».

▲ Сколько бы вычислительных устройств ни было у фабрики ИИ, GPU будут простаивать в ожидании данных, если пути передачи данных окажутся слишком узкими.

Графические процессоры (GPU) отлично справляются с одновременным выполнением огромного числа вычислений, необходимых для ИИ. Тем не менее, они не могут начать вычисления до тех пор, пока не поступят необходимые данные. Им необходимо извлекать обучающие данные и «веса» — значения, изученные моделью ИИ в процессе обучения — из памяти. Когда несколько GPU работают вместе над обучением одной модели, они также должны непрерывно обмениваться результатами вычислений. По мере роста скорости GPU возможности передачи данных со стороны близлежащей памяти и сетей приобретают все более важное значение.

До сих пор для соединения полупроводниковых компонентов внутри серверов использовались медные межсоединения. Медь проста в обработке и эффективно передает сигналы на очень короткие расстояния, например, между чипами на одной подложке корпуса. Проблема возникает по мере увеличения скорости передачи и расстояний. Электрические сигналы ослабевают и создают помехи друг для друга при прохождении по медным проводам. Для восстановления деградировавших сигналов требуются репитеры* и схемы коррекции сигналов, что влечет за собой дополнительное энергопотребление, которое, в свою очередь, генерирует больше тепла и повышает требования к охлаждению.

* Репитер: Устройство, которое принимает ослабленный сигнал во время передачи, усиливает или регенерирует его и ретранслирует.

▲ Медь эффективна на коротких расстояниях, например внутри полупроводниковых корпусов. Однако по мере увеличения скорости передачи и расстояний потери сигнала, выделение тепла и энергопотребление репитеров также возрастают, из-за чего оптические межсоединения, передающие несколько длин волн по одному волокну, становятся все более предпочтительными.

Для уменьшения потерь сигнала и энергопотребления все большее внимание привлекают оптические межсоединения, передающие больше данных с помощью света. Одно оптоволокно может передавать свет на нескольких длинах волн одновременно. Использование спектрального уплотнения каналов (WDM)*, которое распределяет разные потоки данных по разным длинам волн, позволяет увеличить пропускную способность без добавления новых оптоволокон.

* Спектральное уплотнение каналов (WDM): Технология, которая передает различные потоки данных одновременно по одному оптоволокну, назначая каждому потоку свою длину волны или цвет света.

Хотя оптоволокно завоевывает все большую популярность, это не значит, что медь уходит в прошлое. Электрические соединения через медь по-прежнему выгодны внутри чипов и на очень коротких расстояниях. Оптические межсоединения уже стали стандартом для соединений на более дальние расстояния, например между стойками и зданиями в дата-центрах, и теперь переходят в сферу применения на более коротких дистанциях.

Ключ к успеху заключается не в конкуренции между электричеством и светом, а в разделении ролей. Цель состоит в том, чтобы построить «шоссе света», способные передавать больше информации более эффективно, начиная с соединений, где медные межсоединения сталкиваются с растущими потерями сигнала, энергопотреблением и тепловыделением.

Если оптоволокно — это шоссе, то для размещения данных на этом шоссе, их направления в нужный пункт назначения и извлечения на другом конце также необходима инфраструктура. Кремниевая фотоника переносит эту инфраструктуру на небольшой чип. Внутри чипа находятся микроскопические каналы, называемые оптическими волноводами, которые направляют свет по принципу полного внутреннего отражения, обеспечиваемого различиями в показателе преломления между волноводом и окружающими материалами. Рядом с этими волноводами располагаются модуляторные и фотодетекторные элементы, изготовленные с использованием полупроводниковых процессов. Модуляторы кодируют информацию в свет, изменяя его интенсивность или другие свойства в соответствии с электрическими данными, в то время как фотодетекторы преобразуют поступающий свет обратно в электрические сигналы для извлечения информации.

▲ Кремниевая фотоника направляет свет, поступающий через оптоволокно, в волноводы внутри кремниевого фотонного интегрального чипа (PIC), где такие интегрированные компоненты, как кольцевые резонаторы, модуляторы и фотодетекторы, управляют светом. Внутри этого небольшого чипа электрические сигналы могут кодироваться в свет, а поступающий свет — преобразовываться обратно в электрические сигналы для извлечения информации.

Значение «кремния» выходит за рамки самого материала. Методы микрофабрикации и массового производства, разработанные полупроводниковой индустрией, также могут применяться к оптическим устройствам. Это позволяет многократно изготавливать многочисленные оптические пути с высокой точностью на компактной площади и интегрировать их в непосредственной близости от электронных схем.

Однако управление светом и генерация света — это две разные задачи. Кремний плохо приспособлен для эффективной генерации света с помощью электрического тока. По этой причине в коммуникационных лазерах используются соединение полупроводников, такие как фосфид индия (InP). Один из подходов заключается в том, чтобы разместить эти лазеры за пределами кремниевого фотонного чипа и подавать свет от внешнего источника лазерного излучения (ELS). Это позволяет располагать лазеры вдали от электронных чипов, которые выделяют значительное тепло, а их модульная сменная конструкция также упрощает обслуживание.

На каком же расстоянии друг от друга должны располагаться эти оптические чипы и электронные чипы, обрабатывающие данные? Одним из ответов на этот вопрос о размещении является совмещенная оптика (CPO).

Коммутатор центра обработки данных выполняет роль контроллера трафика, направляя данные, которыми обмениваются многочисленные серверы, к их месту назначения. На передней панели расположены ряды оптических трансиверных модулей, которые преобразуют электрические сигналы в световые и наоборот. Эти «подключаемые» модули можно устанавливать и извлекать по мере необходимости. Такая конструкция упрощает замену отдельных неисправных модулей и опирается на обширный опыт эксплуатации. Тем не менее электрические сигналы все равно должны проходить по печатной плате от специализированной интегральной схемы (ASIC), которая является «мозгом» коммутатора, к оптическим модулям на передней панели. По мере роста емкости коммутатора и скорости портов этот кажущийся коротким электрический путь становится все более серьезной проблемой для энергопотребления и целостности сигналов.

Совмещенная оптика (CPO) размещает оптический модуль — ключевой компонент, отвечающий за преобразование электрических сигналов в свет и обратно, — непосредственно рядом с ASIC коммутатора. Оба компонента размещаются на общей подложке корпуса, которая служит общей платформой для монтажа и электрического соединения чипов. Это похоже на перенос логистического терминала из отдаленного места на территорию самого завода. Расстояние, которое должны преодолевать электрические сигналы, сокращается, в то время как за более протяженный путь передачи отвечает оптоволокно. CPO позволяет увеличить плотность полосы пропускания (передавать больше данных в пределах ограниченной площади коммутатора), а также снизить энергопотребление, которое в противном случае расходуется на компенсацию потерь высокоскоростных электрических сигналов.

▲ В архитектуре с подключаемыми модулями слева электрические сигналы идут от ASIC коммутатора к оптическим модулям на передней панели. В архитектуре CPO справа центральная ASIC коммутатора и окружающие ее оптические модули размещаются на общей подложке корпуса, что значительно сокращает расстояние электрического соединения.

CPO требует совместного проектирования оптических устройств и электронных схем, которые ими управляют и обрабатывают их сигналы. Кремниевая фотоника дает преимущество в виде тесной интеграции с электронными чипами за счет использования существующей инфраструктуры производства полупроводников и передовых технологий корпусирования. Это также поддерживает совместную оптимизацию системы и технологии (STCO) — подход, который комплексно оптимизирует все: от устройств и производственных процессов до корпусирования и систем.

Однако подача лазерного излучения на чип и точное соединение оптических волокон по-прежнему представляют собой сложную техническую задачу. Оптические устройства также должны надежно работать в условиях соседства с ASIC, которые выделяют значительное количество тепла. Поскольку дефект даже в одном компоненте может повлиять на весь корпус в целом, также важно повышать выход годной продукции (процент изделий, отвечающих требованиям качества) и проектировать такие архитектуры, которые облегчают обнаружение и устранение дефектов.

Несмотря на технические трудности, причина, по которой компании, занимающиеся искусственным интеллектом, обращают свое внимание на CPO, очевидна: для полного раскрытия вычислительной мощности графических процессоров необходимо также повысить эффективность сети. Независимо от того, объединены ли графические процессоры в единую мощную вычислительную систему или связаны между собой на уровне нескольких серверов для наращивания вычислительной мощности, добавление большего числа GPU неизбежно создает дополнительную нагрузку на соединяющие их интерфейсы. В ответ на это глобальные технологические компании, такие как NVIDIA и Broadcom, ускоряют коммерциализацию, внедряя сетевые продукты с использованием технологии CPO.

Уже появляются результаты, демонстрирующие эффективность этой технологии. На Европейской конференции по оптической связи (ECOC) 2025 года компания Meta представила результаты оценки коммутационной системы на базе CPO. В ходе тестов энергопотребление в части оптических межсоединений оказалось примерно на 65% ниже, чем у сопоставимой архитектуры с подключаемыми модулями. Длительная эксплуатация также подтвердила стабильность соединения в конкретных условиях тестирования*.

Наряду с CPO разрабатываются альтернативные подходы, позволяющие сохранить преимущества традиционных архитектур. Линейная подключаемая оптика (LPO) сохраняет конструкцию с заменяемыми оптическими модулями, но снижает энергопотребление за счет отказа от цифрового сигнального процессора (DSP), традиционно используемого для компенсации искажений сигнала. В то же время технология приближенного к корпусу размещения оптических элементов (NPO) располагает оптические модули вблизи чипа коммутатора без их интеграции в тот же корпус.

▲ LPO сохраняет архитектуру подключаемых оптических модулей, исключая цифровой сигнальный процессор (DSP) внутри модуля, тогда как NPO размещает оптические модули близко к чипу коммутатора, но за пределами его корпуса.

CPO, LPO и NPO не являются последовательными этапами технологического развития; скорее, это различные подходы, выбираемые в зависимости от требований к производительности, энергоэффективности, охлаждению и обслуживанию. Подключаемые архитектуры дают преимущество легкой замены, но по мере того, как крупномасштабные системы ИИ требуют все большей пропускной способности и энергоэффективности, CPO приобретает все большее значение, поскольку сокращает электрические соединения до уровня корпуса.

Поскольку эти подходы продолжают сосуществовать, внедрение CPO, как ожидается, начнется в тех сферах применения, где его преимущества в энергосбережении и надежность работы были продемонстрированы в реальных условиях.

Память с высокой пропускной способностью (HBM) и CPO сокращают время, которое графические процессоры тратят на ожидание данных в различных точках системы. HBM объединяет несколько кристаллических пластин DRAM в стек и размещает их непосредственно рядом с графическим процессором. Внутри того же корпуса HBM соединяется с GPU посредством коротких и широких электрических путей с использованием интерпозера*. CPO, напротив, повышает эффективность передачи данных по сети, соединяющей несколько систем с GPU, за счет преобразования электрических сигналов в световые вблизи чипа коммутатора. Даже если HBM локально поставляет графическим процессорам достаточное количество данных, общая производительность не может быть реализована в полной мере, если коммуникация между GPU становится узким местом. Именно поэтому возможности памяти и сетевого взаимодействия должны работать в комплексе.

* Интерпозер: Промежуточная подложка, используемая для соединения нескольких чипов (например, ЦП, графических процессоров и памяти) в рамках одного корпуса.

▲ HBM сокращает расстояние, которое данные должны преодолевать внутри того же корпуса, что и графический процессор, в то время как CPO повышает эффективность передачи данных по сетям, соединяющим несколько систем с GPU.

Помимо быстрой передачи данных, важно также эффективно использовать емкость памяти, распределенную между несколькими системами. Когда память выделяется отдельным системам изолированно, в одних может возникнуть ее дефицит, в то время как другие имеют неиспользуемые ресурсы. Одним из подходов к решению этого дисбаланса является пулинг памяти, который объединяет ресурсы памяти в общий пул, к которому несколько процессоров могут обращаться по мере необходимости. Compute Express Link (CXL) — это стандарт межсоединений, поддерживающий расширение и пулинг памяти. В этом контексте роль света может выйти за рамки связи между графическими процессорами и распространиться на пути, по которым процессоры обращаются к общим пулам памяти. Использование оптических межсоединений на базе кремниевой фотоники для этих соединений может обеспечить большую дальность передачи и более высокую пропускную способность при потенциальном снижении энергопотребления.

Тем не менее, это не означает, что память HBM, расположенная непосредственно рядом с графическим процессором, также должна использовать оптические соединения. Возможна гибридная архитектура: данные, требующие быстрого доступа, могут храниться в HBM, соединенной через короткие и широкие электрические пути, в то время как данные, требующие дополнительной емкости или общего доступа, могут находиться в оптически соединенных пулах памяти. Однако оптические соединения не делают удаленную память доступной с той же скоростью, что и HBM. Поэтому крайне важно оценивать, где должны храниться различные типы данных, когда их следует перемещать, а также учитывать задержки и энергопотребление, связанные с этими передачами.

В перспективе конкурентоспособность ИИ-полупроводников будет зависеть не только от чистой вычислительной скорости отдельных графических процессоров, но и от того, насколько тесно графические процессоры, память и сети спроектированы совместно и интегрированы с оптическими технологиями, технологиями корпусирования и системными решениями, необходимыми для их реализации. Электрические и оптические соединения будут сосуществовать, каждое из них будет применяться в тех областях, где его преимущества наиболее эффективны.

В конечном счете, самым мощным ИИ-комплексом станет не тот, который оснащен самым быстрым отдельным графическим процессором, а тот, в котором множество графических процессоров и устройств памяти могут работать вместе, не ожидая друг друга. Именно поэтому полупроводникам необходим свет.

Отказ от ответственности: мнения, выраженные в этой статье, принадлежат исключительно автому и не обязательно отражают официальную позицию SK hynix.