Модели OpenAI стремительно совершенствуют чипы, на которых работает ИИ. В августе мы рассказали о том, как инженеры OpenAI использовали наши передовые модели для ускорения разработки нашего первого специализированного чипа для инференса — Jalapeño. Здесь мы более подробно рассмотрим экспертные улучшения дизайна, обеспечившие прирост производительности Jalapeño, и то, как мы применяем этот же подход для достижения значительных результатов на стороннем оборудовании совместно с AMD.
Чтобы оценить способность нашей модели выполнять комплексные задачи по проектированию чипов, мы протестировали последовательные поколения моделей на двух проектах процессоров с открытым исходным кодом и получили интересные результаты. А чтобы закрепить развитие возможностей на базе проверенных инструментов оценки, мы сотрудничаем с Synopsys для интеграции передовых интеллектуальных функций с инструментами автоматизации проектирования электроники (EDA), которые инженеры уже используют для разработки и верификации чипов.
Улучшение вычислительных блоков Jalapeño
Мы начали использовать GPT‑4o для проектирования Jalapeño в начале 2025 года. Даже та ранняя модель нашла способы добиться существенного улучшения показателей PPA (мощность, производительность, площадь), таких как:
В векторном блоке, который управляет и выполняет параллельные вычислительные задачи, экономия была достигнута за счет оптимизации сумматоров и умножителей с плавающей запятой, функций преобразования, логики редукции и блока специальных функций. Модели исследовали как альтернативные реализации логики, так и способы распределения вычислений по этапам конвейера, находя возможности для совместного использования аппаратных ресурсов и сокращения промежуточного хранения данных.
В матричном блоке, который является арифметическим компонентом, улучшения накапливались в сумматорах с плавающей запятой, умножителях и схемах скалярного произведения низкой точности. Одна из переработанных версий умножителя использовала примерно на 15% меньше площади ячеек при синтезе, при этом сократив задержку с двух тактов до одного. Другая переработка сумматора позволила уменьшить площадь ячеек примерно на 15%, сохранив при этом двухтактную задержку. Дальнейшие улучшения логики скалярного произведения и организации конвейера обеспечили дополнительную экономию во всем блоке.
В рамках более широкой работы над дизайном Jalapeño команда оценивает, что предложенные моделью изменения позволили сократить площадь стандартных ячеек примерно на 13% в векторном блоке и на 10% в матричном блоке. Эти оптимизации были подтверждены на кремнии во время запуска производства Jalapeño.
Наше сотрудничество с AMD
Мы сотрудничаем с AMD в области улучшения PPA и добились до 14% прироста по сравнению с тщательно оптимизированными базовыми показателями для флагманского GPU IP. Наша модель выявила дополнительные улучшения путем переписывания кода, описывающего схемы чипа (SystemVerilog RTL). Это эквивалентно примерно году прогресса, достигнутому менее чем за 5 месяцев — беспрецедентные результаты на переднем крае проектирования чипов. AMD уже включила некоторые из этих изменений в недавний проект, отправленный в производство, и добавила другие в свои производственные файлы для использования в будущих версиях.
Мы наблюдали, как модель рассуждает об RTL на уровне эксперта-микроархитектора. Модель может переписывать схемы, которые выполняют вычисления, управляют операциями или перемещают данные. Она использовала инструменты Synopsys для проверки того, что каждое переписывание сохраняет поведение блока, а также для оценки компромиссов между мощностью, производительностью и площадью.
AMD также подтвердила прирост PPA на несколько процентов в ключевых блоках своего будущего флагманского процессора следующего поколения, используя проекты, созданные нашей моделью. Заглядывая вперед, мы ожидаем дальнейшего улучшения PPA для GPU и CPU по сравнению с наиболее оптимизированным базовым уровнем.
Оптимизация ядер RISC-V
Наши результаты на Jalapeño и чипах AMD показывают, что модели могут вносить улучшения в производственные проекты. Чтобы измерить прогресс в возможностях проектирования чипов от одного поколения моделей к другому, мы протестировали каждую модель на двух 32-битных ядрах RISC-V с открытым исходным кодом. PicoRV32 — это компактное ядро, предназначенное для перепрограммируемых чипов, называемых FPGA. OpenTitan использует Ibex в качестве встроенного процессора в своем чипе безопасности. Каждое из них является полноценным процессорным ядром для встраиваемых рабочих нагрузок класса микроконтроллеров.
Мы предоставили каждой модели исходное описание оборудования для каждого ядра и попросили увеличить пропускную способность (количество инструкций, которые ядро может выполнить в секунду). Например, изменение может позволить ядру завершить инструкцию за меньшее количество тактов, но сделать каждый такт длиннее. Измерение пропускной способности учитывает оба эффекта.
Мы проверяли результаты каждого проекта в симуляции. Проекты получали ноль баллов, если они не проходили проверку или использовали более чем в 16 раз больше площади, чем исходное ядро. Для проектов, прошедших проверку, мы измеряли количество инструкций за такт на рабочих нагрузках, скрытых от моделей. Мы вычислили среднее геометрическое по этим нагрузкам и умножили его на максимальную тактовую частоту, оцененную с помощью Yosys. Это дало нам оценку количества инструкций в секунду. Для каждого ядра мы присвоили лучшей пропускной способности, которую мы наблюдали при тех же ограничениях, оценку 1.0. На графиках показана средняя оценка по всем запускам, включая те, которые получили ноль.
При сопоставимом бюджете около 112 000 токенов на запуск, GPT‑6.2 Astra получила самую высокую среднюю оценку на обоих ядрах. GPT‑6.1 Sol также превзошла GPT‑5.6 Sol на обоих ядрах.
На существующем ядре PicoRV32 модель GPT‑6.2 Astra имеет самый высокий средний балл при больших сопоставимых бюджетах. При объеме около 112 000 токенов ее оценка примерно в два раза выше, чем у GPT‑6 Astra.
На существующем ядре Ibex средний балл GPT‑6.2 Astra продолжает расти при достижении более высоких бюджетов. GPT‑6 Astra и GPT‑6.1 Sol показывают более близкие результаты.
Проектирование ядра RISC-V на основе спецификации
Для второй задачи мы предоставили каждой модели письменные требования и шаблоны из кода с открытым исходным кодом, показывающие, как ядро подключается к остальной системе. Модель выбирала, как данные будут перемещаться по ядру и как разделить работу на этапы. Для каждого ядра мы сохранили проверки корректности, настройки памяти и кэша, а также цели по пропускной способности такими же, как в задаче оптимизации RTL.
При объеме около 112 000 токенов на запуск все пять моделей получили более высокие оценки при проектировании ядра на основе письменных требований, чем при попытке улучшить существующий проект. Это справедливо как для PicoRV32, так и для Ibex. GPT‑6.2 Astra показала больший прирост на Ibex, чем на PicoRV32. Полная оценка включала 9 881 запуск с выставлением баллов по обеим задачам, обоим ядрам и всем бюджетам токенов.
Начиная со спецификации PicoRV32, GPT‑6.2 Astra преодолевает средний балл 0,7 при объеме около 112 000 токенов и получает более высокие оценки при следующих двух наблюдаемых бюджетах.
На Ibex модель GPT‑6.2 Astra в среднем набирает около 0,75 при объеме около 112 000 токенов при проектировании на основе спецификации. Ее кривая остается выше остальных при больших общих бюджетах.
Начало работы с письменных требований дает моделям возможность опускать функции, присутствующие в исходных ядрах, такие как счетчики производительности и дополнительные инструкции. Эти функции могут мало способствовать увеличению пропускной способности на тестовых рабочих нагрузках, что может частично объяснить преимущество в баллах. Требование наличия этих функций, установление более жесткого ограничения на площадь схемы и проверка таймингов после физического синтеза сделали бы тест более репрезентативным для промышленного проектирования чипов.
Что дальше
Мы продемонстрировали, что наши модели могут исследовать новые архитектуры процессоров в тестах RISC-V и вносить совершенно новые улучшения поверх сложных серийных проектов, таких как Jalapeño и флагманские GPU и CPU следующего поколения от AMD. Чтобы опираться при разработке моделей на надежные системы оценки и расширить спектр решаемых задач проектирования, мы сотрудничаем с Synopsys для обучения GPT‑Synopsys(открывается в новом окне) — новой модели, способной использовать инструменты автоматизации проектирования электроники (EDA) Synopsys так же, как это делают опытные инженеры-проектировщики микросхем.












