На прошлой неделе компания Culper Research, занимающаяся игрой на понижение, опубликовала отчет, в котором утверждается, что пластины Cerebras выходят из строя примерно через два года. Почти каждый финансовый вывод в этом отчете, от нашей маржи до ценности нашего соглашения с OpenAI, зависит от этой единственной цифры.
Эта цифра неверна.
Вопрос о том, как долго прослужат наши системы, является справедливым как для клиентов, так и для акционеров, поэтому мы хотим прямо ответить на эту тему.
Задача была сложной
На протяжении десятилетий индустрия считала вычисления на пластинах невозможными для масштабирования, особенно после того, как Trilogy Systems Джина Амдала, один из самых финансируемых стартапов своей эпохи, отказался от этой попытки в 1980-х годах. Процессор размером с обеденную тарелку должен получать питание, охлаждаться и быть подключенным, не трескаясь при этом.
Самая сложная часть — механическая. Кремний и печатная плата под ним расширяются с разной скоростью при нагревании и охлаждении. В масштабе пластины это несоответствие достаточно велико, чтобы разорвать соединения или саму пластину, если этим не управлять.
Отчет прав в том, что это сложно. Нам потребовались годы, чтобы решить эту проблему. Но мы учились на каждой ошибке, работали с нашими клиентами, улучшали конструкцию по ходу дела, и сейчас мы работаем над третьим поколением, переходя к четвертому. У нас есть высоконадежный продукт, срок службы которого будет ограничен не тепловым выходом из строя, а будущими поколениями кремния Cerebras, конкурирующими за потребляемую им мощность и пространство.
Частью нашего процесса разработки было изучение того, что не работает. В отчете утверждается, что мы используем сторонний материал под названием PariPoser в качестве соединителя в наших системах. На основании этого в отчете делается вывод, что Cerebras не внедряет инновации и не решила проблемы теплового расширения, ключевые для надежности масштаба пластины.
Это одна из многих неточностей в отчете. Чтобы внести ясность: мы не используем PariPoser и никогда не поставляли ни одной системы, в которой он используется.
Как мы это решили
Ответ на решение проблемы масштаба пластины никогда не заключался в одном материале. Это сборка, запатентованная с 2019 года, которая работает по основному правилу: смягчение резких перепадов температуры на пластине, как во времени, так и по всей ее поверхности. Это обеспечивает надежную работу в течение длительных периодов времени при достижении лучшей в отрасли производительности.
- Мощность меняется постепенно. По мере включения или выключения наших систем схемы на каждом ядре сглаживают резкие скачки тока. Соответственно, мощность меняется постепенно, чтобы избежать разрушительных скачков. «Фиктивные операции», описанные в отчете, являются одним из инструментов, которые делают это; контролируемое потребление мощности — это устоявшийся инженерный метод в нашей отрасли (дизайн B300 от NVIDIA включает режим «power burner», который поддерживает энергопотребление GPU, когда полезная работа падает, а затем снижает его для сглаживания энергопотребления).
- Температура остается равномерной по всей пластине. В отчете указано, что мы поддерживаем наши пластины при стабильной температуре. Это верно и сделано намеренно. Стабильная температура — это способ предотвращения механической усталости, по той же причине, по которой электростанции избегают частых холодных пусков. Ошибка Culper заключается в предположении, что стабильная означает горячая. Это не так. Охлажденная вода достигает каждой области пластины через множество коротких контуров, а вычислительная нагрузка распределяется так, чтобы ни одна область не работала намного холоднее своих соседей. Эти инновации защищают пластину от неравномерного теплового расширения и обеспечиваются аппаратным обеспечением, поэтому даже неисправное программное обеспечение не может повредить пластину.
- Каждое соединение с пластиной гибкое. Электрическое соединение с платой изгибается, а интерфейс с охлаждающей пластиной скользит, поэтому пластина и плата перемещаются, не напрягая друг друга при повышении или понижении температуры. Подобно шарнирам в подвесном мосту, «механическая гибкость» в наших системах защищает от отказов, вызванных напряжением.
Понимание того, что данные говорят о нашем кремнии
Кремний выводится из эксплуатации по одной из трех причин: он выходит из строя механически, изнашивается от тепла или его использование больше не является экономически привлекательным.
Механическая причина. Cerebras внедрила методы обеспечения стабильных, равномерных температур именно для снижения механического риска, вызванного большими, резкими колебаниями температуры.
Тепло. Чипы стареют быстрее, когда они работают при высоких температурах. Предполагая, что пластины Cerebras работают при высоких температурах, отчет пришел к выводу о двухлетнем сроке службы двумя способами. Оба неверны.
Авторы взяли экономический срок службы GPU в пять-семь лет и сократили его в соответствии со своей оценкой того, насколько тяжелее работают наши пластины. Но GPU выводятся из эксплуатации, потому что более новые чипы делают их экономически невыгодными, а не потому, что они изнашиваются. Масштабирование экономического срока службы с помощью физического коэффициента — это логическая ошибка, которая дает число, не описывающее ничего.
Авторы также попытались применить уравнение Аррениуса для оценки срока службы пластины до теплового выхода из строя. Хотя это правильное уравнение, в отчете используются неверные входные данные.
Уравнение Аррениуса требует: (1) действительного срока службы при известной эталонной температуре и (2) фактической рабочей температуры. В отчете не использовалось ни то, ни другое.
Пластина Cerebras квалифицирована TSMC, ее производителем, на 10 лет непрерывной работы при 105°C, что на двадцать градусов выше нашего максимума. Во всем нашем парке развернутых CS-3 средняя температура перехода пластин составляет менее 65°C и не превышает 85°C. Оба показателя находятся в пределах отраслевых норм.
Используя эти входные данные, модель Аррениуса показывает, что пластина, удерживаемая при максимальной температуре 85°C каждый час каждого дня, прослужила бы 33 года, прежде чем тепло износило бы ее. Пластина, удерживаемая при средней температуре перехода 65°C, прослужила бы более века.
Никто не будет запускать CS-3 в течение 33 лет. Суть в том, что тепловой выход из строя — это не то, что выведет ее из эксплуатации.
Это согласуется с нашими полевыми данными — с момента появления CS-3 в 2024 году менее половины одного процента всех развернутых пластин CS-3 были выведены из эксплуатации.
Почти все выводы отчета основаны на предположении о коротком сроке службы пластин. Но срок службы пластин не короткий, он долгий. Без этого предположения выводы отчета рассыпаются.
Экономика. Большая часть кремния выводится из эксплуатации по экономическим причинам — новые поколения кремния делают больше на доллар и на ватт. Мы считаем, что, как и GPU, CPU и почти весь кремний на рынке, наши решения будут выведены из эксплуатации, когда появятся более эффективные способы использования мощности и пространства, которые они потребляют.
Это концепция, отличная от того, как бухгалтеры измеряют амортизацию и срок полезного использования.
Бухгалтерский учет срока полезного использования отражает, как долго Cerebras получает выгоду от наших основных средств. Когда мы подали наш первый S-1, вычислительное оборудование, которое мы использовали внутри компании, предназначалось в основном для лабораторий R&D. Наши инженеры получали последнее поколение наших чипов, писали программное обеспечение и проводили интенсивное тестирование производительности. Наша оценка срока полезного использования была основана на износе при лабораторных испытаниях, но, что более важно, на том, когда наши инженеры переходили к тестированию следующего поколения нашего продукта: CS-1 был представлен в 2020 году, CS-2 в 2022 году, а CS-3 в 2024 году. Соответственно, мы оценили срок в 1-3 года.
К моменту следующего обновления нашей формы S-1 мы поставили перед собой задачу построить частное облако; причиной стало то, что об этом нас просили клиенты и разработчики, работающие с ИИ. Одним из следствий стало изменение состава наших основных средств: теперь они включают производственные системы, которыми мы владеем для облачного бизнеса. В связи с этим мы изменили график амортизации до 3–5 лет, что отражает как использование лабораторного оборудования для внутренних нужд, так и экономический срок службы принадлежащих нам и эксплуатируемых нами облачных производственных активов. Большинство облачных провайдеров в настоящее время указывают для ИИ-оборудования срок полезного использования в 5–6 лет, что ставит нас в сравнительно более консервативное положение. Наконец, все эти управленческие оценки, включая срок полезного использования, являются частью ежегодных аудитов, проводимых компанией KPMG.
Десятилетие работы
Вычисления на уровне пластин (wafer-scale) считались невозможными, поскольку технические препятствия были реальными. Мы потратили десять лет на их преодоление, и наши первые клиенты прошли часть этого пути обучения вместе с нами. Каждое поколение улучшало производительность, функциональность и надежность. Сегодняшние системы работают стабильно и эффективно, и они созданы с расчетом на то, чтобы прослужить гораздо дольше своего экономического срока службы.
Поскольку быстрая инференция становится все большей частью рабочих нагрузок ИИ, мы понимаем стремление моделировать жизненный цикл продуктов Cerebras. Мы также признаем, что, как и в случае с любой новой и передовой технологией, у нас нет данных за десятилетия. И, как и в случае со всеми новыми и фундаментально иными архитектурами, существует кривая обучения, связанная с компромиссами, на которые мы пошли. Мы ценим любопытство и интерес к нашей технологии.
Мы любим создавать кремниевые решения и рады участвовать в технических дискуссиях на эту или другие темы, связанные с быстрой инференцией, вместе с сообществом.
Эндрю Фельдман, генеральный директор и соучредитель
Раскрытие информации: я владею акциями Cerebras.
