Обсуждение центров обработки данных для искусственного интеллекта стремительно меняется. По словам Дивьябхану (Бхану) Сингха, старшего вице-президента по технологическим отраслям в компании HCLTech, вопросы, которые задают клиенты сегодня, заметно отличаются от тех, что звучали год назад.
Ранее дискуссии сводились к тому, смогут ли организации создать инфраструктуру для ИИ и обеспечить достаточную емкость графических процессоров (GPU). Теперь фокус сместился с вопроса «можем ли мы это построить?» на вопрос «можем ли мы эксплуатировать это при такой структуре затрат, которая обеспечивает окупаемость?». Это одновременно экономическая и инженерная задача.
«Проблема центров обработки данных для ИИ больше не является технической; это проблема распределения капитала», — отметил Сингх.
Регулирование также стало более важной составляющей инфраструктурного уравнения. В США требования к управлению ИИ продолжают развиваться на уровнях federal и state, в то время как принятый Закон ЕС об искусственном интеллекте вступил в силу в августе. По мнению Сингха, это подтверждает более масштабную тенденцию: где работает ИИ, где хранятся данные и кто управляет инфраструктурой — все это в возрастающей степени становится стратегическими бизнес-решениями.
От емкости GPU к экономике бизнеса
Смещение фокуса в сторону окупаемости инвестиций (ROI) меняет подход к принятию инфраструктурных решений.
Центры обработки данных для ИИ требуют крупных инвестиций, и эти вопросы выходят за рамки обсуждения исключительно среди технических специалистов. Руководителям инфраструктурных подразделений необходимо понимать, как вычислительная мощность трансформируется в бизнес-результаты, как долго новая инфраструктура останется актуальной и где различные рабочие нагрузки могут выполняться наиболее эффективно.
В то же время узкие места становятся все более сложными.
«В прошлом году ограничением были GPU. Сегодня земля, электроэнергия, охлаждение, электрическая инфраструктура, электросети и трудовые ресурсы — все эти элементы объединились и образовали многоуровневую систему ограничений», — заявил он.
Доступность электроэнергии, емкость электросетей, земельные участки, цепочки поставок, трудовые ресурсы и нормативное регулирование определяют, где и как быстро может быть построена инфраструктура для ИИ, в то время как экономика переоборудования влияет на возможность повторного использования существующих объектов. Эти ограничения тесно связаны между собой, поэтому устранение одного из них может быстро обнажить другое.
Все это превращает стратегию создания дата-центров для ИИ в задачу по координации взаимозависимостей, а не просто в поиск решения для одного дефицитного ресурса.
Проектирование для инференса
Второе изменение связано с переходом от сред с интенсивным обучением к росту спроса на инференс.
Бхану отметил, что этот сдвиг заставляет организации пересмотреть подходы к проектированию своих центров обработки данных. Обучение и инференс предъявляют разные требования к инфраструктуре, и архитектуры, созданные для одного этапа внедрения ИИ, могут не подойти для следующего.
Задача заключается в том, как проектировать систему в условиях меняющейся цели, когда технологии, рабочие нагрузки и модели потребления продолжают развиваться.
Энергоснабжение, земля, охлаждение, электрическая инфраструктура и трудовые ресурсы влияют на то, как быстро эти мощности могут быть введены в эксплуатацию. Сингх также подчеркнул, что доступность инфраструктуры нельзя рассматривать отдельно от окружающей физической среды, включая доступ к электроэнергии, воде и местным сообществам, готовым принять развитие дата-центров.
Гибридное будущее
По мнению Сингха, предприятиям потребуются общедоступное облако, частная инфраструктура ИИ и суверенные среды, поскольку различные рабочие нагрузки формируют разные требования.
Он сравнил текущую дискуссию с предыдущим переходом в облака, когда компаниям приходилось решать, что должно оставаться в их собственных дата-центрах, а что следует перенести в публичное облако.
ИИ пойдет по похожему пути.
«В конечном счете все предприятия придут к стратегии подбора инструментов под конкретные задачи», — сказал Сингх.
Публичное облако может быть привлекательным, когда на первый план выходят скорость, инновации и доступ к сложным возможностям. Частная инфраструктура ИИ становится важной, когда у предприятий есть конфиденциальные данные, регуляторные требования или рабочие нагрузки, которые должны находиться в непосредственной близости от пользователей и систем, их эксплуатирующих.
Суверенные среды добавляют еще один фактор, когда контроль юрисдикции и локализация данных определяют места запуска рабочих нагрузок.
«Ответ заключается не в выборе между облаком, частной или суверенной средой. Речь идет обо всех трех вариантах. Облако — для гибкости. Частная среда — для производственной экономики. Суверенная среда — там, где важен юрисдикционный контроль», — заявил Сингх.
Это делает будущее по своей сути гибридным. Задача предприятий заключается в том, чтобы управлять этими средами согласованно, используя единые подходы к управлению, контролю затрат и переносимости рабочих нагрузок.
«Сложнее всего не сделать выбор. Сложнее заставить все три среды работать как единое целое», — добавил он.
От стоимости за токен к результатам на ватт
Экономика ИИ также требует новых показателей успешности.
Сингх утверждает, что организациям необходимо выйти за рамки простого потребления инфраструктуры и сосредоточиться на той ценности для бизнеса, которая создается за счет используемой энергии и вычислительных мощностей.
«Валютой или метрикой успеха больше не являются чистые ресурсы. Теперь это токены на ватт или ватты на токен, и даже больше — результаты на ватт», — отметил он.
Это переосмысливает эффективность инфраструктуры через то, чего фактически добивается рабочая нагрузка.
Это делает оркестрацию все более важной. Предприятиям необходима возможность определять во время выполнения, какая среда лучше всего подходит для рабочей нагрузки с учетом затрат, задержек, конфиденциальности данных и нормативных требований, сохраняя при этом единое управление и контроль затрат во всех системах.
Для руководителей инфраструктурных подразделений задача больше не сводится просто к наращиванию мощностей. Она заключается в создании гибких архитектур, способных адаптироваться по мере эволюции рабочих нагрузок, бизнес-приоритетов, моделей развертывания и технологий.
Эпоха инференса делает такую адаптивность необходимой. Центры обработки данных для ИИ — это движущаяся цель, и проектирование с учетом изменений с самого начала даст предприятиям большую свободу действий по мере дальнейшего изменения спроса и экономических условий.
