人工智能是否为传统服务器市场注入了生命?

Josh Claman, Accelsius2025-01-09 10:54:03Data Center Dynamics

Accelsius 首席执行官 Josh Claman 研究了 AI 工作负载如何推动向计算舱的根本转变,并探讨了冷却技术在实现这一转变中的关键作用


多年来,单个服务器一直是数据中心架构的基石。这些独立的单元,包括 CPU、内存和存储,为我们提供了良好的服务,提供了灵活性和可扩展性,并影响着从机架布局到冷却系统的一切。

就我个人而言,我的职业生涯很大程度上归功于不起眼的服务器。我在戴尔工作了大约十年,帮助企业为其数据中心制定和执行新战略。

这就是为什么 Nvidia 和 AMD 最近的举动会引起如此大的关注。Nvidia 目前推出了一款大型液冷集群,其中配备了功能强大的 Grace 和 Blackwell GPU。AMD 收购了领先的 AI 基础设施提供商ZT Systems 。

这些公司表明,传统的以服务器为中心的模式无法跟上需要原始处理能力以及计算单元之间高带宽、低延迟通信的现代人工智能工作负载。

我们正在进入“计算舱”时代 - 代表一种全新的计算单元。这些集成单元代表了我们处理数据中心计算方式的范式转变。计算舱不仅仅是一组服务器,而是一个整体解决方案,它将高性能处理器(CPU、GPU 或专用 AI 芯片)、高带宽网络、先进的冷却系统和智能电源管理集成到一个单元中。

对于 AI 工作负载而言,这种方法的优势显而易见。Pod 可提供更高的性能密度、更高效的资源利用率和更简化的管理。它们可实现组件之间更紧密的集成,从而减少延迟并提高整体系统效率。

这种转变正在整个行业引起连锁反应。传统服务器制造商必须迅速适应。Vertiv 和施耐德等之前专注于基础设施领域的公司正在进入人工智能领域并建立合作伙伴关系以支持部署。

硬件供应商、集成商和最终用户之间的关系正在演变。即使是传统服务器市场的基石之一英特尔,最近也推出了配备性能核心 (P 核心) 和 Gaudi 3 AI 加速器的 Xeon 6,这进一步巩固了该公司致力于为基于 AI 的应用程序提供具有竞争力的性能的承诺。

超大规模企业拥有大量资源和先进的 AI 需求,是这一转变的主要推动者。他们的需求决定了硬件开发的方向,并最终催生出解决方案,这些解决方案最终会渗透到更广泛的市场。

这种转变的规模非常大。根据最近的估计,到 2028 年,人工智能工作负载将占数据中心总能耗的 15-20%,复合年增长率为 25-33%。这比数据中心整体电力需求的增长速度要快得多,凸显了人工智能对数据中心运营的变革性影响。


冷却:豆荚革命的无名英雄

突破计算密度和性能的界限确实带来了一个根本挑战:热量。传统的空气冷却方法根本无法跟上这些高密度 AI 舱的热量输出。这就是液体冷却(尤其是两相直接到芯片的解决方案)发挥作用的地方。

先进的冷却技术不仅对于这些新型计算单元必不可少,而且也是其性能的关键推动因素。通过更有效地散热,液体冷却可以实现更高的时钟速度、更密集的配置,并最终实现更好的性能。

它还在提高能源效率和可持续性方面发挥着至关重要的作用——这是数据中心面临越来越严格的环境影响审查的关键考虑因素。

由于 AI 机架密度超过 20 kW,并且预计未来几年将高达 500 kW,因此转向液体冷却变得越来越必要。

虽然存在各种液体冷却技术,但直接芯片冷却目前比浸入式冷却更受青睐,因为它与现有的空气冷却系统具有更好的兼容性,并且更容易为现有数据中心进行改造。

然而,大规模人工智能部署的冷却分布设计的定制性质带来了重大挑战,尤其是在改造现有设施时。


利益相关方面临的挑战和机遇

向计算舱的转变给整个行业带来了挑战和机遇。数据中心运营商、硬件制造商和集成商必须重新考虑他们的方法并调整他们的产品线。像 Accelsius 这样的冷却解决方案提供商在实现新一代计算方面发挥着关键作用。

随着我们不断前进,我预计计算单元将进一步集成和专业化。我们很可能会看到针对特定 AI 工作负载的高度定制化 pod,这些 pod 可能会因芯片间通信的光子学或神经形态计算等新兴技术而发生革命性变化。

基础设施规划的灵活性和可扩展性将是关键。数据中心设计必须不断发展,以适应这些新的计算单元的电力输送、安全性和冷却能力。改造现有设施以处理高密度舱对行业来说是一个巨大的挑战,也是机遇。

在这个不断发展的生态系统中建立正确的合作伙伴关系至关重要。没有一家公司可以在这个复杂的环境中独自前行。硬件制造商、冷却专家、集成商和最终用户之间的合作对于充分发挥这些新计算范式的潜力至关重要。

从各个方面来看,计算的未来都是集成、高效和酷炫的。作为行业领导者,我们有责任接受这一变化,推动创新,为下一代人工智能技术奠定基础。从服务器到 Pod 的旅程才刚刚开始,我很期待看到它将引领我们走向何方。


Declare:The sources of contents are from Internet,Please『 Contact Us 』 immediately if any infringement caused