AI已經讓傳統伺服器市場命懸一線了嗎?

Josh Claman, Accelsius2025-01-09 10:54:03Data Center Dynamics

Accelsius 執行長 Josh Claman 研究了人工智慧工作負載如何推動向計算艙的根本轉變,並探討了冷卻技術在實現這一轉變中的關鍵作用


多年來,單一伺服器一直是資料中心架構的基石。這些包含 CPU、記憶體和儲存的獨立單元為我們提供了良好的服務,提供了靈活性和可擴展性,並影響從機架佈局到冷卻系統的一切。

就我個人而言,我的職業生涯很大程度上歸功於不起眼的伺服器。我在戴爾工作了大約十年,幫助企業制定和執行資料中心的新策略。

這就是為什麼 Nvidia 和 AMD 最近的舉動引起瞭如此大的震動。 Nvidia 目前提供大型液冷集群,配備強大的 Grace 和 Blackwell GPU。 AMD 收購了領先的人工智慧基礎設施供應商ZT Systems 。

這些公司表示,傳統的以伺服器為中心的模型無法跟上現代人工智慧工作負載的需求,這些工作負載需要原始處理能力以及計算單元之間的高頻寬、低延遲通訊。

我們正在進入「計算艙」時代——代表一種全新的計算單元。這些整合單元代表了我們處理資料中心運算方式的典範轉移。運算艙不僅僅是伺服器的集合,而是將高效能處理器(CPU、GPU 或專用 AI 晶片)、高頻寬網路、先進冷卻系統和智慧電源管理整合到單一單元中的整體解決方案。

這種方法對於人工智慧工作負載的優勢是顯而易見的。 Pod 提供更高的效能密度、更有效率的資源利用率和簡化的管理。它們允許組件之間更緊密的集成,減少延遲並提高整體系統效率。

這種轉變正在整個產業引發連鎖反應。傳統伺服器製造商必須快速適應。維諦技術 (Vertiv) 和施耐德 (Schneider) 等先前專注於基礎設施領域的公司正在進入人工智慧領域並建立合作夥伴關係以支援部署。

硬體供應商、整合商和最終用戶之間的關係正在不斷發展。即使是傳統伺服器市場的基石之一英特爾,最近也推出了具有高效能核心(P 核心)的Xeon 6 和Gaudi 3 AI 加速器,增強了該公司為基於AI 的應用程式提供具有競爭力的性能的承諾。

超大規模企業擁有龐大的資源和先進的人工智慧需求,正在推動這項轉變。他們的需求正在塑造硬體開發的方向,通常會帶來最終滲透到更廣泛市場的解決方案。

這種轉變的規模是巨大的。根據最近的估計,到 2028 年,人工智慧工作負載將佔資料中心總能耗的 15-20%,複合年增長率為 25-33%。這明顯快於資料中心整體電力需求的成長,凸顯了人工智慧對資料中心營運的變革性影響。


冷卻:吊艙革命的無名英雄

突破計算密度和效能的界限確實帶來了一個根本性的挑戰:熱量。傳統的空氣冷卻方法根本無法跟上這些高密度人工智慧吊艙的熱輸出。這就是液體冷卻,特別是兩相直接晶片解決方案發揮作用的地方。

先進的冷卻不僅對於這些新的計算單元是必要的,而且對於這些新的計算單元來說也是必要的。這是他們表現的關鍵推動因素。透過更有效地散熱,液體冷卻可以實現更高的時脈速度、更密集的配置,並最終實現更好的性能。

它還在提高能源效率和永續性方面發揮著至關重要的作用——隨著資料中心面臨對其環境影響越來越嚴格的審查,這是關鍵的考慮因素。

隨著 AI 機架密度超過 20 kW,並且預計在未來幾年內將高達 500 kW,這種向液體冷卻的轉變變得越來越有必要。

雖然存在各種液體冷卻技術,但目前直接晶片冷卻比浸入式冷卻更受青睞,因為它與現有空氣冷卻系統具有更好的兼容性,並且更容易對現有資料中心進行改造。

然而,大規模人工智慧部署的冷卻分配設計的客製化性質提出了重大挑戰,特別是在改造現有設施時。


利害關係人面臨的挑戰和機遇

向計算單元的過渡給整個行業帶來了挑戰和機會。資料中心營運商、硬體製造商和整合商必須重新考慮他們的方法並調整他們的產品線。像 Accelsius 這樣的冷卻解決方案提供者在實現新一代運算方面發揮關鍵作用。

隨著我們的前進,我預計計算單元將進一步整合和專業化。我們很可能會看到針對特定人工智慧工作負載的高度客製化的 Pod,這些 Pod 可能會因用於晶片間通訊的光子學或神經形態運算等新興技術而發生革命性的變化。

基礎設施規劃的靈活性和可擴展性將是關鍵。資料中心設計必須不斷發展,以在電力傳輸、安全性和冷卻能力方面適應這些新的計算單元。改造現有設施以處理高密度吊艙給該行業帶來了重大挑戰和機會。

在這個不斷發展的生態系統中建立正確的合作夥伴關係至關重要。沒有一家公司能夠在這個複雜的環境中獨善其身。硬體製造商、冷卻專家、整合商和最終用戶之間的合作對於充分發揮這些新計算範例的潛力至關重要。

計算的未來是整合的、高效的、酷的——無論從哪個意義上來說。身為產業領導者,我們有責任擁抱這項變革、推動創新並為下一代人工智慧技術奠定基礎。從伺服器到 Pod 的旅程才剛開始,我很高興看到它引領我們走向何方。


聲明:內容來自網络,如有侵權,請『 聯繫我們 』刪除,謝謝。