人工智慧 (AI) 繼續推動許多行業的轉型，隨著這項技術的快速發展，支撐它所需的基礎設施也在不斷發展。 

為了滿足人工智慧工具對硬體、網路、能源和冷卻系統帶來的高功耗需求，全球資料中心正在經歷重大變革。一些企業甚至正在建立專用的人工智慧資料中心，以推動自身人工智慧技術的發展。

那麼，與傳統資料中心工作負載相比，人工智慧技術對資料中心基礎架構的要求究竟是什麼？

從 CPU 到 GPU

AI 在資料中心環境中面臨的最大挑戰之一是其嚴重依賴基於 GPU 的運算。 GPU 透過處理大量並發運算來支援 AI 模型。這對於滿足訓練和運行 AI 模型所帶來的龐大運算需求至關重要。傳統的 CPU 可能擅長順序處理，但因此，它們的速度太慢，無法讓許多 AI 模型達到最佳效能。

所有這些意味著，AI資料中心必須配備大量的GPU，而這些GPU的工作電壓更高，能耗也更高。更高的功耗意味著更高的發熱量，這也為資料中心所有者和營運商帶來了新的挑戰，他們需要平衡電力需求、冷卻效率和成本控制。

由於支援 AI 的機架所需的電力比傳統機架高出六倍，資料中心開發商越來越優先考慮再生能源豐富且氣候自然涼爽的地區。加拿大和冰島的地區是理想的選擇，因為那裡擁有豐富的水力發電和地熱能，能夠為高密度 AI 工作負載提供可靠且經濟實惠的電力。 

然而，選址始終關乎取得適當的平衡。這種對戰略位置的關注帶來了一種權衡：設施可能建在距離最終用戶較遠的地方，因此需要考慮任何對延遲的潛在影響。對於一些資料中心來說，這是一個折中方案：在水力發電資源充足、氣候溫和的地區建造資料中心，同時投資先進的冷卻技術，例如液體冷卻和晶片直接冷卻，以提供更好的散熱效果和更高的能源效率。

網路創新支援不斷發展的人工智慧需求

人工智慧對伺服器的運算需求越來越大，因為大量資料需要盡快往返 GPU 之間。 

人工智慧驅動的應用程式還需要指數級更高的頻寬才能高效處理大量數據。伺服器可能需要高達 100Gbps 的資料傳輸速度才能確保人工智慧工具和應用程式正常運作。要實現這一目標，GPU 運算提供者必須改變其網路堆疊的選擇和建構方式。這些提供者可能已經使用了多年的組件將不再足夠用，需要進行新的選擇和研發流程。

因此，資料中心營運商正在投資高效能互連，以加速 GPU 叢集和 TPU（張量處理單元）等大量運算節點之間的資料傳輸，這些節點對於高效訓練和運行複雜的 AI 模型至關重要。此外，對提供更高吞吐量、更高可靠性和更低延遲的先進網路硬體的投資也同樣如此。

人工智慧資料中心的未來 

為了保持領先，每個人都在努力抓住機遇，而現在，這個機會就是人工智慧。  

從技術上講，AI 可以在任何資料中心運行。但 AI 基於 GPU 的運算需求對電力和冷卻系統提出了更高的要求，這意味著並非每個資料中心都針對 AI 的運作進行了成本優化。在一個競爭激烈、對 AI 創新需求旺盛的行業中，對基於傳統資料中心的 AI 工作負載提出更高的要求意味著成本很容易呈螺旋式上升。 

對於任何正在為人工智慧 (AI) 建立資料中心的營運商來說，管理這些成本都是一個關鍵的考慮因素。雖然許多企業願意為運行 AI 工作負載支付額外費用，但如果資料中心營運商想要保持競爭力，就必須找到抵銷這些成本的方法，避免將額外費用完全轉嫁給客戶。