2024-06-24 10:29:33Nvidia News

NVIDIA 創始人兼首席執行官黃仁勳在本週於台北舉行的 COMPUTEX 技術大會之前發表講話時表示:「生成式 AI 正在重塑行業,並為創新和增長帶來新的機遇。」
「今天,我們正處於計算領域重大轉變的風口浪尖,」穿著他標誌性的黑色皮夾克的黃仁勳告訴觀眾。 「人工智慧和加速運算的交叉將重新定義未來。」
黃仁勳在世界頂級技術會議之一之前向聚集在台北青翠中心的玻璃穹頂國立台灣大學體育中心的 6,500 多名行業領袖、媒體、企業家、遊戲玩家、創作者和人工智慧愛好者發表了講座。
主題:NVIDIA 加速平台已全面投入生產,無論是透過具有大量 NVIDIA RTX 驅動功能的 AI PC 和消費設備,還是透過 NVIDIA 全端運算平台建置和部署 AI 工廠的企業。
黃仁勳說:「運算的未來正在加速發展,憑藉我們在人工智慧和加速運算方面的創新,我們正在突破可能的界限,推動下一波技術進步。」
《一年的節奏》
更多內容即將推出,黃仁勳透露了新半導體的路線圖,該路線圖將以一年的節奏推出。 Rubin 平台首次亮相,將接替即將推出的 Blackwell 平台,配備新的 GPU、新的基於 Arm 的 CPU — Vera — 以及採用 NVLink 6、CX9 SuperNIC 和 X1600 融合 InfiniBand/乙太網路交換器的高級網路。
「我們公司的節奏是一年。我們的基本理念非常簡單:建立整個資料中心規模,以一年的節奏分解並向您出售零件,並將一切推向技術極限。」
NVIDIA 的創意團隊使用 NVIDIA Inception 啟動計畫成員提供的 AI 工具(基於 NVIDIA NIM 和 NVIDIA 加速運算建置)來創作 COMPUTEX 主題演講。此次展示充滿了演示,重點介紹了這些創新工具以及 NVIDIA 技術的變革性影響。
加速計算是可持續計算
黃仁勳在演講開始時解釋道,NVIDIA 正在降低將數據轉化為智慧的成本。
他強調:「加速運算是永續運算。」並概述了 GPU 和 CPU 的組合如何實現高達 100 倍的加速,同時功耗僅增加三倍,每瓦效能比單獨使用 CPU 提高 25 倍。
黃仁勳指出:「購買越多,節省的就越多。」他強調了這種方法可顯著節省成本和能源。
業界攜手 NVIDIA 共建 AI 工廠,推動新工業革命
領先的電腦製造商,尤其是全球 IT 中心台灣的製造商,已採用 NVIDIA GPU 和網路解決方案。頂級公司包括華擎、華碩、技嘉、鴻毅科技、英業達、和碩、QCT、美超微、緯創業通和緯穎科技,它們正在創建雲端、本地和邊緣人工智慧系統。
NVIDIA MGX 模組化參考設計平台現在支援 Blackwell,包括 GB200 NVL2 平台,該平台旨在實現大型語言模型推理、檢索增強生成和資料處理的最佳效能。
AMD 和英特爾正在支援 MGX 架構,並計劃首次提供自己的 CPU 主機處理器模組設計。任何伺服器系統製造商都可以使用這些參考設計來節省開發時間,同時確保設計和效能的一致性。
採用 Spectrum-X 的下一代網絡
在網路方面,黃仁勳公佈了每年發布 Spectrum-X 產品的計劃,以滿足人工智慧對高效能乙太網路不斷增長的需求。
NVIDIA Spectrum-X 是首款專為 AI 打造的乙太網路結構,其網路效能比傳統乙太網路結構提高了 1.6 倍。它加速了人工智慧工作負載的處理、分析和執行,進而加速了人工智慧解決方案的開發和部署。
CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 是第一批採用 Spectrum-X 為其 AI 基礎架構帶來極致網路效能的 AI 雲端服務供應商。
NVIDIA NIM 將數百萬人轉變為新一代 AI 開發人員
透過NVIDIA NIM,全球 2,800 萬名開發人員現在可以輕鬆建立生成式 AI 應用程式。 NIM(提供模型作為最佳化容器的推理微服務)可以部署在雲端、資料中心或工作站上。
NIM 也使企業能夠最大化其基礎設施投資。例如,在 NIM 中運行 Meta Llama 3-8B 在加速基礎設施上產生的生成性 AI 代幣比沒有 NIM 時多出 3 倍。
近200 家技術合作夥伴(包括 Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和 Synopsys)正在將NIM 整合到其平台中,以加速特定領域應用程式的生成式AI 部署,例如副駕駛、程式碼助理、數字化身和更多的。Hugging Face現在提供 NIM——從 Meta Llama 3開始。
「今天我們剛在 Hugging Face the Llama 3 中發布了全面優化的內容,供您嘗試。你甚至可以隨身攜帶。 「所以你可以在雲端中運行它,在任何雲端中運行它,下載這個容器,將其放入你自己的資料中心,然後你可以託管它以供你的客戶使用。」
NVIDIA 透過 GeForce RTX AI PC 將 AI 助理帶入生活
NVIDIA 的 RTX AI PC 採用 RTX 技術,將透過 200 多款 RTX AI 筆記型電腦和 500 多種人工智慧應用和遊戲徹底改變消費者體驗。
RTX AI 工具包和適用於 NVIDIA ACE 數位人類平台的新推出的 PC 為基礎的 NIM 推理微服務強調了 NVIDIA 對 AI 可訪問性的承諾。
也宣布了 G-Assist 項目,這是一個 RTX 驅動的人工智慧助理技術演示,展示了針對 PC 遊戲和應用程式的上下文感知幫助。
Microsoft 和 NVIDIA 正在合作,幫助開發人員將新的生成式AI 功能引入到他們的 Windows 本機和 Web 應用程式中,透過 API 輕鬆存取 RTX 加速的 SLM,從而實現作為 Windows Copilot 運行時的一部分在裝置上運行的 RAG 功能。
NVIDIA 機器人技術被業界領導者採用
NVIDIA 正在引領 50 兆美元的工業數位轉型,各行業都採用自主營運和數位孿生(可提高效率並降低成本的虛擬模型)。透過其開發者計劃,NVIDIA 提供 NIM 存取權限,促進人工智慧創新。
台灣製造商正在使用 NVIDIA 的技術來改造其工廠,Huang 展示了富士康使用 NVIDIA Omniverse、Isaac 和 Metropolis 來創建數位孿生,將視覺 AI 和機器人開發工具結合起來以增強機器人設施。
「人工智慧的下一波是物理人工智慧。理解物理定律的人工智慧,可以在我們中間工作的人工智慧。
NVIDIA Isaac 平台為開發人員提供了強大的工具包來建造 AI 機器人,包括 AMR、工業手臂和人形機器人,並由 Jetson Orin 和 Thor 等 AI 模型和超級電腦提供支援。
「機器人就在這裡。物理人工智慧就在這裡。這不是科幻小說,全台灣都在使用。這真的非常非常令人興奮,」黃仁勳補充道。
全球電子巨頭正在將 NVIDIA 的自主機器人技術整合到他們的工廠中,利用 Omniverse 中的模擬來測試和驗證物理世界的新一輪人工智慧浪潮。其中包括全球超過 500 萬個預編程機器人。
「所有工廠都將是機器人。工廠將協調機器人,而這些機器人將製造機器人產品,」黃仁勳解釋道。
黃仁勳強調了 NVIDIA Isaac 在提高工廠和倉庫效率方面的作用,比亞迪電子、西門子、泰瑞達機器人和 Intrinsic 等全球領先企業都採用了其先進的庫和人工智慧模型。
IGX 平台上的 NVIDIA AI Enterprise 與 ADLINK、Advantech 和 ONYX 等合作夥伴共同提供符合嚴格監管標準的邊緣 AI 解決方案,這對於醫療技術和其他行業至關重要。
黃仁勳以同樣的基調結束了他的主題演講,向台灣和 NVIDIA 在台灣的眾多合作夥伴表示敬意。黃仁勳說:「謝謝,我愛你們。」
聲明:內容來自網络,如有侵權,請『 聯繫我們 』刪除,謝謝。