8/11/2023，光纖在線訊，洛杉磯 — SIGGRAPH — 太平洋時間 2023 年 8 月 8 日 — NVIDIA 于今日發(fā)布新一代 NVIDIA GH200 Grace Hopper™ 平臺，該平臺基于全球首款搭載 HBM3e 處理器的 Grace Hopper 超級芯片，專為加速計算和生成式 AI 時代而構建。

新平臺專為處理大語言模型、推薦系統(tǒng)、矢量數(shù)據(jù)庫等全球最復雜的生成式 AI 工作負載而構建，將提供多種配置選擇。

該平臺采用雙配置——提供的內(nèi)存容量和帶寬比當前產(chǎn)品分別增加了 3.5 倍和 3 倍——包括一個擁有 144 個 Arm Neoverse 內(nèi)核、8 petaflops 的 AI 性能和 282GB 最新 HBM3e 內(nèi)存技術的單個服務器。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“為了滿足對生成式 AI 不斷激增的需求，數(shù)據(jù)中心需要能夠滿足特定需求的加速計算平臺。全新 GH200 Grace Hopper 超級芯片平臺以出色的內(nèi)存技術和帶寬，提高了吞吐量，在不影響性能的情況下可連接多 GPU 以整合性能，并且具有可以輕松部署到整個數(shù)據(jù)中心的服務器設計�！�

新平臺采用了 Grace Hopper 超級芯片，可以通過 NVIDIA NVLink™ 與其他超級芯片連接，使它們能夠協(xié)同工作，從而部署當下大型生成式 AI 模型。這種高速、一致性技術使 GPU 可以完全訪問 CPU 內(nèi)存，在雙配置中可提供總計 1.2TB 的快速內(nèi)存。

HBM3e 內(nèi)存比當前 HBM3 快 50%，可提供總計 10TB/s 的帶寬。這使得新平臺能夠運行比上一版本大 3.5 倍的模型，同時憑借快 3 倍的內(nèi)存帶寬提升性能。

對 Grace Hopper 的需求不斷增長

業(yè)界領先的制造商已在提供基于先前發(fā)布的 Grace Hopper 超級芯片所打造的系統(tǒng)。為了推動該技術的廣泛應用，采用 HBM3e 的新一代 Grace Hopper 超級芯片平臺與今年早些時候在 COMPUTEX 上發(fā)布的 NVIDIA MGX™ 服務器規(guī)格完全兼容。借助 MGX，任何系統(tǒng)制造商都可以快速、經(jīng)濟地將 Grace Hopper 添加到 100 多款服務器機型中。

供應情況

預計業(yè)界領先的系統(tǒng)制造商將于 2024 年第二季度開始交付搭載該平臺的系統(tǒng)。


關于 NVIDIA
自 1993 年成立以來，NVIDIA (NASDAQ: NVDA) 一直是加速計算領域的先驅(qū)。NVIDIA 1999 年發(fā)明的 GPU 驅(qū)動了 PC 游戲市場的增長，并重新定義了現(xiàn)代計算機圖形，開啟了現(xiàn)代 AI 時代，正在推動跨市場的工業(yè)數(shù)字化。NVIDIA 現(xiàn)在是一家全棧計算公司，其數(shù)據(jù)中心規(guī)模的解決方案正在重塑整個行業(yè)。更多信息，請訪問https://nvidianews.nvidia.com/ 。