11/14/2024,光纖在線訊,NVIDIA 今日宣布與軟銀集團開展一系列合作,旨在加速日本主權(quán) AI 計劃,并進一步提升日本在全球的技術(shù)領(lǐng)先優(yōu)勢,同時為全球電信運營商開辟數(shù)十億美元的 AI 收入來源。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在 NVIDIA AI Summit Japan 的特別演講中宣布,軟銀集團正在使用 NVIDIA Blackwell 平臺打造日本最強大的 AI 超級計算機,并計劃將 NVIDIA Grace Blackwell 平臺應(yīng)用于其下一代超級計算機。
此外,通過使用 NVIDIA AI Aerial 加速計算平臺,軟銀集團成功試運行了全球首個 AI 與 5G 相結(jié)合的電信網(wǎng)絡(luò)。這項計算領(lǐng)域的突破為電信運營商開辟了可能達到數(shù)十億美元價值的 AI 收入來源。
NVIDIA 和軟銀集團還宣布,軟銀集團正計劃使用 NVIDIA AI Enterprise 軟件創(chuàng)建一個 AI Marketplace,以滿足對本地安全 AI 計算的需求。憑借這項支持 AI 訓(xùn)練和邊緣 AI 推理的新服務(wù),軟銀集團有望成為日本的 AI 引擎,為各個行業(yè)、個人和企業(yè)帶來創(chuàng)造、分配和使用 AI 服務(wù)的新商機。
黃仁勛表示:“日本在推動具有全球影響力的技術(shù)創(chuàng)新方面有著悠久的歷史。憑借軟銀集團對 NVIDIA 全棧 AI、Omniverse 和 5G AI-RAN 平臺的巨大投資,日本正在一躍成為 AI 產(chǎn)業(yè)變革的全球領(lǐng)軍者,推動電信、交通、機器人和醫(yī)療健康行業(yè)進入新增長時代。這將在人工智能時代極大地造福人類?!?
軟銀集團總裁兼首席執(zhí)行官 Junichi Miyakawa 表示:“世界各國和地區(qū)都在加速使用 AI 促進社會和經(jīng)濟增長,社會正在經(jīng)歷重大轉(zhuǎn)型。通過與 NVIDIA 的長期合作,軟銀集團正站在這一轉(zhuǎn)型的最前沿。憑借我們強大的 AI 基礎(chǔ)設(shè)施以及專為 AI 重塑 5G 網(wǎng)絡(luò)的全新分布式 AI-RAN 解決方案‘AITRAS’,我們將加速全國乃至全球的創(chuàng)新步伐?!?
軟銀集團率先接收 Blackwell ,并計劃使用 Grace Blackwell
軟銀集團計劃接收全球首批 NVIDIA 系統(tǒng),該系統(tǒng)將作為其全新 NVIDIA SuperPOD? 超級計算機的構(gòu)建模塊。
軟銀集團計劃將其由 Blackwell 驅(qū)動的 SuperPOD 用于自身以及日本全國大學(xué)、研究機構(gòu)和企業(yè)的生成式 AI 開發(fā)與 AI 相關(guān)業(yè)務(wù)。
建成后,軟銀集團的 SuperPOD 預(yù)計將成為日本迄今為止性能最佳的系統(tǒng)。它配備 NVIDIA AI Enterprise 軟件和 NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò),也十分適合用于開發(fā)大語言模型。
除了 SuperPOD 之外,軟銀集團還計劃再建造一臺 NVIDIA 加速的超級計算機,以運行計算極為密集的工作負載。該超級計算機初步計劃基于 NVIDIA Grace Blackwell 平臺設(shè)計,采用 NVIDIA NVL72 多節(jié)點液冷機架式系統(tǒng),將 NVIDIA Blackwell GPU 與基于 Arm 的節(jié)能型 NVIDIA Grace? CPU 相結(jié)合。
AI-RAN 抵達新的里程碑
軟銀集團通過與 NVIDIA 密切合作,在技術(shù)上取得了巨大成就,開發(fā)出一種可同時運行 AI 和 5G 工作負載的新型電信網(wǎng)絡(luò),業(yè)界稱之為人工智能無線接入網(wǎng)絡(luò)(AI-RAN)。
這種新型基礎(chǔ)設(shè)施得到了電信行業(yè)生態(tài)的廣泛支持,它使運營商能夠?qū)⒒緩某杀局行霓D(zhuǎn)變?yōu)?nbsp;AI 創(chuàng)收資產(chǎn)。
通過在神奈川縣進行的室外試驗,軟銀集團展示了其 NVIDIA 加速 AI-RAN 解決方案已達到電信級 5G 性能,并且能夠利用網(wǎng)絡(luò)的過剩容量同時運行 AI 推理工作負載。
傳統(tǒng)的電信網(wǎng)絡(luò)是為處理峰值負載而設(shè)計,平均僅使用了容量的三分之一。借助 AI-RAN 提供的通用計算能力,預(yù)計電信公司能夠?qū)⑹S嗟娜种萘坑糜?nbsp;AI 推理服務(wù),實現(xiàn)容量變現(xiàn)。
根據(jù) NVIDIA 和軟銀集團的預(yù)測,電信運營商在新 AI-RAN 基礎(chǔ)設(shè)施上每投資 1 美元,就能獲得大約 5 美元的 AI 推理收入(1)??紤]到運營成本和資本支出成本,軟銀集團估計,每增加 1 臺 AI-RAN 服務(wù)器,其基礎(chǔ)設(shè)施的回報率最高可達 219%。(2)
在 AI-RAN 上運行現(xiàn)實世界推理
在試驗中,軟銀集團使用 NVIDIA AI Enterprise 構(gòu)建了現(xiàn)實世界 AI 推理應(yīng)用,包括自動駕駛汽車遠程支持、機器人控制和邊緣多模態(tài)檢索自動生成。所有推理工作負載都能在軟銀集團的 AI-RAN 網(wǎng)絡(luò)上以最佳狀態(tài)運行。
軟銀集團的全軟件定義 5G 無線電堆棧專門針對 NVIDIA AI 計算平臺進行了優(yōu)化,并且包含軟銀集團基于 NVIDIA Aerial? CUDA? 加速 RAN 庫增強的 L1 軟件。軟銀集團計劃將 NVIDIA Aerial RAN Computer-1 系統(tǒng)整合到其未來的解決方案中,并估計該系統(tǒng)的功耗比傳統(tǒng) 5G 網(wǎng)絡(luò)基礎(chǔ)設(shè)施減少 40%。(3)
NVIDIA 和軟銀集團的合作伙伴為軟銀集團的 AI-RAN 解決方案試驗做出了貢獻,其中包括富士通和紅帽。
供需匹配
由于 AI-RAN 解決方案需要在不影響運營商級實時性能的前提下,根據(jù)供需情況動態(tài)增減算力,因此,軟銀集團計劃通過使用 NVIDIA AI Enterprise 無服務(wù)器應(yīng)用編程接口及其內(nèi)部開發(fā)的編排器,建立一個連接 AI 技術(shù)供需雙方的生態(tài)系統(tǒng)。這使軟銀集團能夠在有可用的計算資源時,將外部 AI 推理作業(yè)調(diào)度到 AI-RAN 服務(wù)器,以此提供本地化、低延遲且安全的推理服務(wù)。
NVIDIA 電信業(yè)務(wù)高級副總裁 Ronnie Vasishta 表示:“如果能夠從單一用途轉(zhuǎn)向多用途的 AI-RAN 網(wǎng)絡(luò),那么每投資 1 美元,就能獲得 5 倍的收益。軟銀集團的現(xiàn)場實地試驗驗證了技術(shù)的可行性、性能和經(jīng)濟性,標志著 AI-RAN 朝商業(yè)化落地邁出了一大步?!?
軟銀集團副總裁兼先進技術(shù)研究所所長 Ryuji Wakikawa 表示:“軟銀集團的‘AITRAS’是與 NVIDIA 合作五年來開發(fā)的首個 AI-RAN 解決方案。它使用軟銀集團開發(fā)的編排器,整合協(xié)調(diào) AI 和 RAN 工作負載,通過在單個 NVIDIA 加速 GPU 服務(wù)器上運行密集單元來提高通信效率。相信 AITRAS 這項 AI 驅(qū)動的創(chuàng)新成果將為電信業(yè)的新業(yè)務(wù)模式打下基礎(chǔ),成為移動運營商轉(zhuǎn)型的關(guān)鍵?!?
了解有關(guān) NVIDIA AI-RAN 解決方案的更多信息:
https://www.nvidia.cn/industries/telecommunications/ai-ran/
(1) 結(jié)果不能保證在執(zhí)行時的實際收入。
(2) 基于軟銀集團的估計。
(3) 基于 NVIDIA 和軟銀集團的估計。結(jié)果不能保證在執(zhí)行時實際的功耗降低。
點擊“
閱讀原文”,或掃描下方海報二維碼,觀看 NVIDIA CEO 黃仁勛特別演講以及和軟銀集團 CEO 孫正義的爐邊談話回放。
來源:NVIDIA