欧美亚洲美日更新在线_国产av无码图_91精品无码中文字幕在线_久久人妻中文字幕乱码_亚洲无码视频一二三区在线

ChatGPT需要多少光模塊:國(guó)信證券的推演

光纖在線編輯部  2023-04-03 14:03:13  文章來(lái)源:自我撰寫(xiě)  版權(quán)所有,未經(jīng)書(shū)面許可嚴(yán)禁轉(zhuǎn)載.

導(dǎo)讀:基于英偉達(dá)方案,一個(gè) SuperPOD 170個(gè)交換機(jī),每個(gè)交換機(jī)有 40 個(gè)端口,最簡(jiǎn)單方式上下各70 臺(tái)服務(wù)器,依次端口互聯(lián)(上下 1:1 連接)對(duì)應(yīng)的線纜需求為 40×170/2=3400 根,考慮實(shí)際部署情況上調(diào)至 4000 根線纜需求。其中,銅纜:AOC:光模塊比例=4:4:2,對(duì)應(yīng)光模塊需求數(shù)量=4000*0.2*2=1600 個(gè)

4/03/2023,光纖在線訊,國(guó)信證券今天發(fā)布的研報(bào)“通信行業(yè) 2023 年 4 月投資策略——關(guān)注 AI 基礎(chǔ)設(shè)施投資機(jī)會(huì)”對(duì)ChatGPT帶來(lái)的包括光模塊在內(nèi)的人工智能AI基礎(chǔ)設(shè)施進(jìn)行了推算。

該份報(bào)告的關(guān)鍵相關(guān)內(nèi)容包括:
和傳統(tǒng)的數(shù)據(jù)中心的區(qū)別在于,在AI常見(jiàn)的Infini Band fat tree 結(jié)構(gòu)下,使用的交換機(jī)數(shù)量更多,且因?yàn)槊總(gè)節(jié)點(diǎn)上行下行的端口數(shù)完全一致。

英偉達(dá)所采用的 AI 集群模型中,對(duì)應(yīng)的一個(gè)基本單元為 SuperPOD。一個(gè)標(biāo)準(zhǔn)的 SuperPOD 由 140 臺(tái) DGX A100 GPU 服務(wù)器、HDR InfiniBand 200G 網(wǎng)卡和 170 臺(tái) NVIDIA Quantum QM8790 交換機(jī)構(gòu)建而成,其中交換機(jī)速率為 200G,每個(gè)端口數(shù)為 40 個(gè)。
基于英偉達(dá)方案,一個(gè) SuperPOD 170個(gè)交換機(jī),每個(gè)交換機(jī)有 40 個(gè)端口,最簡(jiǎn)單方式上下各70 臺(tái)服務(wù)器,依次端口互聯(lián)(上下 1:1 連接)對(duì)應(yīng)的線纜需求為 40×170/2=3400 根,考慮實(shí)際部署情況上調(diào)至 4000 根線纜需求。其中,銅纜:AOC:光模塊比例=4:4:2,對(duì)應(yīng)光模塊需求數(shù)量=4000*0.2*2=1600 個(gè),即對(duì)于一個(gè)SuperPod,服務(wù)器:交換機(jī):光模塊的用量比例=140:170:1600=1:1.2:11.4
一個(gè)類(lèi)似 GPT4.0 入門(mén)級(jí)別要求的需求大約需要3750 臺(tái) NVIDIA DGX A100服務(wù)器。在此條件下的光模塊需求如下表:

根據(jù) IDC 數(shù)據(jù),2021 年全球 AI 服務(wù)器市場(chǎng)規(guī)模為 156 億美元,預(yù)計(jì)到 2026 年全球 AI 服務(wù)器市場(chǎng)將達(dá)到 355 億美元;2021 年中國(guó) AI 服務(wù)器行業(yè)市場(chǎng)規(guī)模為 64 億美元。
根據(jù) IDC 數(shù)據(jù),數(shù)據(jù)中心場(chǎng)景中,200/400G 端口出貨量有望快速提升,22-26 年復(fù)合增速達(dá) 62%,預(yù)計(jì) 2026年全球交換機(jī)端口出貨量超 8.7 億個(gè),市場(chǎng)規(guī)模超 440 億美元。

讀完這份報(bào)告,不得不佩服券商研究員的敏銳和深入。他們從AI數(shù)據(jù)中心架構(gòu)出發(fā)推演出服務(wù)器,交換機(jī)和光模塊的需求量。在這個(gè)推算過(guò)程中,編輯存疑的其實(shí)只有4:4:2這個(gè)比例關(guān)系。數(shù)據(jù)中心內(nèi)對(duì)光模塊的使用歸根到底還是和流量需求直接相關(guān)。這個(gè)比例很可能只存在在滿負(fù)荷工作的情況下,而現(xiàn)在AI數(shù)據(jù)中心內(nèi)業(yè)務(wù)流量到底如何,還是值得問(wèn)問(wèn)的。
關(guān)鍵字: ChatGPT 人工智能 光模塊需求
光纖在線

光纖在線公眾號(hào)

更多猛料!歡迎掃描左方二維碼關(guān)注光纖在線官方微信

相關(guān)產(chǎn)品

熱門(mén)搜索

熱門(mén)新聞

最新簡(jiǎn)歷

  • 張** 深圳 項(xiàng)目工程師研發(fā)/開(kāi)發(fā)工程師技術(shù)/工藝設(shè)計(jì)工程師
  • 劉** 衡陽(yáng) 總工程師/副總工程師研發(fā)部經(jīng)理光學(xué)工程師
  • 劉** 衡陽(yáng) 總工程師/副總工程師技術(shù)/工藝設(shè)計(jì)經(jīng)理/主管光學(xué)工程師
  • 張** 武漢 研發(fā)/開(kāi)發(fā)工程師技術(shù)支持工程師
  • 劉** 深圳 技術(shù)/工藝設(shè)計(jì)經(jīng)理/主管

展會(huì)速遞

微信掃描二維碼
使用“掃一掃”即可將網(wǎng)頁(yè)分享至朋友圈。