11/15/2023，光纖在線訊，一年一度的超級(jí)計(jì)算大會(huì)SC本月12日到17日在美國(guó)丹佛舉辦。作為IEEE和美國(guó)計(jì)算機(jī)協(xié)會(huì)聯(lián)合主辦的HPC高性能計(jì)算領(lǐng)域最著名的國(guó)際性盛會(huì)，每年都會(huì)吸引一些領(lǐng)先的光通信企業(yè)參加。今年的SC23上，就有中航光電攜數(shù)據(jù)中心互連解決方案參展。中航的方案包含機(jī)柜和板載數(shù)據(jù)交換、機(jī)柜和板間功率傳輸、機(jī)房液冷散熱系統(tǒng)和機(jī)房網(wǎng)絡(luò)信號(hào)傳輸?shù)取?

HPC和光連接有著密切的聯(lián)系。正因?yàn)槿绱耍�雖然我們一直沒(méi)有參加過(guò)這個(gè)展會(huì)，但是從未失去關(guān)注。今年的科技熱點(diǎn)是AI，SC23上，用于AI的超級(jí)計(jì)算機(jī)成為競(jìng)爭(zhēng)熱點(diǎn)。英特爾成為第一個(gè)報(bào)道這方面進(jìn)展的參展企業(yè)。

在本次SC23上，英特爾宣布，有望成為世界上最快超算的美國(guó)能源部超級(jí)計(jì)算機(jī)Aurora由10000多臺(tái)服務(wù)器組成的，配備了約21000個(gè)英特爾CPU和60000個(gè)GPU。目前，Aurora僅使用10000多臺(tái)服務(wù)器中的64臺(tái)就成功運(yùn)行了具有1萬(wàn)億個(gè)參數(shù)的AI模型。此外，研究人員設(shè)法在256個(gè)節(jié)點(diǎn)上同時(shí)運(yùn)行4個(gè)這樣的模型。

Aurora中的Max系列GPU是基于英特爾內(nèi)部開發(fā)的Xe HPC架構(gòu)。英特爾還公布了第二款A(yù)I處理器Gaudi 2，它針對(duì)許多相同的用例。也在本次SC23發(fā)布的升級(jí)版Gaudi 3，將采用5納米工藝制造，前身是作為單片硅實(shí)現(xiàn)的，而Gaudi 3則是包含了兩個(gè)獨(dú)立的小芯片。

相比Aurora系統(tǒng)2  ExaFlops（百億億次）的計(jì)算能力，中國(guó)的“神威·太湖之光”升級(jí)版可以達(dá)到1.5 ExaFlops，并也將在SC23上發(fā)布其科研成果。根據(jù)介紹，海洋之光擁有超過(guò) 10 萬(wàn)個(gè)定制的 SW26010 Pro 處理器節(jié)點(diǎn)，分布在 105 個(gè)機(jī)柜中，其理論峰值性能為 1.5 E。未來(lái)如果可以升級(jí)到160個(gè)機(jī)柜，計(jì)算能力可以超過(guò)Aurora。

今年最火的公司NVIDIA自然也不會(huì)缺席SC23。13日，該公司在SC23上發(fā)布了全球最強(qiáng)AI芯片H200，相比其前一代產(chǎn)品H100，性能提升約60%到90%。H200是英偉達(dá)H100的升級(jí)版，兩者同樣基于Hopper架構(gòu)，H200主要升級(jí)包括141GB的HBM3e顯存，顯存帶寬從H100的3.35TB/s增加到了4.8TB/s。這一改進(jìn)將有助于芯片進(jìn)行“推理”，或者在訓(xùn)練后使用大模型來(lái)生成文本、圖像或預(yù)測(cè)。英偉達(dá)表示，在處理Meta的大語(yǔ)言模型Llama2（700億參數(shù)）時(shí)，H200的推理速度比H100提高了將近1倍。

在SC23大會(huì)上，多家頂級(jí)超算中心紛紛宣布，即將使用GH200系統(tǒng)構(gòu)建自己的超級(jí)計(jì)算機(jī)。德國(guó)尤里希超級(jí)計(jì)算中心將在超算JUPITER中使用GH200超級(jí)芯片。這臺(tái)超級(jí)計(jì)算機(jī)將成為歐洲第一臺(tái)超大規(guī)模超級(jí)計(jì)算機(jī)，是歐洲高性能計(jì)算聯(lián)合項(xiàng)目的一部分。由筑波大學(xué)和東京大學(xué)共同成立的日本先進(jìn)高性能計(jì)算聯(lián)合中心，將在下一代超級(jí)計(jì)算機(jī)中采用英偉達(dá)GH200 Grace Hopper超級(jí)芯片構(gòu)建。

超級(jí)計(jì)算是人工智能的依托。光互聯(lián)又是超級(jí)計(jì)算的關(guān)鍵技術(shù)之一。關(guān)注SC23，也是關(guān)注光通信的未來(lái)。讓我們拭目以待，今年的超算大會(huì)還會(huì)給我們帶來(lái)什么？