9/10/2015,加快數(shù)據(jù)傳輸并將CPU及DDR總線的使用效率推到極致是一個好的數(shù)據(jù)中心架構的評估標準。日前,PMC將其NVRAM技術與高速網(wǎng)卡公司Mellanox聯(lián)合,共同展示了NVMe over RDMA 以及P2P的高速傳輸實例,有效將CPU以及DDR總線資源解放出來,并顯著地提升了數(shù)據(jù)傳輸速度。此次聯(lián)合演示包含兩部分,首先展示了如何將NVMe和RDMA組合起來,在遠端大規(guī)模提供低延遲、高性能、基于塊的NVM訪問。第二部分的演示則將Mellanox的RDMA對端發(fā)起操作與PMC的Flashtec NVRAM加速卡集成在一起,將內(nèi)存映射的I/O(MMIO)作為一個RDMA目標,以實現(xiàn)遠端大規(guī)模的持久性內(nèi)存訪問。下面將逐一作詳細介紹:
NVM Express over RDMA
NVMe over RDMA (NoR) 展示出將NVMe協(xié)議延展到RDMA之上的潛在可能。該項演示中共采用了兩臺電腦,一臺作為客戶端,另一臺則作為服務器——其中配備Mellanox ConnectX-3 Pro NIC,且通過RoCEv2相連。演示中所采用的NVMe設備即為性能極高而延遲極低的PMC Flashtec™ NVRAM 加速卡。下圖為該演示的框圖。
此演示顯示出,利用RDMA來傳送NVMe命令及數(shù)據(jù)結果帶來了微乎其微的額外延遲,且不影響吞吐量。
對比本地NVMe設備與遠端NVMe設備的平均延遲,如下表所示,NoR方案中延遲增加低于10微妙。
而另外這組數(shù)據(jù)則對比了本地NVMe設備與遠端NVMe設備吞吐量的測試結果。從下表中可以看出,NoR方案中吞吐量并無減少。
RDMA與PCIe設備之間的點到點傳輸
此項演示中,通過在標準 RDMA之上增加服務器CPU和DRAM的分流,采用對端發(fā)起的方式來將遠端客戶端與一臺服務器的NVRAM/NVMe設備直連。我們將Mellanox提供的RoCEv2-capable ConnectX-3 Pro RDMA NIC與PMC的Flashtec NVRAM加速卡組合在一起,實現(xiàn)NIC和NVRAM之間的對端發(fā)起操作。對端發(fā)起操作可以實現(xiàn)遠端客戶對NVRAM加速卡的直接訪問,相比傳統(tǒng)的RDMA流程,可降低延遲,且有效地釋放CPU和DRAM資源。
同樣,該演示采用的兩臺電腦,一臺作為客戶端,另一臺則作為服務器。利用服務器中的PCIe交換設備可以將對端發(fā)起操作的性能大大提升。
對比采用傳統(tǒng)RDMA和對端發(fā)起的RDMA時服務器上可用的后臺DRAM帶寬,用perftest得出的數(shù)據(jù)如下:
下表則對采用傳統(tǒng)RDMA和對端發(fā)起的RDMA時的平均延遲作出了比較,結果得自于 RDMA mode of fio:
RDMA以及NVMe兩項技術均處于蓬勃上升的階段,RDMA能提供遠距離、大規(guī)模的低延遲及高效率的數(shù)據(jù)移動,而NVMe則能提供對SSD的低延遲訪問。將兩項技術相結合能實現(xiàn)非凡的性能。
供貨情況
NVRAM對端發(fā)起的解決方案包含有Mellanox提供的任意RDMA兼容的HCA以及PMC的Flashtec NVRAM加速卡。與之相輔的還有操作系統(tǒng)的驅(qū)動代碼(現(xiàn)在Linux上得到支持)以及Mellanox和PMC提供的相關軟件。所有實現(xiàn)該項技術所需的代碼均可見于
www.pmcs.com/lit。
關于Mellanox
Mellanox是一家提供端到端InfiniBand及以太網(wǎng)互聯(lián)解決方案并提供服務器與存儲相關服務的領軍公司。Mellanox的互聯(lián)解決方案通過提供最高的吞吐量及最低的延遲來提升數(shù)據(jù)中心的效率。Mellanox提供一系列的高速互聯(lián)產(chǎn)品:轉接卡、交換機、軟件、線纜及芯片等,可以為包括高性能計算、企業(yè)級數(shù)據(jù)中心、Web 2.0、云、存儲及金融服務等多種多樣的市場加速應用的運行,并將其商業(yè)收益最大化。更多詳情,請訪問
www.mellanox.com。
關于PMC
PMC(納斯達克代碼: PMCS)是半導體以及軟件解決方案的創(chuàng)新領導者,致力于推動網(wǎng)絡上大數(shù)據(jù)的連接、傳送以及存儲。秉持長久以來累積的技術優(yōu)勢,PMC在存儲、光網(wǎng)絡以及移動網(wǎng)絡領域持續(xù)創(chuàng)新。PMC的高集成度解決方案可提升性能,加速網(wǎng)絡升級以實現(xiàn)下一代網(wǎng)絡服務。詳情參見
www.pmcs.com。請在微博,微信(PMCChina),以及博客上關注PMC。