10/22/2020,光纖在線訊,加利福尼亞州圣克拉拉市— NVIDIA今日宣布,其AI計(jì)算平臺(tái)在最新一輪MLPerf基準(zhǔn)測(cè)試中再次打破性能記錄,在這一業(yè)內(nèi)唯一評(píng)估硬件、軟件和服務(wù)的第三方AI性能基準(zhǔn)測(cè)試中進(jìn)一步擴(kuò)大了其領(lǐng)先優(yōu)勢(shì)。
在今年第二輪MLPerf 推理測(cè)試中,NVIDIA創(chuàng)下了數(shù)據(jù)中心與邊緣計(jì)算系統(tǒng)全部六個(gè)應(yīng)用領(lǐng)域的記錄。此次測(cè)試中,計(jì)算機(jī)視覺(jué)測(cè)試從最初的兩項(xiàng)擴(kuò)展到四項(xiàng),涵蓋了AI應(yīng)用增長(zhǎng)最快的領(lǐng)域,包括:推薦系統(tǒng)、自然語(yǔ)言理解、語(yǔ)音識(shí)別和醫(yī)療影像。
憑借NVIDIA® A100 Tensor Core GPU出色的推理性能,各個(gè)行業(yè)的機(jī)構(gòu)將AI研究轉(zhuǎn)化為日常運(yùn)營(yíng)中的生產(chǎn)力。金融機(jī)構(gòu)使用對(duì)話式AI更快速地回答客戶問(wèn)題,零售商們使用AI保證貨架庫(kù)存充足,醫(yī)療機(jī)構(gòu)使用AI分析數(shù)百萬(wàn)張醫(yī)療影像,以更準(zhǔn)確地診斷疾病,從而挽救生命。
NVIDIA加速計(jì)算部門(mén)總經(jīng)理兼副總裁Ian Buck表示:“我們正處在一個(gè)轉(zhuǎn)折點(diǎn),各個(gè)行業(yè)都致力于更好地利用AI,從而提供新的服務(wù)并尋求業(yè)務(wù)的發(fā)展!
“NVIDIA為MLPerf上取得的成績(jī)付出了巨大的努力,將助力各企業(yè)的AI性能提升到新的高度,以改善我們的日常生活!
在MLPerf最新結(jié)果出爐之際,NVIDIA 的AI推理業(yè)務(wù)也已得到迅速擴(kuò)展。五年前,只有少數(shù)領(lǐng)先的高科技公司使用GPU進(jìn)行推理,F(xiàn)在,企業(yè)可通過(guò)各大云和數(shù)據(jù)中心基礎(chǔ)設(shè)施供應(yīng)商來(lái)使用NVIDIA的AI平臺(tái)。各行業(yè)都在使用NVIDIA 的AI推理平臺(tái)改善業(yè)務(wù)運(yùn)營(yíng),提供更多的服務(wù)。
此外,NVIDIA GPU首次在公有云中實(shí)現(xiàn)了超越CPU的AI推理能力; NVIDIA GPU的總體云端AI推理計(jì)算能力每?jī)赡暝鲩L(zhǎng)約10倍。
NVIDIA問(wèn)鼎AI推理性能的新高峰
NVIDIA及其合作伙伴提交了基于NVIDIA加速平臺(tái)的MLPerf 0.7的測(cè)試結(jié)果。該平臺(tái)包含NVIDIA數(shù)據(jù)中心GPU、邊緣AI加速器和經(jīng)過(guò)優(yōu)化的NVIDIA軟件。
NVIDIA 于今年早些時(shí)候發(fā)布了A100。憑借其第三代Tensor Core核心和多實(shí)例GPU技術(shù),A100在ResNet-50測(cè)試中的領(lǐng)先優(yōu)勢(shì)進(jìn)一步擴(kuò)大。在上一輪測(cè)試中,它以30倍比6倍的成績(jī)擊敗了CPU的測(cè)試結(jié)果。另外,此次MLPerf Inference 0.7基準(zhǔn)測(cè)試中,新增了針對(duì)數(shù)據(jù)中心推理性能的推薦系統(tǒng)測(cè)試。在該測(cè)試中,A100所展現(xiàn)出的性能比最先進(jìn)的CPU高出237倍。
這意味著,一套DGX A100系統(tǒng)可以提供相當(dāng)于近1000臺(tái)雙插槽CPU服務(wù)器的性能,能為客戶AI推薦系統(tǒng)模型從研發(fā)走向生產(chǎn)的過(guò)程,提供極高的成本效益。
基準(zhǔn)測(cè)試結(jié)果顯示,NVIDIA T4 Tensor Core GPU仍然是主流企業(yè)、邊緣服務(wù)器和高成本效益云實(shí)例的可靠推理平臺(tái)。在同一測(cè)試中,NVIDIA T4 GPU的性能比CPU高出28倍。此外,NVIDIA Jetson AGX Xavier™ 已成為基于Soc的邊緣設(shè)備中最強(qiáng)大的平臺(tái)。
這些結(jié)果離不開(kāi)高度優(yōu)化的軟件堆棧,包括NVIDIA TensorRT™ 推理優(yōu)化器和NVIDIA Triton™ 推理服務(wù)軟件。這兩款軟件堆棧均可在NGC™(NVIDIA的軟件目錄)中獲取。
除NVIDIA提交的結(jié)果外,還有11家NVIDIA合作伙伴提交了基于NVIDIA GPU的1,029個(gè)測(cè)試結(jié)果,占數(shù)據(jù)中心和邊緣類(lèi)別中參評(píng)測(cè)試結(jié)果總數(shù)的85%以上。
關(guān)于NVIDIA
NVIDIA(納斯達(dá)克股票代碼:NVDA)在1999年發(fā)明的GPU激發(fā)了PC游戲市場(chǎng)的增長(zhǎng),重新定義了現(xiàn)代計(jì)算機(jī)顯卡,并且對(duì)并行計(jì)算進(jìn)行了革新。最近,通過(guò)將GPU作為可以感知和理解世界的計(jì)算機(jī)、機(jī)器人乃至自動(dòng)駕駛汽車(chē)的大腦,GPU深度學(xué)習(xí)再度點(diǎn)燃了全新的計(jì)算時(shí)代——現(xiàn)代人工智能。更多信息,請(qǐng)?jiān)L問(wèn)http://nvidianews.nvidia.com/。