欧美亚洲美日更新在线_国产av无码图_91精品无码中文字幕在线_久久人妻中文字幕乱码_亚洲无码视频一二三区在线

NVIDIA打破AI推理性能記錄

光纖在線編輯部  2020-10-22 13:48:40  文章來(lái)源:本站消息  版權(quán)所有,未經(jīng)許可嚴(yán)禁轉(zhuǎn)載.

導(dǎo)讀:NVIDIA憑借A100進(jìn)一步擴(kuò)大了在MLPerf基準(zhǔn)測(cè)試中的領(lǐng)先優(yōu)勢(shì),實(shí)現(xiàn)了比CPU快237倍的AI推理性能,助力企業(yè)將AI研究轉(zhuǎn)化為生產(chǎn)力

10/22/2020,光纖在線訊,加利福尼亞州圣克拉拉市—  NVIDIA今日宣布,其AI計(jì)算平臺(tái)在最新一輪MLPerf基準(zhǔn)測(cè)試中再次打破性能記錄,在這一業(yè)內(nèi)唯一評(píng)估硬件、軟件和服務(wù)的第三方AI性能基準(zhǔn)測(cè)試中進(jìn)一步擴(kuò)大了其領(lǐng)先優(yōu)勢(shì)。

在今年第二輪MLPerf 推理測(cè)試中,NVIDIA創(chuàng)下了數(shù)據(jù)中心與邊緣計(jì)算系統(tǒng)全部六個(gè)應(yīng)用領(lǐng)域的記錄。此次測(cè)試中,計(jì)算機(jī)視覺(jué)測(cè)試從最初的兩項(xiàng)擴(kuò)展到四項(xiàng),涵蓋了AI應(yīng)用增長(zhǎng)最快的領(lǐng)域,包括:推薦系統(tǒng)、自然語(yǔ)言理解、語(yǔ)音識(shí)別和醫(yī)療影像。

憑借NVIDIA® A100 Tensor Core GPU出色的推理性能,各個(gè)行業(yè)的機(jī)構(gòu)將AI研究轉(zhuǎn)化為日常運(yùn)營(yíng)中的生產(chǎn)力。金融機(jī)構(gòu)使用對(duì)話式AI更快速地回答客戶問(wèn)題,零售商們使用AI保證貨架庫(kù)存充足,醫(yī)療機(jī)構(gòu)使用AI分析數(shù)百萬(wàn)張醫(yī)療影像,以更準(zhǔn)確地診斷疾病,從而挽救生命。

NVIDIA加速計(jì)算部門(mén)總經(jīng)理兼副總裁Ian Buck表示:“我們正處在一個(gè)轉(zhuǎn)折點(diǎn),各個(gè)行業(yè)都致力于更好地利用AI,從而提供新的服務(wù)并尋求業(yè)務(wù)的發(fā)展!

“NVIDIA為MLPerf上取得的成績(jī)付出了巨大的努力,將助力各企業(yè)的AI性能提升到新的高度,以改善我們的日常生活!

在MLPerf最新結(jié)果出爐之際,NVIDIA 的AI推理業(yè)務(wù)也已得到迅速擴(kuò)展。五年前,只有少數(shù)領(lǐng)先的高科技公司使用GPU進(jìn)行推理,F(xiàn)在,企業(yè)可通過(guò)各大云和數(shù)據(jù)中心基礎(chǔ)設(shè)施供應(yīng)商來(lái)使用NVIDIA的AI平臺(tái)。各行業(yè)都在使用NVIDIA 的AI推理平臺(tái)改善業(yè)務(wù)運(yùn)營(yíng),提供更多的服務(wù)。

此外,NVIDIA GPU首次在公有云中實(shí)現(xiàn)了超越CPU的AI推理能力; NVIDIA GPU的總體云端AI推理計(jì)算能力每?jī)赡暝鲩L(zhǎng)約10倍。

NVIDIA問(wèn)鼎AI推理性能的新高峰

NVIDIA及其合作伙伴提交了基于NVIDIA加速平臺(tái)的MLPerf 0.7的測(cè)試結(jié)果。該平臺(tái)包含NVIDIA數(shù)據(jù)中心GPU、邊緣AI加速器和經(jīng)過(guò)優(yōu)化的NVIDIA軟件。

NVIDIA 于今年早些時(shí)候發(fā)布了A100。憑借其第三代Tensor Core核心和多實(shí)例GPU技術(shù),A100在ResNet-50測(cè)試中的領(lǐng)先優(yōu)勢(shì)進(jìn)一步擴(kuò)大。在上一輪測(cè)試中,它以30倍比6倍的成績(jī)擊敗了CPU的測(cè)試結(jié)果。另外,此次MLPerf Inference 0.7基準(zhǔn)測(cè)試中,新增了針對(duì)數(shù)據(jù)中心推理性能的推薦系統(tǒng)測(cè)試。在該測(cè)試中,A100所展現(xiàn)出的性能比最先進(jìn)的CPU高出237倍。

這意味著,一套DGX A100系統(tǒng)可以提供相當(dāng)于近1000臺(tái)雙插槽CPU服務(wù)器的性能,能為客戶AI推薦系統(tǒng)模型從研發(fā)走向生產(chǎn)的過(guò)程,提供極高的成本效益。

基準(zhǔn)測(cè)試結(jié)果顯示,NVIDIA T4 Tensor Core GPU仍然是主流企業(yè)、邊緣服務(wù)器和高成本效益云實(shí)例的可靠推理平臺(tái)。在同一測(cè)試中,NVIDIA T4 GPU的性能比CPU高出28倍。此外,NVIDIA Jetson AGX Xavier™ 已成為基于Soc的邊緣設(shè)備中最強(qiáng)大的平臺(tái)。

這些結(jié)果離不開(kāi)高度優(yōu)化的軟件堆棧,包括NVIDIA TensorRT™ 推理優(yōu)化器和NVIDIA Triton™ 推理服務(wù)軟件。這兩款軟件堆棧均可在NGC™(NVIDIA的軟件目錄)中獲取。

除NVIDIA提交的結(jié)果外,還有11家NVIDIA合作伙伴提交了基于NVIDIA GPU的1,029個(gè)測(cè)試結(jié)果,占數(shù)據(jù)中心和邊緣類(lèi)別中參評(píng)測(cè)試結(jié)果總數(shù)的85%以上。

關(guān)于NVIDIA

NVIDIA(納斯達(dá)克股票代碼:NVDA)在1999年發(fā)明的GPU激發(fā)了PC游戲市場(chǎng)的增長(zhǎng),重新定義了現(xiàn)代計(jì)算機(jī)顯卡,并且對(duì)并行計(jì)算進(jìn)行了革新。最近,通過(guò)將GPU作為可以感知和理解世界的計(jì)算機(jī)、機(jī)器人乃至自動(dòng)駕駛汽車(chē)的大腦,GPU深度學(xué)習(xí)再度點(diǎn)燃了全新的計(jì)算時(shí)代——現(xiàn)代人工智能。更多信息,請(qǐng)?jiān)L問(wèn)http://nvidianews.nvidia.com/。
關(guān)鍵字: NVIDIA AI推理 人工智能
光纖在線

光纖在線公眾號(hào)

更多猛料!歡迎掃描左方二維碼關(guān)注光纖在線官方微信

相關(guān)產(chǎn)品

熱門(mén)搜索

熱門(mén)新聞

最新簡(jiǎn)歷

  • 陳** 廣東 副總經(jīng)理/副總裁生產(chǎn)經(jīng)理/主管營(yíng)運(yùn)經(jīng)理/主管
  • 劉** 恩施 技術(shù)支持工程師生產(chǎn)線領(lǐng)班/線長(zhǎng)技術(shù)/工藝設(shè)計(jì)工程師
  • 張** 嘉興 研發(fā)/開(kāi)發(fā)工程師技術(shù)支持工程師
  • 梁** 東莞 品質(zhì)/測(cè)試工程師
  • 朱** 宜春 技術(shù)支持工程師培訓(xùn)專(zhuān)員采購(gòu)經(jīng)理/主管

展會(huì)速遞

微信掃描二維碼
使用“掃一掃”即可將網(wǎng)頁(yè)分享至朋友圈。