導(dǎo)讀:根據(jù)AMD數(shù)據(jù),Instinct MI300X性能優(yōu)于英偉達(dá)的H100 80GB。
1/23/2024,光纖在線訊,AMD 近日開始量產(chǎn)其最新一代人工智能和高性能計(jì)算(HPC)加速器 Instinct MI300X,并率先交付合作伙伴 LaminiAI 使用。LaminiAI 將采用 MI300X 加速器運(yùn)行大型語言模型(LLM),以滿足企業(yè)用戶的需求。
LaminiAI 與 AMD 已有多年合作,因此優(yōu)先獲得 MI300X 的供貨并不意外。該公司 CEO Sharon Zhou 在社交媒體上宣布了這一消息,LaminiAI 已經(jīng)收到了多臺(tái)配備 8 個(gè) Instinct MI300X 加速器的機(jī)器,Sharon Zhou 表示:“首批 AMD MI300X 已經(jīng)投入生產(chǎn),LaminiAI 的下一批 LLM 集群即將上線!
據(jù)了解,MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 計(jì)算,其放棄了 x86 CPU 內(nèi)核,而是搭載更多的 CDNA 3 計(jì)算單元,總數(shù)達(dá)到 304 個(gè),遠(yuǎn)高于 MI300A 的 228 個(gè)。此外,MI300X 還配備了 192GB HBM3 高速內(nèi)存,峰值帶寬高達(dá) 5.3 TB / s。
根據(jù) AMD 官方性能測(cè)試,MI300X 的表現(xiàn)優(yōu)于市面上已有的 Nvidia H100 80GB,甚至有可能對(duì)即將上市的 H200 141GB 構(gòu)成威脅。目前,Meta 和微軟等巨頭客戶已采購了大量 AMD Instinct MI300 系列產(chǎn)品,LaminiAI 則是首家公開使用 MI300X 的公司。
(來源:IT之家)
光纖在線公眾號(hào)
更多猛料!歡迎掃描左方二維碼關(guān)注光纖在線官方微信