快科技11月14日消息,NVIDIA Blackwell GPU相當(dāng)強(qiáng)悍,大家都知道,但到底有多強(qiáng)呢?
除了官方宣傳數(shù)據(jù),現(xiàn)在終于第一次看到了實(shí)測(cè)數(shù)據(jù),來自MLCommons MLPerf v4.1,考察AI訓(xùn)練推理性能的佳平臺(tái)。
對(duì)比對(duì)象是兩代服務(wù)器HGX B200、HGX H200,前者包含多達(dá)八顆Blackwell GPU B200,單顆功耗高達(dá)1000W。
GPT-3預(yù)訓(xùn)練項(xiàng)目中,Blackwell的性能相比上代Hopper翻了一番。
Llama 2 700億參數(shù)微調(diào)項(xiàng)目中,Blackwell的性能更是提升了多達(dá)2.2倍。
值得一提的是,Blackwell平臺(tái)具備ConnectX-7 SuperNICs網(wǎng)卡、Quantum-2 InfiniBand交換機(jī),再加上第五代NVLink互連總線,可以充分保障節(jié)點(diǎn)間的通信,可以平衡分配AI訓(xùn)練負(fù)載,整體效率更高。
比如同樣的GPT-3 1750億參數(shù)性能,Hopper需要多達(dá)256顆GPU,Blackwell就只需要64顆。

本文鏈接:http://www.rrqrq.com/showinfo-24-123601-0.htmlNVIDIA Blackwell GPU首次實(shí)測(cè)跑分:提升多達(dá)2.2倍
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:[email protected]