在AI數(shù)據(jù)中心規(guī)模日益壯大的背景下,云計(jì)算巨頭們正面臨一項(xiàng)新的挑戰(zhàn):如何高效利用現(xiàn)有的小型數(shù)據(jù)中心資源。針對這一難題,博通公司推出了創(chuàng)新的解決方案,特別針對地理位置相近的數(shù)據(jù)中心。
本周一,博通正式發(fā)布了其新版Jericho網(wǎng)絡(luò)芯片。這款芯片憑借其卓越的性能,能夠?qū)崿F(xiàn)大數(shù)據(jù)量的高速傳輸。據(jù)博通核心交換業(yè)務(wù)集團(tuán)的高級副總裁Ram Velaga介紹,借助Jericho芯片,客戶可以將多個(gè)小型數(shù)據(jù)中心無縫連接,從而構(gòu)建一個(gè)龐大的系統(tǒng),用于開發(fā)或運(yùn)行AI模型。
博通聲稱,其Jericho4產(chǎn)品具備連接超過百萬個(gè)處理器的強(qiáng)大能力,能夠跨越多個(gè)數(shù)據(jù)中心,處理的信息量相比前代產(chǎn)品提升了約四倍。這一突破性的進(jìn)展,無疑為AI領(lǐng)域的數(shù)據(jù)傳輸和處理帶來了全新的可能。
近年來,隨著AI系統(tǒng)的快速發(fā)展,博通的網(wǎng)絡(luò)組件需求持續(xù)增長。這些組件,如路由器和交換機(jī),在GPU之間扮演著數(shù)據(jù)傳輸?shù)闹匾巧6鳪PU,作為構(gòu)建AI模型的昂貴芯片,其需求也隨之激增。
值得注意的是,雖然博通的部分設(shè)備專注于在同一機(jī)架或數(shù)據(jù)中心內(nèi)部進(jìn)行數(shù)據(jù)傳輸,但市場對于能夠跨越建筑甚至實(shí)現(xiàn)遠(yuǎn)距離傳輸?shù)慕M件需求同樣迫切。大型GPU集群的功耗問題日益凸顯,使得將所有GPU集中在同一位置變得不切實(shí)際。Velaga指出,當(dāng)試圖建立包含數(shù)十萬個(gè)GPU的集群時(shí),功耗很快就會達(dá)到數(shù)百萬瓦,而單個(gè)物理建筑往往無法滿足這樣的電力需求。
“當(dāng)考慮建立20萬或10萬個(gè)GPU的集群時(shí),功耗很快就會逼近300兆瓦,而目前的單個(gè)物理建筑根本無法提供這樣的電力供應(yīng)。”Velaga說道。他進(jìn)一步強(qiáng)調(diào),Jericho系列網(wǎng)絡(luò)芯片正是為了解決這一問題而生。
隨著企業(yè)試圖將數(shù)據(jù)中心容量遷移到更接近客戶的位置,以加快用戶從AI模型獲取答案的速度,位于擁擠都市區(qū)的數(shù)據(jù)中心變得尤為重要。在這些地區(qū),連接多個(gè)較小的設(shè)施可能更為實(shí)用。Velaga表示,這進(jìn)一步凸顯了Jericho芯片的重要性。
值得注意的是,博通的Tomahawk系列芯片主要用于連接數(shù)據(jù)中心內(nèi)的機(jī)架,其連接距離通常限制在一公里以內(nèi)。而Jericho設(shè)備則能夠處理超過100公里的遠(yuǎn)距離連接,適用于跨建筑甚至更遠(yuǎn)距離的數(shù)據(jù)傳輸需求。
據(jù)Velaga透露,Jericho4芯片將從周一開始向云服務(wù)提供商和網(wǎng)絡(luò)設(shè)備制造商等早期客戶發(fā)貨。這些客戶將把芯片集成到他們的產(chǎn)品中,預(yù)計(jì)完全部署大約需要九個(gè)月的時(shí)間。
面對AI數(shù)據(jù)中心發(fā)展的新挑戰(zhàn),博通的Jericho4芯片無疑提供了一個(gè)創(chuàng)新的解決方案。通過高效連接多個(gè)小型數(shù)據(jù)中心,這款芯片不僅解決了大型GPU集群的功耗問題,還為云計(jì)算和AI企業(yè)提供了更靈活的數(shù)據(jù)中心布局選擇。
本文鏈接:http://www.rrqrq.com/showinfo-26-176297-0.html博通Jericho4芯片:破解大型AI運(yùn)算功耗難題,實(shí)現(xiàn)多數(shù)據(jù)中心高效協(xié)同
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com