【ITBEAR】9月11日消息,隨著人工智能技術的飛速發展,AI組網結構的變化趨勢日益成為業界關注的焦點。近日,興業證券發布了一份題為《AI深度洞察系列報告(三):Scale up與Scale out組網變化趨勢如何看?》的研究報告,深入探討了這一問題及其對算力產業鏈投資機會的影響。

報告指出,在AI大模型訓練領域,分布式并行訓練架構已成為主流,其中張量并行對通信的要求尤為突出。隨著模型規模的不斷擴大,服務器內帶寬需求也在迅猛增長。為滿足這一需求,建立更大帶寬的超節點已成為行業發展的必然趨勢。
據ITBEAR了解,超節點的規模設計正由GPU廠商和云服務商共同推動。以英偉達為例,其超節點規模在不斷升級,以適應日益增長的算力需求。同時,谷歌也在通過擴大超節點Pod規模來降低數據中心網絡(DCN)的帶寬要求。此外,UALink聯盟也在積極推動超節點規模的進一步提升。
在Scale up方面,除了帶寬提升外,互聯密度的增加也是一個重要趨勢。英偉達等廠商正在采用先進的互聯技術,如NVL GB200方案和NVLINK協議,以提升機柜內部的互聯帶寬。目前,銅互聯方式仍占主導地位,但長期來看,光互聯技術有望取代銅互聯,成為未來的主流互聯方式。

另一方面,Scale out的發展則主要體現在集群規模的擴大上。受Scaling Laws法則的驅動,AI大模型的硬件部署正朝著更大集群的方向發展。目前,AI集群規模已進入10萬卡階段,以太網組網在AI集群中的應用也正在加速落地。
報告還提到,字節跳動和meta等科技巨頭已經采用以太網技術來搭建AI集群。同時,博通等廠商也在不斷升級其以太網交換芯片,以滿足不斷增長的市場需求。英偉達也強調了以太網方案在AI集群部署中的重要性。
此外,隨著AI集群規模的擴大,交換機和光模塊等配套設施的需求也在不斷增加。Arista等公司針對AI需求提出了不同的交換機互聯方案,通過提升交換機端口數來推動Scale out規模的進一步提升。同時,光模塊的總需求也與算力需求成正比,保持向上趨勢。硅光技術有望在未來逐步從可插拔硅光形式過渡到CPO形式,并在1.6T光模塊階段實現滲透率的提升。
綜上所述,AI組網正朝著更大規模集群的方向發展,Scale up和Scale out兩大趨勢共同推動了AI算力產業鏈的不斷進步。隨著技術的不斷創新和市場需求的持續增長,相關產業將迎來更多的投資機會和發展空間。
#AI組網# #Scale up# #Scale out# #算力產業鏈# #投資機會#
本文鏈接:http://www.rrqrq.com/showinfo-45-7006-0.htmlAI組網新趨勢:Scale up與Scale out如何引領未來?探秘組網技術的顛覆性變革!
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:[email protected]