【ITBEAR】9月25日消息,在2024百度云智大會上,百度智能云宣布了其百舸AI異構(gòu)計算平臺已成功升級至4.0版本,旨在滿足大模型全旅程的算力需求,為企業(yè)提供更為高效、穩(wěn)定的AI基礎(chǔ)設(shè)施。

據(jù)ITBEAR了解,百舸4.0版本特別針對“多芯混訓(xùn)”能力進行了顯著升級,實現(xiàn)在萬卡規(guī)模集群上達到95%的多芯混合訓(xùn)練效能,處于行業(yè)領(lǐng)先地位。這一升級有效解決了算力資源短缺的問題,提升了訓(xùn)練效率。
在集群部署方面,升級后的百舸平臺展現(xiàn)出強大的工具層面優(yōu)化能力,將萬卡集群的運行準備時間從數(shù)周大幅縮短至1小時,極大提升了部署效率,縮短了業(yè)務(wù)上線周期。
針對大模型訓(xùn)練過程中頻繁出現(xiàn)的故障問題,百舸4.0版本全面升級了故障檢測手段和自動容錯機制,有效降低了故障發(fā)生頻次,大幅減少了集群故障處置時間,確保在萬卡集群上實現(xiàn)超過99.5%的有效訓(xùn)練時長。
在模型推理方面,隨著長文本推理逐漸成為主流需求,百舸4.0版本進行了整體優(yōu)化,使得長文本推理效率提升了1倍以上,顯著提升了推理速度和降低了成本。
此次百度智能云的百舸4.0版本發(fā)布,無疑為企業(yè)提供了更為強大、高效的AI基礎(chǔ)設(shè)施,助力企業(yè)在AI領(lǐng)域?qū)崿F(xiàn)更快的發(fā)展。#百度智能云# #百舸AI異構(gòu)計算平臺# #算力升級# #模型推理優(yōu)化# #大模型訓(xùn)練#
本文鏈接:http://www.rrqrq.com/showinfo-45-7678-0.html百度百舸AI計算平臺4.0發(fā)布,模型訓(xùn)練效率逼近極限?
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:[email protected]