在人工智能領(lǐng)域，一個長期存在的技術(shù)難題是：如何讓多個經(jīng)過專門訓(xùn)練的AI模型協(xié)同工作，同時避免性能下降和任務(wù)干擾。法國研究團(tuán)隊(duì)近期提出了一種創(chuàng)新解決方案——DivMerge技術(shù)，這項(xiàng)突破性成果已在知名學(xué)術(shù)預(yù)印本平臺arXiv發(fā)布，為多任務(wù)AI模型的高效整合開辟了新路徑。Ndq28資訊網(wǎng)——每日最新資訊28at.com

傳統(tǒng)方法在處理多任務(wù)AI時面臨兩難困境：要么為每個任務(wù)單獨(dú)訓(xùn)練模型，導(dǎo)致資源浪費(fèi)和部署復(fù)雜；要么采用通用模型，卻難以在所有任務(wù)上達(dá)到專業(yè)水平。更棘手的是，當(dāng)嘗試合并多個專業(yè)模型時，常出現(xiàn)"任務(wù)干擾"現(xiàn)象，就像讓擅長中餐的廚師突然改做法餐，最終可能兩頭都做不好。研究團(tuán)隊(duì)開發(fā)的DivMerge技術(shù)，通過獨(dú)特的模型組合方式，成功破解了這一難題。Ndq28資訊網(wǎng)——每日最新資訊28at.com

該技術(shù)的核心創(chuàng)新在于"智能任務(wù)向量組合"。每個AI模型經(jīng)過特定任務(wù)訓(xùn)練后，其參數(shù)會形成獨(dú)特的"任務(wù)向量"，記錄從通用能力到專業(yè)技能的轉(zhuǎn)變軌跡。DivMerge采用基于信息論的動態(tài)調(diào)配策略，根據(jù)任務(wù)間的相似性和差異性，自動確定最優(yōu)組合比例。這種方法如同經(jīng)驗(yàn)豐富的調(diào)酒師，能根據(jù)不同酒類的特性和客人偏好，精準(zhǔn)調(diào)配出完美雞尾酒。Ndq28資訊網(wǎng)——每日最新資訊28at.com

信息論在技術(shù)實(shí)現(xiàn)中發(fā)揮了關(guān)鍵作用。研究團(tuán)隊(duì)運(yùn)用Jensen-Shannon散度這一數(shù)學(xué)工具，量化不同模型之間的"距離"。這種度量方法具有對稱性，無論比較順序如何都能得到一致結(jié)果，就像測量兩個城市間的距離不會因方向改變而變化。基于這種精確的距離衡量，系統(tǒng)能自動學(xué)習(xí)最優(yōu)組合方式，且整個過程無需額外標(biāo)注數(shù)據(jù)，大幅降低了應(yīng)用門檻。Ndq28資訊網(wǎng)——每日最新資訊28at.com

實(shí)驗(yàn)數(shù)據(jù)充分驗(yàn)證了技術(shù)優(yōu)勢。在涵蓋語法判斷、情感分析等任務(wù)的GLUE基準(zhǔn)測試中，DivMerge在雙任務(wù)合并場景下，分類任務(wù)性能保持率達(dá)99.18%，生成任務(wù)達(dá)98.93%，遠(yuǎn)超傳統(tǒng)方法的88.48%和94.38%。當(dāng)任務(wù)數(shù)量增加到7個時，其分類任務(wù)性能仍維持在93.06%，而傳統(tǒng)方法已驟降至60.51%，顯示出卓越的擴(kuò)展能力。Ndq28資訊網(wǎng)——每日最新資訊28at.com

技術(shù)實(shí)現(xiàn)層面，DivMerge展現(xiàn)了令人驚嘆的簡潔性。整個優(yōu)化過程可通過標(biāo)準(zhǔn)梯度下降方法完成，無需復(fù)雜參數(shù)調(diào)優(yōu)或特殊訓(xùn)練技巧。研究證明，當(dāng)優(yōu)化目標(biāo)達(dá)到最小值時，合并模型能完美實(shí)現(xiàn)"權(quán)重分離"，確保不同任務(wù)參數(shù)互不干擾，就像專業(yè)廚房中每位廚師都有獨(dú)立工作臺，既能協(xié)作又能專注各自領(lǐng)域。Ndq28資訊網(wǎng)——每日最新資訊28at.com

深入分析揭示了技術(shù)成功的內(nèi)在機(jī)制。研究發(fā)現(xiàn)，模型間的散度度量與交叉任務(wù)性能存在顯著負(fù)相關(guān)，Jensen-Shannon散度在多數(shù)情況下表現(xiàn)優(yōu)于KL散度。訓(xùn)練動態(tài)觀察顯示，不同任務(wù)權(quán)重呈現(xiàn)差異化調(diào)整：某些任務(wù)權(quán)重相對獨(dú)立，另一些則會根據(jù)合作任務(wù)特性動態(tài)變化，反映了AI任務(wù)間復(fù)雜的關(guān)系網(wǎng)絡(luò)。Ndq28資訊網(wǎng)——每日最新資訊28at.com

實(shí)際應(yīng)用考量方面，技術(shù)展現(xiàn)出極強(qiáng)的適應(yīng)性。僅需25個驗(yàn)證樣本（約占原始訓(xùn)練數(shù)據(jù)0.4%）就能達(dá)到理想效果，極大降低了數(shù)據(jù)需求。在多種模型架構(gòu)上的測試表明，無論是純解碼器架構(gòu)的Qwen2.5-0.5B，還是編碼器-解碼器架構(gòu)的T5-Base，DivMerge都能保持穩(wěn)定性能，驗(yàn)證了其通用性和魯棒性。Ndq28資訊網(wǎng)——每日最新資訊28at.com

這項(xiàng)突破為AI技術(shù)落地開辟了新可能。以科技公司為例，面對客戶服務(wù)、產(chǎn)品推薦、內(nèi)容審核等多個AI系統(tǒng)，傳統(tǒng)方案要么資源消耗巨大，要么犧牲專業(yè)性能。DivMerge技術(shù)能將這些專業(yè)模型智能合并為多功能超級模型，既保持各領(lǐng)域?qū)I(yè)能力，又顯著降低部署成本，對資源有限的中小企業(yè)尤其具有價值。Ndq28資訊網(wǎng)——每日最新資訊28at.com

在教育領(lǐng)域，該技術(shù)可助力構(gòu)建全科目智能教學(xué)助手。通過合并數(shù)學(xué)、語言、歷史等科目的專業(yè)AI教師模型，系統(tǒng)能為學(xué)生提供更全面的學(xué)習(xí)支持。醫(yī)療健康領(lǐng)域同樣受益，不同專科的AI診斷系統(tǒng)可整合為綜合診療平臺，為醫(yī)生提供更完整的決策依據(jù)。Ndq28資訊網(wǎng)——每日最新資訊28at.com

技術(shù)局限性方面，研究團(tuán)隊(duì)坦誠指出當(dāng)前方法主要在全參數(shù)微調(diào)設(shè)置下驗(yàn)證，在低秩適應(yīng)等參數(shù)高效微調(diào)場景下的表現(xiàn)尚需進(jìn)一步探索。數(shù)據(jù)分布假設(shè)方面，雖然提供了分布偏移的理論分析，但實(shí)際應(yīng)用中的近似分布處理仍需深入研究。隨著任務(wù)數(shù)量持續(xù)增長，性能下降問題也提示需要更高效的大規(guī)模任務(wù)合并策略。Ndq28資訊網(wǎng)——每日最新資訊28at.com

這項(xiàng)研究不僅提供了具體的技術(shù)解決方案，更展示了數(shù)學(xué)理論指導(dǎo)技術(shù)開發(fā)的成功范例。基于信息論的散度度量、權(quán)重分離的理論保證，以及與經(jīng)典多任務(wù)學(xué)習(xí)的深層聯(lián)系，為技術(shù)的持續(xù)改進(jìn)和擴(kuò)展奠定了堅(jiān)實(shí)基礎(chǔ)。其核心價值在于開創(chuàng)了AI能力整合的新范式——通過智能化組合而非簡單疊加實(shí)現(xiàn)能力提升，為構(gòu)建更智能、高效的AI生態(tài)系統(tǒng)提供了重要啟發(fā)。Ndq28資訊網(wǎng)——每日最新資訊28at.com

   更多>同類資訊復(fù)旦大學(xué)AgentGym-RL框架：小模型大智慧，AI智能體學(xué)會復(fù)雜任務(wù)長期規(guī)劃09-23Meta實(shí)驗(yàn)室新突破：AI模型開啟"自我對弈"模式，不依賴數(shù)據(jù)也能持續(xù)進(jìn)化09-23聯(lián)發(fā)科天璣9500首推雙NPU架構(gòu)，讓AI常駐手機(jī)開啟主動服務(wù)新體驗(yàn)09-23DeepSeek-V3.1升級至Terminus版 優(yōu)化語言一致性及Agent能力09-23斯坦福等高校聯(lián)手：用LMEnt套件追蹤AI語言模型知識學(xué)習(xí)軌跡09-23AI搜索的數(shù)學(xué)邊界：當(dāng)最強(qiáng)大模型遇上"簡單問題"的隱秘困局09-23中科院團(tuán)隊(duì)創(chuàng)新CARVE法：破解AI視覺“分心”難題，助模型精準(zhǔn)聚焦09-23Plaud攜三款A(yù)I紀(jì)要新品入局大陸市場，多模態(tài)交互與長續(xù)航成亮點(diǎn)09-23DeepSeek線上模型升級至V3.1-Terminus，輸出更穩(wěn)Agent能力再提升09-23DeepSeek-V3.1升級至V3.1-Terminus：語言更一致，代理更強(qiáng)大，輸出更穩(wěn)定09-23上海人工智能實(shí)驗(yàn)室牽頭！科學(xué)智能戰(zhàn)略科技力量聯(lián)盟正式成立09-23DeepSeek-V3.1-Terminus發(fā)布：修復(fù)Bug，編程與搜索智能體能力再升級09-23科學(xué)智能戰(zhàn)略科技力量聯(lián)盟成立 共探AI賦能多學(xué)科創(chuàng)新發(fā)展路徑09-23中國電信引領(lǐng)6G新突破：首個6G計(jì)費(fèi)項(xiàng)目獲3GPP正式批準(zhǔn)09-23DeepSeek-V3.1-Terminus更新登場！修復(fù)關(guān)鍵Bug，Agent能力躍升，V4還會遠(yuǎn)嗎？09-23點(diǎn)擊查看更多 +全站最新?9月狹義乘用車零售預(yù)計(jì)達(dá)215萬輛，新能源車滲透率或超58%引關(guān)注?6.88萬起極狐T1實(shí)測：空間越級配置足，小電車市場殺出“全能王”？?雷軍官宣小米17系列9月25日發(fā)布，盧偉冰稱產(chǎn)品力跨代升級且對標(biāo)iPhone17??小米17系列9月25日發(fā)布在即，雷軍年度演講《改變》將揭秘芯片與汽車故事??雷軍宣布：9月25日小米17系列發(fā)布，同期將舉辦第6次年度演講聊芯片與汽車故事?小米SU7標(biāo)準(zhǔn)版11.7萬輛召回：OTA升級背后的智能駕駛安全與行業(yè)新挑戰(zhàn)熱門內(nèi)容

• 寒武紀(jì)回應(yīng)訂單不實(shí)傳聞：產(chǎn)品多行業(yè)部署，存貨增長因云端備貨
• 熱度攀升！千億科技龍頭頻獲機(jī)構(gòu)調(diào)研，業(yè)務(wù)增長透露哪些行業(yè)新動向？
• 蘋果加速AI布局，或收購兩家法國AI初創(chuàng)企業(yè)
• 蘋果秋季發(fā)布會亮相iPhone 17系列："史上最薄"Air登場，Pro Max 2TB版定價17999元
• 蘋果加速布局中國市場！Apple Intelligence和新版Siri或年底至明年上線
• ?小米16系列或提前登場，首發(fā)驍龍8 Elite Gen5，9月機(jī)圈大戰(zhàn)一觸即發(fā)?
• 均勝電子新品亮相：AI頭部總成、全域控制器等完善機(jī)器人產(chǎn)品矩陣
• 國金證券：A股第三輪重估腳步臨近，三類資產(chǎn)投資方向值得關(guān)注
• 蘋果AI布局加速，或?qū)⒊饩拶Y收購歐洲兩大AI初創(chuàng)企業(yè)
• 18歲涂津豪：從DeepSeek實(shí)習(xí)生到Nature封面作者，以少年之力叩響AI新章
• WAVE SUMMIT大會新動態(tài)：文心大模型X1.1上線，多項(xiàng)能力顯著躍升
• 華為智能手表登頂全球，蘋果需直面挑戰(zhàn)求變革
• ?字節(jié)跳動千人芯片團(tuán)隊(duì)架構(gòu)調(diào)整，轉(zhuǎn)至新加坡子公司Picoheart引關(guān)注?
• 華為Mate系列2025年選購指南：三款高性價比機(jī)型技術(shù)解析與場景適配
• ${亞馬遜發(fā)布"2025產(chǎn)品創(chuàng)新出海品牌五十強(qiáng)"：出口跨境電商規(guī)模達(dá)2.15萬億

本欄最新第22屆東博會AI元素亮眼：數(shù)字智能體引路 機(jī)器人炫技展風(fēng)采AI云競爭下半場：華為以超節(jié)點(diǎn)、企業(yè)Agent等破局，誰能領(lǐng)跑產(chǎn)業(yè)？2025網(wǎng)安周：每日互動劉宇談AI時代，知識安全成關(guān)鍵，共筑數(shù)字新未來中國大模型DeepSeek首登Nature封面，R1訓(xùn)練成本僅約208萬引關(guān)注華為全聯(lián)接大會2025啟幕，發(fā)布全球最強(qiáng)算力超節(jié)點(diǎn)與集群有鹿機(jī)器人+連合直租：以智能租賃模式，開啟高端場景清潔新未來

本文鏈接：http://www.rrqrq.com/showinfo-45-27963-0.htmlOrange Research DivMerge技術(shù)：智能拼裝AI模型，解鎖多任務(wù)處理新境界

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 百度智能云Qianfan-VL視覺理解模型開源，多尺寸適配多場景助力AI產(chǎn)業(yè)落地

下一篇： 復(fù)旦大學(xué)AgentGym-RL框架：小模型大智慧，AI智能體學(xué)會復(fù)雜任務(wù)長期規(guī)劃