在近期舉辦的2025智源大會上，面壁智能這家北京的大模型創(chuàng)新企業(yè)，推出了其開源模型MiniCPM 4.0的兩個新版本，分別為0.5B和8B，內(nèi)部代號“前進(jìn)四”。這一發(fā)布引起了業(yè)內(nèi)廣泛關(guān)注。eyj28資訊網(wǎng)——每日最新資訊28at.com

據(jù)悉，MiniCPM4-0.5B的訓(xùn)練成本僅為Qwen3-0.6B的2.7%，卻以一半的參數(shù)量實現(xiàn)了性能翻倍，綜合得分平均分高達(dá)52.06分，遠(yuǎn)超同類模型。更為出色的是，面壁智能還推出了一個0.5B的三級量化版本，平均得分更是達(dá)到了56分，這一成績實屬不易。eyj28資訊網(wǎng)——每日最新資訊28at.com

而MiniCPM4-8B的表現(xiàn)同樣令人矚目。其訓(xùn)練開銷僅為22%，并加入了長上下文稀疏化版本，使得同等參數(shù)下性能更強。在同類端側(cè)模型排行榜中，MiniCPM4-8B的綜合得分甚至超越了Gemma3-12B，與Qwen3-8B比肩，位居榜首。eyj28資訊網(wǎng)——每日最新資訊28at.com

面壁智能CEO李大海在會上表示，MiniCPM4模型的最大特點就是速度快。在處理極端場景下的140K上下文時，需要極大的端側(cè)內(nèi)存。而在Jetson Orin AGX（64G）或RTX 4090（24G）硬件上運行128K長文本時，像Qwen3-8B這樣未進(jìn)行上下文稀疏化的模型，顯存往往不夠用，需要借助CPU內(nèi)存，這會導(dǎo)致速度急劇下降。而MiniCPM4-8B則通過快速稀疏化工作，將占用的低長文本緩存降至1/4，在常規(guī)場景中至少可以取得3-5倍的速度優(yōu)勢。eyj28資訊網(wǎng)——每日最新資訊28at.com

eyj28資訊網(wǎng)——每日最新資訊28at.com

李大海進(jìn)一步透露，在顯存受限的極限場景中，MiniCPM4的測試數(shù)據(jù)甚至可以達(dá)到220倍的速度提升。面壁智能的MiniCPM4-MCP模型在端側(cè)利用MCP協(xié)議，支持15個主流應(yīng)用，綜合評測表現(xiàn)得分頗高。而另一個MiniCPM4-Survey端側(cè)版則可在AI PC上構(gòu)建深度研究服務(wù)，成為離線可用的隨身研究報告工具，有助于保護(hù)本地隱私數(shù)據(jù)。eyj28資訊網(wǎng)——每日最新資訊28at.com

eyj28資訊網(wǎng)——每日最新資訊28at.com

值得注意的是，面壁智能與英特爾緊密合作，首次在端側(cè)解鎖了128K長上下文窗口。在英特爾平臺上，基于InfLLM 2.0稀疏注意力結(jié)構(gòu)，實現(xiàn)了3.8倍加速的推理優(yōu)化效果。同時，MiniCPM4已經(jīng)可以在華為昇騰、聯(lián)發(fā)科、高通等主流芯片上流暢運行，并支持vLLM、AutoGPT等推理框架，歐拉版也正在積極適配中。eyj28資訊網(wǎng)——每日最新資訊28at.com

那么，面壁智能是如何實現(xiàn)MiniCPM4又快又好的表現(xiàn)的呢？李大海分享了背后的技術(shù)細(xì)節(jié)。他提到，這是行業(yè)首個全開源系統(tǒng)級上下級稀疏化高效創(chuàng)新。MiniCPM4采用了InfLLM 2.0混合稀疏注意力結(jié)構(gòu)，通過分塊分區(qū)域處理文本，只對最具相關(guān)性的重點區(qū)域進(jìn)行注意力計算，從而大大提高了效率。同時，面壁智能還創(chuàng)新地采用了高效的自動雙頻換擋技術(shù)，長文本用稀疏方案，短文本用稠密方案，進(jìn)一步提升了性能。eyj28資訊網(wǎng)——每日最新資訊28at.com

eyj28資訊網(wǎng)——每日最新資訊28at.com

在推理方面，面壁智能自研了全套端側(cè)高性能推理框架，包括實現(xiàn)稀疏、投機(jī)和量化的高效結(jié)合的CPM.cu，極致低位寬量化的BitCPM，以及面向多平臺端側(cè)芯片極致優(yōu)化的Arkinfer。這些創(chuàng)新使得MiniCPM4在端側(cè)的表現(xiàn)更加出色。eyj28資訊網(wǎng)——每日最新資訊28at.com