8 月 11 日消息，OpenAI 于 8 月 6 日推出了其最小開源模型 gpt-oss-20b，在常見基準(zhǔn)測試中與 OpenAI o3?mini 模型取得類似結(jié)果。高通今日宣布，這是 OpenAI 首個可在搭載驍龍平臺的終端側(cè)運行的開源推理模型。eCb28資訊網(wǎng)——每日最新資訊28at.com

eCb28資訊網(wǎng)——每日最新資訊28at.com

從官方新聞稿獲悉，高通稱 gpt-oss-20b 思維鏈推理模型可直接在搭載驍龍旗艦處理器的終端上運行。此前 OpenAI 的復(fù)雜模型僅限云端部署，這是 OpenAI 首次實現(xiàn)模型支持終端側(cè)推理。通過提前獲取模型，并結(jié)合高通 ? AI 引擎和 Qualcomm? AI Stack 進行集成測試，我們發(fā)現(xiàn)這款 200 億參數(shù)的模型表現(xiàn)極為出色，能夠完全在終端側(cè)進行思維鏈推理。eCb28資訊網(wǎng)——每日最新資訊28at.com

高通認(rèn)為這是一個關(guān)鍵轉(zhuǎn)折點：預(yù)示著 AI 的未來方向，即豐富復(fù)雜的助手式推理也將在本地實現(xiàn)。這也展現(xiàn)了 AI 生態(tài)系統(tǒng)的成熟性，合作伙伴和開發(fā)者可以利用驍龍?zhí)幚砥鳎瑢崟r采用 OpenAI 等領(lǐng)軍企業(yè)的開源創(chuàng)新成果。OpenAI 的 gpt-oss-20b 將助力終端設(shè)備利用終端側(cè)推理，帶來隱私保護和時延方面的優(yōu)勢，同時通過 AI 智能體為云端解決方案提供支持。eCb28資訊網(wǎng)——每日最新資訊28at.com

高通稱，通過提前獲取 gpt-oss-20b 模型，并結(jié)合 Qualcomm AI Stack 進行集成測試，見證了該模型的卓越能力，它能完全在終端側(cè)進行復(fù)雜推理。開發(fā)者將可通過 Hugging Face 和 Ollama 等主流平臺獲取該模型，并在搭載驍龍平臺的終端上發(fā)揮其性能。更多部署詳情即將在 Qualcomm AI Hub 上公布。eCb28資訊網(wǎng)——每日最新資訊28at.com

將 Ollama 的輕量級的開源 LLM 服務(wù)框架和強大的驍龍平臺集成，開發(fā)者和企業(yè)不僅可以直接在搭載驍龍計算平臺的終端上運行 gpt-oss-20b 模型，還能夠進行網(wǎng)頁搜索等多個默認(rèn)特性，無需額外配置。用戶也可以在 Ollama 上嘗試 Turbo 模式，以探索該模型的更多功能。eCb28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.rrqrq.com/showinfo-45-26078-0.html高通：OpenAI 最小開源模型 gpt-oss-20b 可在驍龍終端運行

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 英偉達(dá)推出全新 Cosmos 世界模型，賦予機器人推理與規(guī)劃能力

下一篇： 智譜視覺推理模型 GLM-4.5V 上線并開源，號稱“全球 100B 級效果最佳”