5 月 14 日消息，非營(yíng)利 AI 研究機(jī)構(gòu) Epoch AI 最新發(fā)布報(bào)告，指出 AI 企業(yè)難以從推理模型中，持續(xù)榨取巨大性能收益，最快在一年內(nèi)，推理模型的進(jìn)步將放緩。Y3S28資訊網(wǎng)——每日最新資訊28at.com

報(bào)告基于公開(kāi)數(shù)據(jù)和假設(shè)，強(qiáng)調(diào)了計(jì)算資源的限制和研究開(kāi)銷的增加。AI 行業(yè)長(zhǎng)期依賴這些模型來(lái)提升基準(zhǔn)表現(xiàn)，但這種依賴性正面臨挑戰(zhàn)。Y3S28資訊網(wǎng)——每日最新資訊28at.com

該機(jī)構(gòu)分析師 Josh You 指出推理模型的興起，源于其在特定任務(wù)上的出色表現(xiàn)。例如，OpenAI 的 o3 模型在最近幾個(gè)月里，主要提升數(shù)學(xué)和編程技能。Y3S28資訊網(wǎng)——每日最新資訊28at.com

而這些推理模型通過(guò)增加計(jì)算資源來(lái)解決問(wèn)題，從而提升性能，不過(guò)作為代價(jià)，這些推理模型需要更多計(jì)算來(lái)處理復(fù)雜任務(wù)，因此比傳統(tǒng)模型耗時(shí)更長(zhǎng)。Y3S28資訊網(wǎng)——每日最新資訊28at.com

Y3S28資訊網(wǎng)——每日最新資訊28at.com

注：推理模型的訓(xùn)練過(guò)程先是基于海量數(shù)據(jù)訓(xùn)練一個(gè)常規(guī)模型，然后應(yīng)用強(qiáng)化學(xué)習(xí)技術(shù)。該技術(shù)像給模型提供“反饋”一樣，幫助它優(yōu)化對(duì)難題的解決方案。這種方法推動(dòng)了 AI 的快速迭代，但也暴露了潛在的瓶頸。Y3S28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 等前沿 AI 實(shí)驗(yàn)室正加大對(duì)強(qiáng)化學(xué)習(xí)的投資。公司表示，在訓(xùn)練 o3 時(shí)，使用了約 10 倍于前代 o1 的計(jì)算資源，大部分用于強(qiáng)化學(xué)習(xí)階段。研究者 Dan Roberts 透露，OpenAI 的未來(lái)計(jì)劃將優(yōu)先強(qiáng)化學(xué)習(xí)，并投入更多計(jì)算力，甚至超過(guò)初始模型訓(xùn)練的水平。Y3S28資訊網(wǎng)——每日最新資訊28at.com

這種策略加速了模型的改進(jìn)，但 Epoch 的分析提醒，這種改進(jìn)并非沒(méi)有上限，計(jì)算資源的增加會(huì)遇到物理和經(jīng)濟(jì)約束。Y3S28資訊網(wǎng)——每日最新資訊28at.com

Josh You 在分析中詳細(xì)解釋了性能增長(zhǎng)的差異。標(biāo)準(zhǔn) AI 模型訓(xùn)練的性能目前每年翻番，而強(qiáng)化學(xué)習(xí)的性能每 3-5 個(gè)月增長(zhǎng)十倍。這種快速增長(zhǎng)可能到 2026 年與整體 AI 前沿進(jìn)展趨同。Y3S28資訊網(wǎng)——每日最新資訊28at.com

他強(qiáng)調(diào)，推理模型的規(guī)模化面臨不止計(jì)算問(wèn)題，還包括高研究開(kāi)銷：“如果研究需要持續(xù)的高開(kāi)銷，推理模型可能無(wú)法達(dá)到預(yù)期規(guī)模”。Y3S28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.rrqrq.com/showinfo-45-12882-0.htmlEpoch AI 預(yù)言：最快 1 年內(nèi)，推理模型步伐將放緩

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：[email protected]

上一篇： 通義千問(wèn) Qwen 免費(fèi)上線 AI“深入研究”：十幾分鐘完成數(shù)小時(shí)任務(wù)

下一篇： 好評(píng)機(jī)制下的“內(nèi)卷”困境，如何破解服務(wù)業(yè)的“好評(píng)焦慮”？