4 月 19 日消息，OpenAI 最新發(fā)布的 o3 和 o4-mini 模型在多個(gè)方面展現(xiàn)出業(yè)內(nèi)領(lǐng)先的水準(zhǔn)，不過，這兩款模型依然無法擺脫“幻覺”問題 —— 甚至比以往發(fā)布的模型更加嚴(yán)重。YCz28資訊網(wǎng)——每日最新資訊28at.com

據(jù)外媒 TechCrunch 今日報(bào)道，幻覺問題一直是生成式 AI 發(fā)展過程中最難解決的挑戰(zhàn)之一，即使是目前性能最優(yōu)秀的模型也難以完全避免。過去，每一代新模型在降低幻覺頻率方面通常都會取得小幅進(jìn)步，但 o3 和 o4-mini 卻打破了這一趨勢。YCz28資訊網(wǎng)——每日最新資訊28at.com

根據(jù) OpenAI 的內(nèi)部測試，作為推理模型的 o3 和 o4-mini，出現(xiàn)幻覺的頻率不僅超過了前代推理模型 o1、o1-mini 和 o3-mini，甚至還高于傳統(tǒng)“非推理”模型（注：如 GPT-4o）。YCz28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 在針對這兩款模型發(fā)布的技術(shù)報(bào)告中表示：“要弄清楚隨著推理模型規(guī)模的擴(kuò)大，幻覺問題為何反而變得更加嚴(yán)重，還需要進(jìn)一步研究。”報(bào)告指出，盡管 o3 和 o4-mini 在編程和數(shù)學(xué)等任務(wù)上的表現(xiàn)優(yōu)于以往，但由于模型輸出的答案總量增加，導(dǎo)致其既能作出更多準(zhǔn)確判斷，同時(shí)也不可避免地出現(xiàn)更多錯(cuò)誤甚至幻覺。YCz28資訊網(wǎng)——每日最新資訊28at.com

在 OpenAI 設(shè)計(jì)的內(nèi)部基準(zhǔn)測試 PersonQA 中，o3 回答問題時(shí)出現(xiàn)幻覺的比例達(dá)到 33%，幾乎是前代推理模型 o1 和 o3-mini 的兩倍，后者的幻覺率分別為 16% 和 14.8%。在同一測試中，o4-mini 的表現(xiàn)更差，幻覺率高達(dá) 48%。YCz28資訊網(wǎng)——每日最新資訊28at.com

第三方機(jī)構(gòu) Transluce 的測試也印證了這一問題。這家非營利 AI 研究實(shí)驗(yàn)室發(fā)現(xiàn)，o3 在回答問題時(shí)經(jīng)常會憑空捏造出某些“過程操作”。例如，Transluce 曾觀察到，o3 聲稱自己在一臺 2021 款 MacBook Pro 上“在 ChatGPT 之外”運(yùn)行了代碼，并將結(jié)果復(fù)制進(jìn)了答案中。實(shí)際上，雖然 o3 擁有一部分工具訪問權(quán)限，但并不具備執(zhí)行這種操作的能力。YCz28資訊網(wǎng)——每日最新資訊28at.com

OpenAI 發(fā)言人 Niko Felix 表示：“解決幻覺問題是我們一直在推進(jìn)的重點(diǎn)研究方向，我們也在不斷努力提升模型的準(zhǔn)確性與可靠性。”YCz28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.rrqrq.com/showinfo-45-12416-0.htmlOpenAI 新推理模型被曝產(chǎn)生更多“幻覺”，o3 o4-mini 性能與錯(cuò)誤率一同提升

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：[email protected]

上一篇： 創(chuàng)投熱點(diǎn)速覽：云鯨融資、霸王茶姬上市與遇見小面沖刺港股等

下一篇： 一張圖 + 一句話實(shí)現(xiàn)任意角色場景姿勢，騰訊混元宣布開源定制化圖像生成插件 InstantCharacter