FMIFAwards獎項即將揭曉！
來源：X增強現實FMIF Awards未來元宇宙創新獎是由未來元宇宙創新論壇、ARinChina以及多家投資機構、媒體、研究院聯合發起的一項評選活動。旨在推動新技術的融合與集成低成本
10 月 31 日消息，當地時間 30 日，OpenAI 宣布，為了衡量語言模型的準確性，將開源一個名為 SimpleQA 的新基準，可衡量語言模型回答簡短的事實尋求（fact-seeking）問題的能力。
AI 領域中的一個開放性難題是如何訓練模型生成事實正確的回答。當前的語言模型有時會產生錯誤輸出或未經證實的答案，這一問題被稱為“幻覺”。能夠生成更準確、更少幻覺的回答的語言模型更為可靠，可以用于更廣泛的應用領域。
OpenAI 表示，目標是使用 SimpleQA 創建一個具備以下特點的數據集：
高正確性：問題的參考答案由兩名獨立的 AI 訓練師驗證，以確保評分的公正性。
多樣性：SimpleQA 涵蓋廣泛主題，從科學技術到電視節目與電子游戲應有盡有。
前沿挑戰性：與 TriviaQA（2017 年）或 NQ（2019 年）等早期基準相比，SimpleQA 更具挑戰性，尤其針對如 GPT-4o 等前沿模型（例如，GPT-4o 的得分不足 40%）。
高效用戶體驗：SimpleQA 問題與答案簡潔明了，使操作快速高效，并可通過 OpenAI API 等進行快速評分。此外，包含 4326 道問題的 SimpleQA 在評估中應具有較低的方差。
SimpleQA 將是一個簡單但具有挑戰性的基準，用于評估前沿模型的事實準確性。SimpleQA 的主要限制在于其范圍 —— 盡管 SimpleQA 準確，但它只在短查詢的受限設置中測量事實準確性，這些查詢是事實導向的，并且有一個可驗證的答案。
OpenAI 表示，模型在短回答中表現出的事實性是否與其在長篇、多事實內容中的表現相關，這仍是個懸而未決的研究課題。其希望 SimpleQA 的開源能夠進一步推動 AI 研究的發展，使模型更加可信并富有可靠性。
附有關地址：
開源鏈接：https://github.com/openai/simple-evals/
論文：https://cdn.openai.com/papers/simpleqa.pdf
本文鏈接：http://www.rrqrq.com/showinfo-45-9377-0.htmlOpenAI 開源 SimpleQA 新基準，專治大模型“胡言亂語”
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：[email protected]
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：[email protected] 津ICP備18001702號
津公網安備 12010102000574號