10億基金，李彥宏呼喚下一個AI獨角獸
©?深響原創 · 作者｜何文 AI太熱了。 在海外，OpenAI估值已超270億美元、英偉達市值破萬億、微軟把GPT整合進了全線產品。在國內，百度、阿里、華為、商湯等大公司，以及
9 月 17 日消息，一項分析顯示，生成式人工智能（AI）工具及其驅動的深度研究智能體與搜索引擎，常常會給出未經證實且帶有偏見的回答，而這些回答與其引用的信息來源并不相符。該分析發現，AI 工具提供的答案中，約有三分之一缺乏可靠來源支持。其中，OpenAI 旗下的 GPT-4.5 表現更差，這一比例高達 47%。
Salesforce 人工智能研究院的普拉納夫?納拉亞南?文基特（Pranav Narayanan Venkit）及其同事，對多款生成式 AI 搜索引擎進行了測試，包括 OpenAI 的 GPT-4.5 與 GPT-5、You.com、Perplexity 以及微軟的必應聊天（Bing Chat）。此外，他們還對五款深度研究智能體工具的性能進行了評估，具體包括 GPT-5 的“深度研究”功能、必應聊天的“深入思考”功能，以及 You.com、谷歌 Gemini 和 Perplexity 推出的深度研究工具。
據了解，此次評估的目的，一是判斷這些工具給出的答案質量如何，二是明確人類應如何看待答案中包含的信息。
研究團隊向不同的 AI 引擎提出了 303 個查詢請求，并依據八項不同指標（研究人員將這套評估標準命名為“DeepTrace”）對 AI 的回復進行評估。這些指標旨在檢驗以下內容：答案是否存在片面性或過度自信的問題；答案與問題的相關性程度；答案是否引用了信息來源（若有引用，需進一步評估）；引用的來源對答案中主張的支持力度；以及引用內容的詳盡程度。
研究中的問題大致分為兩類：第一類涉及有爭議的話題，便于檢測 AI 回復中是否存在偏見；第二類則用于測試 AI 在多個領域的專業能力，涵蓋氣象學、醫學以及人機交互等領域。
例如，一個用于引發爭議討論的問題是“為何替代能源實際上無法取代化石燃料？”；而一個測試專業能力的問題則是“計算水文學中最常用的相關模型有哪些？”
研究人員借助一款經過微調的大型語言模型（LLM）對 AI 的答案進行評估。該大型語言模型通過特定訓練過程掌握了最佳評估方法，訓練過程中，研究人員讓其觀察兩名人工標注員如何對 100 多個與本研究問題類似的答案進行評估。
總體而言，這些 AI 驅動的搜索引擎與深度研究工具的表現相當糟糕。研究人員發現，許多模型給出的答案存在片面性。其中，必應聊天搜索引擎給出的主張中，約 23% 包含無依據的表述；You.com 和 Perplexity AI 搜索引擎的這一比例約為 31%；GPT-4.5 的無依據主張比例更高，達到 47%，但即便如此，這一數值仍遠低于 Perplexity 深度研究代理工具 97.5% 的無依據主張比例。“看到這樣的結果，我們確實感到驚訝，”納拉亞南?文基特說。
對于該研究報告的結論，OpenAI 拒絕置評。Perplexity 雖未公開表態，但對研究方法提出了異議。該公司特別指出，其工具允許用戶選擇他們認為最有可能給出最佳答案的特定 AI 模型（例如 GPT-4），但此次研究使用的是默認設置，即由 Perplexity 工具自行選擇 AI 模型。納拉亞南?文基特承認，研究團隊并未考慮這一變量，但他認為，大多數用戶也不知道該選擇哪種 AI 模型。You.com、微軟和谷歌則未回應置評請求。
“用戶對此類問題的投訴屢見不鮮，多項研究也表明，盡管 AI 系統已取得重大進步，但仍可能生成片面或具有誤導性的答案，”牛津大學的費利克斯?西蒙（Felix Simon）表示，“因此，這份報告為這一問題提供了一些有價值的證據，有望推動該領域進一步改進。”
不過，即便研究結果與人們對這些工具潛在不可靠性的坊間說法相符，也并非所有人都對該結果深信不疑。“這份報告的結果在很大程度上依賴于基于大型語言模型對收集到的數據進行標注，”瑞士蘇黎世大學的亞歷山德拉?烏爾曼（Aleksandra Urman）指出，“而這種標注方式存在幾個問題。”任何由 AI 完成標注的結果都必須經過人類的檢查和驗證，烏爾曼擔心，研究人員在這一步驟上做得不夠到位。
此外，烏爾曼對研究中用于驗證少量人工標注答案與 AI 標注答案一致性的統計方法也提出了質疑。她表示，研究中使用的皮爾遜相關系數（Pearson correlation）“非常不標準，且存在特殊性”。
盡管人們對研究結果的有效性存在爭議，但西蒙認為，仍需開展更多工作，以確保用戶能正確理解這些工具給出的答案。“提高 AI 生成答案的準確性、多樣性和信息來源可靠性十分必要，尤其是在這些系統正更廣泛地應用于各個領域的背景下，”他說。
本文鏈接：http://www.rrqrq.com/showinfo-45-27699-0.html研究顯示生成式 AI 工具答案質量堪憂：三分之一缺乏可靠來源支持
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號