當前位置：首頁 > 元宇宙 > AI

Anthropic 開源“思維追蹤”工具，可視化揭秘 AI 內(nèi)部邏輯

來源：責編：時間：2025-06-02 11:05:01 89觀看

導讀 5 月 30 日消息，Anthropic 昨日（5 月 29 日）發(fā)布博文，宣布推出“思維追蹤”（Circuit Tracer）開源工具，以圖形化方式，追蹤并展示 AI 大語言模型的內(nèi)部思維過程。該工具通過構(gòu)建“歸因圖”（Attribution Graph），幫助研究者

5 月 30 日消息，Anthropic 昨日（5 月 29 日）發(fā)布博文，宣布推出“思維追蹤”（Circuit Tracer）開源工具，以圖形化方式，追蹤并展示 AI 大語言模型的內(nèi)部思維過程。

該工具通過構(gòu)建“歸因圖”（Attribution Graph），幫助研究者可視化模型內(nèi)部運作，并支持交互式探索。這一項目由 Anthropic Fellows 程序的參與者與專注 AI 解釋性研究的 Decode Research 團隊聯(lián)合推動，旨在提升 AI 安全性。

Circuit Tracer 已在 GitHub 平臺以開源庫形式發(fā)布，研究者可通過由 Decode Research 運營的 Neuronpedia 平臺，使用交互式前端查看“歸因圖”。

用戶使用該工具，不僅能生成自定義的歸因圖，追蹤支持模型的內(nèi)部邏輯，還能對圖形進行標注、分享，甚至通過調(diào)整特征值觀察模型輸出的變化，從而驗證研究假設。

Anthropic 表示，當前對 AI 內(nèi)部結(jié)構(gòu)的理解遠遠落后于其功能進步。開源這些工具將助力更廣泛的社區(qū)深入探究語言模型的內(nèi)部運作，理解模型行為，并為工具的改進和擴展提供可能。

附上參考地址

Open-sourcing circuit tracing tools

GitHub 頁面

gemma-2-2b Attribution Graph ｜ Neuronpedia

本文鏈接：http://www.rrqrq.com/showinfo-45-13295-0.htmlAnthropic 開源“思維追蹤”工具，可視化揭秘 AI 內(nèi)部邏輯

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：[email protected]

上一篇： Yandex 發(fā)布最大音樂推薦開源數(shù)據(jù)集 Yambda

下一篇：谷歌聯(lián)合創(chuàng)始人謝爾蓋?布林：AI 顛覆搜索，從導航工具升級為洞見提供者

標簽：

熱門焦點

數(shù)字人的新革命，BAT的“沖高”戰(zhàn)場

來源：劉曠ChatGPT橫空出世，讓人們看到了數(shù)字人的另一種可能，將ChatGPT與虛擬數(shù)字人融合，研發(fā)出更加智能化、擬人化的虛擬數(shù)字人成為數(shù)字人廠商的新命題、新方向。2月份，嶺南股份
2022年的Web3：定義概念并開創(chuàng)新范式

Web3 是關(guān)于加密和區(qū)塊鏈應該如何使用的概念，因為它是加密圈的一個離散子領(lǐng)域。社區(qū)機會將呈指數(shù)級增長，擴大這些子行業(yè)的人口統(tǒng)計范圍。追求 Web3 項目的組織仍
摩根大通：元宇宙市場預計每年收入超1萬億美元

今日《元宇宙新鮮事》有：香港首屆元宇宙藝博會將于5月舉辦；NH-Amundi Asset Management上市其第二支元宇宙ETF；Meta虛擬現(xiàn)實平臺Horizon Worlds月活躍用戶在三個
索尼公布PSVR 2頭顯渲染圖；社區(qū)開發(fā)者發(fā)布Quest版《我的世界》

近日熱點：索尼正式公布PSVR 2頭顯及控制器官方渲染圖；入局元宇宙，鴻海科技與XRSPACE簽訂合作備忘錄；研究人員表示面部追蹤可增強VR操控體驗；社區(qū)開發(fā)者QuestCraft發(fā)
紐約證券交易所母公司ICE收購tZero股份以探索代幣化股票

2 月 22 日，紐約證券交易所 (NYSE) 的母公司洲際交易所 (ICE) 宣布，它將持有私人數(shù)字證券市場 tZERO 的所有權(quán)。根據(jù)公告，ICE 將成為 tZero 的“重要”少數(shù)股東，但
對諷刺無動于衷，Nori將碳市場放在區(qū)塊鏈上

當我們聊氣候問題的解決方案時，以太坊區(qū)塊鏈應該不是最首想到的，但這正是Nori所選擇的方案，它建立了一個引擎，鼓勵農(nóng)民使用負碳耕作方法，將空氣中的碳抽出并放回地
MR——元宇宙平臺的下一代入口

作為“元宇宙”的領(lǐng)頭羊，Meta的一舉一動都受到業(yè)內(nèi)的高度關(guān)注。華爾街見聞提及，2月17日周四，F(xiàn)acebook母公司Meta在透露，其混合現(xiàn)實技術(shù)（MR）將在幾年后實現(xiàn)，讓人們對元
3月份值得關(guān)注的5個NFT項目

2021年，我們見證了一個新的創(chuàng)造者經(jīng)濟的誕生。它是在區(qū)塊鏈上誕生的。自從NFT成為流行文化的中心舞臺以來，有些藝術(shù)家們已經(jīng)成為了NFT的超級明星，在幾個月的時間
我們離元宇宙的實現(xiàn)只差一副眼鏡？

近日的蘋果春季新品發(fā)布會，想必許多人都守在了屏幕前，就為等待傳說中的首款AR Glass。在發(fā)布會之前，蘋果全球營銷主管Greg Joswiak曾在Twitter上分享了一段短視頻

国产精品嫩草99av在线_一区在线视频观看_欧美高清一区_欧美日韩国产一区_99精品欧美一区二区三区_久久大香伊蕉在人线观看热2_一色屋精品视频在线观看网站_在线亚洲国产精品网站_亚洲区一区二区三区_你懂的视频一区二区

首頁

元宇宙

NFT

區(qū)塊鏈

虛擬人

AR/VR

AI

元宇宙百科

Anthropic 開源“思維追蹤”工具，可視化揭秘 AI 內(nèi)部邏輯

數(shù)字人的新革命，BAT的“沖高”戰(zhàn)場

2022年的Web3：定義概念并開創(chuàng)新范式

摩根大通：元宇宙市場預計每年收入超1萬億美元

索尼公布PSVR 2頭顯渲染圖；社區(qū)開發(fā)者發(fā)布Quest版《我的世界》

紐約證券交易所母公司ICE收購tZero股份以探索代幣化股票

對諷刺無動于衷，Nori將碳市場放在區(qū)塊鏈上

MR——元宇宙平臺的下一代入口

3月份值得關(guān)注的5個NFT項目

我們離元宇宙的實現(xiàn)只差一副眼鏡？

最新推薦

元宇宙步入暗夜

搭上“谷愛凌”，“柳夜熙們”站上風口？

江西將探索成立元宇宙聯(lián)盟，韓國將加強對NFT和元宇宙的監(jiān)管

NFTs正迎來數(shù)十億美元的繁榮--NFT零工經(jīng)濟從業(yè)者開始暴賺

趙長鵬預測SoicalFi為今年主要驅(qū)動力，新的機會在哪里？

冬奧會數(shù)字收藏品升溫，市場再現(xiàn)“一墩難求”

猜你喜歡

熱門推薦

相關(guān)資訊