ChatGPT訪問量增速下滑，AI真的是一場泡沫嗎？
來源：首席商業(yè)評(píng)論2023年，最火的莫過于ChatGPT，席卷全球的同時(shí)也引發(fā)了生成式AI（人工智能）的投資熱潮。在美股，ChatGPT相關(guān)概念股飆漲，以AI算力龍頭英偉達(dá)為例，其股價(jià)年內(nèi)一度累計(jì)上
AI 竟然可以反過來“訓(xùn)練”人類了！（震驚.jpg）
MIT 的最新研究模擬了犯罪證人訪談，結(jié)果發(fā)現(xiàn)大模型能夠有效誘導(dǎo)“證人”產(chǎn)生虛假記憶，并且效果明顯優(yōu)于其他方法。
網(wǎng)友辣評(píng)：
仔細(xì)想想，AI 誘導(dǎo)人類產(chǎn)生虛假記憶，這個(gè)現(xiàn)象其實(shí)在我們生活中已經(jīng)出現(xiàn)了！
還有網(wǎng)友說：
我覺得還挺有意思的！有種《2077》的既視感~
而馬庫斯的觀點(diǎn)也還是一如既往的悲觀：
這種發(fā)展趨勢也太可怕了！
AI 如何“訓(xùn)練”人類為了研究大模型對人類記憶的影響，團(tuán)隊(duì)找來了 200 位志愿者，并把他們平分成 4 個(gè)組：
控制變量組：志愿者直接回答問題，沒有任何干預(yù)。
調(diào)查問卷組：志愿者填寫一份調(diào)查問卷，其中 5 個(gè)為誤導(dǎo)性問題。
預(yù)先編寫的聊天機(jī)器人組：志愿者與一個(gè)預(yù)先編寫的聊天機(jī)器人互動(dòng)，機(jī)器人詢問與調(diào)查問卷相同的問題。
AI 警察組：志愿者與一個(gè)大模型進(jìn)行互動(dòng)。
規(guī)定每組人看完視頻后都要回答 25 個(gè)問題（其中 5 個(gè)為誤導(dǎo)性問題），來評(píng)估他們的正確記憶和虛假記憶的形成情況。
一周后，再讓這些志愿者回答相關(guān)問題，并將兩次的調(diào)查結(jié)果進(jìn)行對比。
最終的對比數(shù)據(jù)表明，AI 警察組的這個(gè)方法比其他組的方法更有效。
這一切都是因?yàn)樗軌蚋鶕?jù)志愿者的回答，提供即時(shí)反饋和正面強(qiáng)化。這種互動(dòng)方式可以讓志愿者更容易接受錯(cuò)誤的信息，從而增強(qiáng)虛假記憶的形成。
例如，當(dāng)志愿者錯(cuò)誤地回答問題時(shí)，AI 警察可能會(huì)肯定錯(cuò)誤的細(xì)節(jié)并給予積極的反饋，進(jìn)一步鞏固了這些錯(cuò)誤記憶。
除此之外，AI 警察還會(huì)設(shè)計(jì)出具有誤導(dǎo)性的提問，誘導(dǎo)志愿者回憶錯(cuò)誤的細(xì)節(jié)。
例如，AI 警察可能會(huì)詢問“搶劫者是否開車到達(dá)商店”，而實(shí)際上搶劫者是步行到達(dá)的。這種誤導(dǎo)性問題直接影響了志愿者的記憶重構(gòu)過程。
實(shí)驗(yàn)中，大模型成功“訓(xùn)練”了人類。
實(shí)驗(yàn)結(jié)果表明：AI 警察組誘導(dǎo)的虛假記憶，大概是控制變量組的 3 倍，而且比調(diào)查問卷組和預(yù)先編寫的聊天機(jī)器人組分別高出 1.7 倍和 1.4 倍。
不僅如此，AI 警察和志愿者的所有互動(dòng)都提高了他們對虛假記憶的信心，信心水平是控制變量組的兩倍。
就算是過了一周的時(shí)間，那些和 AI 警察聊過天的志愿者還是把這些虛假記憶記得清清楚楚，植入的記憶持久性很強(qiáng)。
研究人員還發(fā)現(xiàn)，實(shí)驗(yàn)中對大模型不太熟悉但對 AI 技術(shù)較為熟悉的志愿者，和對犯罪調(diào)查感興趣的志愿者，更容易受到虛假記憶的影響，個(gè)體差異在虛假記憶的形成中的重要作用。
他們還強(qiáng)調(diào)，人類的記憶并不是一個(gè)簡單的回放過程，而是一個(gè)構(gòu)建性過程，容易受到外部信息的影響。
大模型通過引入錯(cuò)誤信息，利用這一特性來改變用戶的記憶，植入新的記憶，從而使其相信虛假的細(xì)節(jié)。
參考鏈接：https://www.media.mit.edu/projects/ai-false-memories/overview/
論文地址：https://arxiv.org/pdf/2408.04681
項(xiàng)目地址：https://github.com/mitmedialab/ai-false-memories/tree/main
本文來自微信公眾號(hào)：量子位（ID：QbitAI），作者：叨樂，原標(biāo)題《當(dāng)心 AI 給你“洗腦”！MIT 最新研究：大模型成功給人類植入錯(cuò)誤記憶，馬庫斯：太可怕》
本文鏈接：http://www.rrqrq.com/showinfo-45-6899-0.html當(dāng)心 AI 給你“洗腦”，MIT 最新研究顯示大模型成功給人類植入錯(cuò)誤記憶
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：[email protected]
上一篇： 商湯科技：目前投建的 AI 算力集群已擁有 5.4 萬張 GPU，最高算力達(dá) 2 萬 P
下一篇： 螞蟻集團(tuán) AI 金融管家“螞小財(cái)”全新亮相，月活用戶數(shù)達(dá) 7000 萬
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：[email protected] 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)