8 月 27 日消息,科技媒體 NeoWin 昨日(8 月 26 日)發(fā)布博文,報道稱 Anthropic 以限量研究預覽方式,發(fā)布了適用于谷歌 Chrome 瀏覽器的“Claude for Chrome”擴展程序,可在用戶授權下,直接在網(wǎng)頁中代為執(zhí)行操作,包括導航頁面、點擊按鈕以及填寫在線表單,從而減少人工重復操作的負擔。
附上演示視頻如下:
Anthropic 官方提供了 2 個實際應用場景,其一是用戶可授予 Claude 訪問 Gmail 的權限,并讓它篩查過去兩個月已發(fā)送但未獲回復的郵件,再自動撰寫和發(fā)送跟進郵件。
另一種用法是在房地產(chǎn)網(wǎng)站上,用戶只需用文字描述需求,Claude 即可自動設置篩選條件并返回符合要求的優(yōu)質房源。
Anthropic 也強調這種自動化能力也帶來安全隱患,尤其是提示注入攻擊的風險。如果 Claude 被賦予讀取和回復郵件權限,攻擊者可在郵件正文中隱藏惡意指令(例如要求轉發(fā)財務郵件至特定地址),Claude 可能會在不經(jīng)意間執(zhí)行,從而造成數(shù)據(jù)泄露甚至觸發(fā)刪除文件、進行金融交易等嚴重后果。
為降低風險,Anthropic 在擴展中引入了多項安全控制。用戶可在設置中按站點授予或撤銷訪問權限;在執(zhí)行發(fā)布、購買、分享個人數(shù)據(jù)等高風險操作前,Claude 會征求確認。
Anthropic 還針對提示注入漏洞實施了技術緩解措施,并聲稱與現(xiàn)有的“電腦使用”功能相比,Claude for Chrome 將攻擊成功率從 23.6% 降低至 11.2%。
該擴展目前向首批 1000 名 Claude Max 訂閱用戶開放申請,并將根據(jù)反饋逐步擴大范圍。官方建議用戶暫勿將其用于金融交易、密碼管理或其他涉及敏感數(shù)據(jù)的任務。
本文鏈接:http://www.rrqrq.com/showinfo-45-27059-0.htmlClaude for Chrome 擴展限量測試:可 AI 操控瀏覽器,幫你寫郵件、找房
聲明:本網(wǎng)頁內容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com