盧偉冰長文解析K60至尊版 對Redmi有著里程碑式的意義
在今天的Redmi后性能時代戰略發布會結束之后，Redmi總經理盧偉冰又帶來了一篇長文，詳解了為什么 Redmi 要開啟后性能時代？為什么選擇和 MediaTek、Pixelworks 深度合作？以及后性
12月4日消息，麥肯錫最新研究表明，GenAI（Generative AI，生成式AI）每年對全球經濟的貢獻將達7.9萬億美元。GenAI不僅對全球經濟產生重要影響，也為各個行業帶來變革機遇。
隨著GenAI在各行各業的影響力更加深入，關于GenAI的安全性問題也受到更多關注。
在亞馬遜云科技在2023 re:Invent全球大會上，亞馬遜首席安全官Steve Schmidt從兩個角度闡述了GenAI和LLMs（Large Language Models，大型語言模型）與企業信息安全之間的關系。
亞馬遜首席安全官Steve Schmidt
Steve Schmidt一方面強調，LLMs和GenAI是幫助安全人員改善安全成果的最新工具；另一方面，他又對如何安全使用GenAI服務提出了經典的“三連問”，并通過自答的方式，細致闡述了亞馬遜云科技在打造GenAI服務時如何確保服務的安全性。
把GenAI作為工具，改善提效安全人員工作
和其他行業一樣，在安全領域，LLMs和GenAI可以幫助安全人員改善、提效安全工作，Steve Schmidt表示，GenAI就是亞馬遜團隊用來幫助客戶更有效地工作、同時提高安全標準的又一種工具。
在2023 re:Invent上，Steve Schmidt正式宣布，亞馬遜推出了2款GenAI驅動的安全服務新功能。
新功能一：Amazon Inspector的新功能使用機器學習模型和自動推理來幫助用戶識別代碼漏洞，并提供修復漏洞的代碼補丁的指導。開發人員驗證了Amazon Inspector所提議的代碼功能符合要求之后，就可以合并代碼，快速有效地解決安全問題。
Steve Schmidt向TechWeb強調，GenAI驅動的Amazon Inspector能做的不止是指出不正確的代碼，并且還會直接給出開發者所需要的正確代碼。這是一個非常強大的能力，可以加速開發者的速度，也能訓練他們如何編寫安全的代碼。
新功能二：Amazon Detective的新功能是一項調查潛在安全問題的服務能力，可幫助客戶分析、調查并快速確定安全發現或可疑活動的根本原因。
Amazon Detective使用GenAI來創建關于安全威脅或入侵的技術指標的文本描述，人類工程師的角色則是確認機器的分析是否正確，這樣可以幫助安全工程師提高工作效率，讓他們更高效，且更享受他們的工作。在以前，這項工作需要具備特定專業知識的安全工程師才能完成，他們需要手動編寫報告并詳細說明發生了哪些事情。
Steve Schmidt強調，“亞馬遜的所有代碼在進入生產階段之前都要經過審查，多年來我們進行的大量代碼審查和龐大的代碼庫規模使我們能夠有效地訓練和精細調整這個模型服務，最近亞馬遜開始使用定制的大型語言模型來加速代碼審查。”
如何安全的使用GenAI服務？
隨著人工智能的每一次創新，都會出現新的挑戰和機遇。對于安全團隊來說，幫助企業理解這些創新飛躍帶來的利益和風險是非常重要的。
“當業務部門確定AI將幫助他們實現特定目標時，有三個重要問題有助于塑造安全需求與業務工作流的一致性。我建議你們在自己的環境中考慮這三個問題。”Steve Schmidt表示。
問題一：“Where is our data ?”（我們的數據在哪里？）
Steve Schmidt將這個問題進一步進行了拆解：如果你正在用你的公司數據訓練大型語言模型，模型是如何訪問那些數據的？在訓練過程中，你能否保持數據在傳輸和靜止時的加密，以及你如何驗證這一點正在發生？用于訪問該數據的權限是否已被限制為盡可能最少？
你和你的團隊還需要探索你們正在使用的模型的隔離級別。如果你為了獲得更相關的結果而向模型提供公司數據，其他人是否能夠看到你數據的片段？
問題二：“What happens with my query and with any associated data?”（當查詢和任何相關數據會發生什么？）
“查詢本身也可能是敏感的，應該是你的數據保護計劃的一部分。”Steve Schmidt強調。
當用戶開始向GenAI大型語言模型提問時，他們發出的查詢中往往會添加更多細節和具體要求，這會帶來更好的結果。但是，如果你的員工查詢了AI聊天機器人，那么這次查詢的輸出和員工對結果的反應，是否也會被用于訓練模型？
問題三：Is the output of the generative AI models accurate enough? （GenAI模型的輸出是否足夠準確？）
Steve Schmidt指出，大型語言模型生成“非確定性”的輸出，這是該技術的一個重要特征。
大模型可以識別大量不同的問題，其中一些問題可能是工程師沒有注意到的；大模型也可能無法識別每個可能的安全問題，因此不能成為唯一識別問題的方式。要理解GenAI的局限性。
“如果有人告訴你他們的GenAI能力可以完全替代你的安全工程師，請保持懷疑。” Steve Schmidt說道，安全團隊不能將所有決策權交給AI，更合適的方法是，用大模型幫助有才華的工程師更有效率、更有效地工作。
“這三個問題：‘我們的數據在哪里？’、‘我的查詢及相關數據會發生什么？’、‘這些模型的輸出是否足夠準確？’指導了我們的安全團隊如何思考GenAI和大語言模型服務，以及亞馬遜內部業務人員使用這些工具的方式。”Steve Schmidt總結道：“任何一家企業在使用GenAI服務時都要搞清楚這3個問題。在我們看來，客戶應該控制自己的數據并能夠以安全可靠的方式使用自己選擇的模型。這也是Amazon Bedrock為客戶提供私有定制基礎模型的原因。”
據介紹，亞馬遜云科技提供的Amazon Bedrock有兩個組成部分，底層基礎模型，它是在大量數據上訓練的，但它不一定適合于所在企業的工作方式。所以通過定制化能力，讓企業客戶用自己的訓練數據來微調模型，這個訓練內容是企業自己的，不會被放回基礎模型中，也不會與第三方模型開發者共享。
Amazon Bedrock是亞馬遜云科技于今年4月發布的一項全面托管的服務，通過它，企業用戶可以通過API等方式輕松訪問包括亞馬遜云科技自研的Titan系列模型和眾多主流第三方大模型。截至目前，Amazon Bedrock提供的基礎模型包括Amazon Titan的5款模型、Anthropic Claude 2.1、Meta Llama 2 70B、Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多語言模型等。
本文鏈接：http://www.rrqrq.com/showinfo-21-38303-0.html關于安全使用GenAI 亞馬遜首席安全官給出經典“三問”
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：[email protected]
上一篇： 微信公眾號部分軟文被彈窗提示
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：[email protected] 津ICP備18001702號
津公網安備 12010102000574號