虛擬人再升級，企業(yè)可以解放雙手了？
來源：伯虎財經(jīng)今天想跟大家來嘮嘮AI，其實聊到這個話題很多人都不陌生了。在ChatGPT和AIGC大熱背后，還有一位低調(diào)的“大佬”——虛擬人。比如咱們熟知的虛
OpenAI近期在其官方渠道宣布了一項重要更新，旨在加強對前沿人工智能（AI）技術潛在風險的監(jiān)控與應對。4月16日，這家科技巨頭發(fā)布了一份新版《準備框架》，該框架是OpenAI內(nèi)部用于評估AI模型安全性的核心系統(tǒng)，旨在確保在開發(fā)和部署過程中能夠識別并緩解潛在風險。
新版的《準備框架》采用了更為聚焦的方法，不僅強化了風險最小化的要求，還為組織如何評估、治理和公開披露安全措施提供了明確的指導。OpenAI承諾，隨著技術的不斷進步，將持續(xù)投入更多資源，以增強準備工作的行動力、嚴謹性和透明度，確保AI技術的安全發(fā)展。
該框架通過一套結構化的風險評估流程，為高風險AI能力設定了清晰的優(yōu)先級標準。每一項前沿能力都將根據(jù)既定的標準進行分類，并追蹤其是否符合五項關鍵標準。這一流程旨在判斷某項AI能力是否可能導致嚴重危害，從而采取相應的預防措施。
新版框架還引入了更為細化的能力分類，包括追蹤類別、網(wǎng)絡安全能力以及AI自我改進能力等。OpenAI認為，這些領域將帶來AI在科學、工程和研究領域的最具變革性的益處，但同時也需要更加密切的關注和監(jiān)管。
除了上述分類外，框架還新增了研究類別，涵蓋了那些可能造成嚴重危害但尚未達到追蹤標準的領域，如長距離自主性、故意低表現(xiàn)以及自主復制與適應等。這些新增的研究類別為OpenAI提供了更為全面的視角，以識別和應對潛在的AI風險。
在能力等級方面，新版框架進行了簡化，將能力等級劃分為“高能力”和“關鍵能力”兩個門檻。無論AI能力屬于哪個等級，在開發(fā)和部署前都需要采取充分的安全措施，以降低可能帶來的嚴重危害風險。這一舉措確保了OpenAI在AI技術的開發(fā)和部署過程中始終保持高度的警惕性和責任感。
為了確保安全措施的有效性和可行性，OpenAI內(nèi)部的安全顧問小組將對這些措施進行審查，并向領導層提出專業(yè)建議?？蚣苓€引入了可擴展的評估機制，支持更頻繁的測試，并通過詳細的Safeguards Reports報告安全措施的設計強度和驗證效果。這一機制確保了OpenAI在應對AI風險時能夠保持高度的靈活性和適應性。
值得注意的是，如果其他AI開發(fā)者發(fā)布了缺乏同等安全措施的高風險系統(tǒng)，OpenAI可能會調(diào)整自身的要求。但在做出任何調(diào)整之前，OpenAI將先確認風險形勢的變化，并公開承認調(diào)整，以確保不會增加整體風險。這一舉措體現(xiàn)了OpenAI在AI技術發(fā)展和安全監(jiān)管方面的責任感和擔當。
本文鏈接：http://www.rrqrq.com/showinfo-45-12288-0.htmlOpenAI升級《準備框架》，細化AI風險分類強化安全措施
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：[email protected]
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯(lián)系：[email protected] 津ICP備18001702號
津公網(wǎng)安備 12010102000574號