12月19日消息，美國當地時間周一，人工智能研究公司OpenAI表示，即使公司領導層認為人工智能（AI）模型足夠安全，其董事會也可以選擇推遲發布。這是該公司授權其董事加強尖端技術開發安全保障措施的另一個明顯跡象。15F28資訊網——每日最新資訊28at.com

周一發布的一套指導方針詳細說明了這一決策流程，并解釋了OpenAI計劃如何應對其最強大人工智能系統可能帶來的極端風險。該指導方針發布前，OpenAI首席執行官薩姆·奧特曼（Sam Altman）曾被董事會短暫罷免，公司經歷了一段動蕩時期，這使得董事和公司高管之間的權力平衡成為人們關注的焦點。15F28資訊網——每日最新資訊28at.com

OpenAI最近組建的“準備”（Preparedness）團隊表示，它將繼續評估公司的人工智能系統，以確定它們在四個不同類別中的表現，包括潛在的網絡安全問題以及化學武器、核武器以及生物武器威脅，并努力減少該技術可能造成的任何危害。具體來說，OpenAI正在監控所謂的“災難性”風險，它在指導方針中將其定義為“任何可能導致數千億美元經濟損失或導致許多人受到嚴重傷害或死亡的風險”。15F28資訊網——每日最新資訊28at.com

亞歷山大·馬德里（Aleksander Madry）是“準備”團隊的負責人，目前正在麻省理工學院休假。他稱，該團隊將向一個新的內部安全咨詢小組發送月度報告，后者隨即將分析馬德里團隊的工作，并向奧特曼和公司董事會提交建議。在奧特曼被短暫解雇后，公司董事會進行了全面改革。根據這份文件，奧特曼及其領導團隊可以根據這些報告決定是否發布新的人工智能系統，但董事會有權否決他們的決定。15F28資訊網——每日最新資訊28at.com

OpenAI在10月份宣布成立“準備”團隊，使其成為該公司監督人工智能安全的三個獨立團隊之一。另外兩個團隊分別是“安全系統”團隊，著眼于當前的產品，如GPT-4，以及“超級對齊”（Superalignment）團隊，專注于未來可能存在的極其強大的人工智能系統。15F28資訊網——每日最新資訊28at.com

馬德里表示，他的團隊將反復評估OpenAI最先進的、尚未發布的人工智能模型，根據不同類型的感知風險將它們評為“低等”、“中等”、“高等”或“關鍵”。該團隊還將做出改變，希望減少他們在人工智能中發現的潛在危險，并衡量其有效性。根據新的指導方針，OpenAI將只推出危險評級為“中等”或“低等”的模型。15F28資訊網——每日最新資訊28at.com

馬德里還希望其他公司也能使用OpenAI的指導方針來評估其人工智能模型的潛在風險。他說，這些指導方針是OpenAI之前在評估已發布人工智能技術時遵循的許多流程的正規化。他和他的團隊在過去幾個月里提出了許多細節，并從OpenAI內部其他人那里得到了反饋。15F28資訊網——每日最新資訊28at.com

本文鏈接：http://www.rrqrq.com/showinfo-21-49469-0.htmlOpenAI發布安全指南：董事會有權阻止CEO發布新款AI模型

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：[email protected]

上一篇： 調查：58%受訪者支持特斯拉瑞典機械工程師罷工

下一篇： 網易王怡：未成年人保護工作始終是網易游戲的核心考核指標