風口已至，多領域平臺融入社交元素！
在眾多領域平臺中，社交元素都扮演著重要角色，如直播營銷帶貨、線上配對聽歌、游戲局內互動等。隨著元宇宙時代的來臨，社交產品不斷升級，社交元素推動流量變現，多平臺領域融入社交
6 月 25 日消息，最新發表在 arXiv 的研究論文指出，包括 GPT-4V、GPT-4o 和 Gemini 1.5 在內的大部分主流多模態 AI 模型，處理用戶的多模態輸入（例如一起輸入圖片和文本內容）之后，輸出結果并不安全。
這項研究標題為《跨模態安全調整》（Cross-Modality Safety Alignment），提出了一個全新的“安全輸入但不安全輸出”（SIUO），涉及道德、危險行為、自殘、侵犯隱私、信息誤讀、宗教信仰、歧視和刻板印象、爭議性話題以及非法活動和犯罪等 9 個安全領域。
研究人員說，大型視覺語言模型（LVLM）在接收多模態輸入時很難識別 SIUO 類型的安全問題，在提供安全響應方面也遇到困難。
在接受測試的 15 個 LVLM 中，只有 GPT-4v（53.29%）、GPT-4o（50.9%）和 Gemini 1.5（52.1%）的得分高于 50%。
研究人員表示為了解決這個問題，需要開發 LVLM，以便將所有模式的見解結合起來，形成對情景的統一理解。它們還需要能夠掌握和應用現實世界的知識，如文化敏感性、道德考慮因素和安全隱患等。
研究人員還指出，LVLMs 需要能夠通過對圖像和文本信息的綜合推理，理解用戶的意圖，即使文本中沒有明確說明。
附上參考地址
Cross-Modality Safety Alignment
SIUO
本文鏈接：http://www.rrqrq.com/showinfo-45-4815-0.html15 個 AI 模型只有 3 個得分超 50%，SIUO 跑分被提出：評估多模態 AI 模型的安全性
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：[email protected]
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：[email protected] 津ICP備18001702號
津公網安備 12010102000574號