AI界地震！美國對OpenAI展開調查！監管風暴來襲！
來源：清元宇宙還記得5月OpenAI在國會山聽證會上的自信、坦誠、游刃有余的問答嗎？那時的Sam Altman可謂意氣風發，在耐心、友好的國會議員面前，就AI立法、大模型安全性問題侃侃而
7 月 11 日消息，紐約時報昨日（7 月 10 日）發布博文，報道稱 AI 生成的兒童性剝削材料（CSAM）正在互聯網上泛濫。
互聯網觀察基金會（IWF）和美國失蹤與被剝削兒童國家中心的研究人員發出警告，這種新型 AI 生成的 CSAM 幾乎與真實內容難以區分。
IWF 報告指出在 2024 年上半年，僅發現 2 個 AI 生成的 CSAM 內容，而在 2025 年上半年，發現了 1286 個 AI 生成視頻，而且這些生成的視頻具備很高質量，很難與真實內容區分。附上截圖如下：
美國失蹤與被剝削兒童國家中心也證實了這一數據，今年上半年收到了 485000 份關于 AI 生成 CSAM 的報告，而 2024 年全年僅為 67000 份。
互聯網觀察基金會的臨時首席執行官德里克?雷-希爾表示：“這是一個警示信號。我們正面臨一場真正的海嘯。”隨著技術的不斷進步，這些視頻和圖片變得越發逼真。
這些內容通常通過暗網進行傳播，讓執法機構難以追蹤犯罪者。值得注意的是，AI 圖像生成器的工作原理是使用真實的圖像和視頻進行訓練。
《紐約時報》指出，這些新出現的 AI 生成內容中，有很大一部分是重新利用真實 CSAM 內容訓練而來的，有些材料甚至使用了從學校網站和社交媒體上抓取的兒童真實照片。
本文鏈接：http://www.rrqrq.com/showinfo-45-14497-0.html兒童性剝削材料監管新挑戰，逼真 AI 視頻肆虐網絡
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號