近日，2024年度上海市科學(xué)技術(shù)獎(jiǎng)的獲獎(jiǎng)名單正式揭曉，上海交通大學(xué)與螞蟻集團(tuán)攜手合作的項(xiàng)目《復(fù)雜對(duì)抗場(chǎng)景下的網(wǎng)絡(luò)媒體內(nèi)容安全檢測(cè)關(guān)鍵技術(shù)與應(yīng)用》榮獲科技進(jìn)步獎(jiǎng)一等獎(jiǎng)。這一殊榮標(biāo)志著該項(xiàng)目在內(nèi)容安全檢測(cè)領(lǐng)域取得了國(guó)際先進(jìn)水平，特別是AIGC檢測(cè)等技術(shù)更是達(dá)到了國(guó)際領(lǐng)先。4zg28資訊網(wǎng)——每日最新資訊28at.com

在此次獎(jiǎng)項(xiàng)的核心技術(shù)評(píng)審中，以中國(guó)工程院院士王耀南領(lǐng)銜的專家委員會(huì)給予了高度評(píng)價(jià)。他們認(rèn)為，該技術(shù)整體表現(xiàn)卓越，尤其在復(fù)雜對(duì)抗場(chǎng)景下，展現(xiàn)出了強(qiáng)大的檢測(cè)能力和創(chuàng)新性。4zg28資訊網(wǎng)——每日最新資訊28at.com

4zg28資訊網(wǎng)——每日最新資訊28at.com

在頒獎(jiǎng)現(xiàn)場(chǎng)，上海交通大學(xué)與螞蟻集團(tuán)的代表，蔣興浩與王維強(qiáng)，共同見(jiàn)證了這一榮耀時(shí)刻。隨著生成式人工智能和大模型的快速發(fā)展，雖然內(nèi)容生成技術(shù)日益智能化，但也帶來(lái)了諸多挑戰(zhàn)，如價(jià)值觀偏離、意識(shí)形態(tài)沖突以及道德規(guī)范問(wèn)題等。這些問(wèn)題對(duì)互聯(lián)網(wǎng)信息的健康傳播和網(wǎng)絡(luò)有害信息的治理構(gòu)成了嚴(yán)峻挑戰(zhàn)。4zg28資訊網(wǎng)——每日最新資訊28at.com

面對(duì)這一挑戰(zhàn)，上海交通大學(xué)與螞蟻集團(tuán)等團(tuán)隊(duì)共同研發(fā)了一系列關(guān)鍵技術(shù)，旨在應(yīng)對(duì)大模型時(shí)代復(fù)雜對(duì)抗場(chǎng)景下的內(nèi)容安全治理難題。這些技術(shù)包括多模理解、AI鑒真、異常推理和多模文檔解析等，為內(nèi)容安全治理提供了新的模式和思路。4zg28資訊網(wǎng)——每日最新資訊28at.com

上海交通大學(xué)副校長(zhǎng)蔣興浩表示，項(xiàng)目組的多家單位研發(fā)團(tuán)隊(duì)緊密合作，共同探索如何保護(hù)人工智能時(shí)代的信息內(nèi)容安全。他們不僅解答了這一難題，還積極引領(lǐng)了生成式人工智能時(shí)代的內(nèi)容安全治理新模式。4zg28資訊網(wǎng)——每日最新資訊28at.com

該項(xiàng)目在技術(shù)創(chuàng)新方面取得了顯著成果，解決了傳統(tǒng)檢測(cè)模型泛化難題、異常樣本采集挑戰(zhàn)、隱晦內(nèi)容檢測(cè)以及多變博弈攻擊等核心問(wèn)題。具體而言，他們提出了基于思維鏈的多模態(tài)大模型幻覺(jué)緩解技術(shù)，研發(fā)了可控多模態(tài)數(shù)據(jù)智能生成方法，研制了網(wǎng)絡(luò)媒體內(nèi)容安全監(jiān)測(cè)一體化解決方案，并提出了基于對(duì)抗與溯源的模型安全防護(hù)技術(shù)。4zg28資訊網(wǎng)——每日最新資訊28at.com

這些技術(shù)創(chuàng)新不僅顯著提升了內(nèi)容安全領(lǐng)域復(fù)雜攻擊下的防控效果和效率，還為互聯(lián)網(wǎng)上有害信息的治理帶來(lái)了突破性進(jìn)展。同時(shí)，這些技術(shù)也為AI技術(shù)在更廣泛領(lǐng)域的應(yīng)用提供了強(qiáng)有力的支撐。4zg28資訊網(wǎng)——每日最新資訊28at.com

據(jù)了解，該項(xiàng)目已經(jīng)獲得了41項(xiàng)發(fā)明專利、1項(xiàng)國(guó)標(biāo)和1項(xiàng)地標(biāo)、10項(xiàng)軟件著作權(quán)以及118篇論文的發(fā)表。該項(xiàng)目已經(jīng)應(yīng)用于多個(gè)平臺(tái)的內(nèi)容安全業(yè)務(wù)防控中，取得了顯著的成效。其中，AIGC安全檢測(cè)等技術(shù)已經(jīng)服務(wù)于支付寶的內(nèi)容相關(guān)業(yè)務(wù)，實(shí)現(xiàn)了對(duì)不良內(nèi)容的高效識(shí)別與攔截，確保了平臺(tái)內(nèi)容的健康與安全。4zg28資訊網(wǎng)——每日最新資訊28at.com

螞蟻安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)表示，在國(guó)家網(wǎng)絡(luò)安全戰(zhàn)略的指引下，螞蟻集團(tuán)通過(guò)產(chǎn)學(xué)研合作，研發(fā)了包括隱晦推理、AIGC識(shí)別等核心技術(shù)，構(gòu)建了互聯(lián)網(wǎng)信息安全智能治理體系。這一體系不僅為海量創(chuàng)作者提供了安全可信的創(chuàng)作環(huán)境，還通過(guò)持續(xù)迭代的模型能力，筑牢了風(fēng)險(xiǎn)屏障。未來(lái)，螞蟻集團(tuán)將繼續(xù)投入安全科技，深耕可信AI技術(shù)研發(fā)，推動(dòng)網(wǎng)絡(luò)安全智能化進(jìn)程。4zg28資訊網(wǎng)——每日最新資訊28at.com

舉報(bào) 0收藏 0打賞 0評(píng)論 0分享 0    更多>同類資訊中國(guó)電信欒曉維：云網(wǎng)智融戰(zhàn)略引領(lǐng)，賦能百業(yè)轉(zhuǎn)型新篇章在主論壇上，中國(guó)電信集團(tuán)有限公司副總經(jīng)理欒曉維發(fā)表題為《云網(wǎng)智融，賦能百業(yè)》的主旨演講，分享了中國(guó)電信在基礎(chǔ)設(shè)施升級(jí)、智能云體系建設(shè)、AI普惠向善方面的實(shí)踐成果。 在此次大會(huì)上，中國(guó)電信發(fā)布了人工智能算力優(yōu)化…08-26智慧農(nóng)業(yè)云平臺(tái)：以數(shù)據(jù)為翼，引領(lǐng)農(nóng)業(yè)精準(zhǔn)決策新時(shí)代智慧農(nóng)業(yè)云平臺(tái)能根據(jù)土壤實(shí)時(shí)墑情、未來(lái)天氣預(yù)報(bào)和作物需水規(guī)律，自動(dòng)計(jì)算出最佳灌溉時(shí)間與水量，實(shí)現(xiàn)按需供水，節(jié)水效率提升可達(dá)30%以上。云飛科技近年來(lái)在農(nóng)業(yè)物聯(lián)網(wǎng)與云平臺(tái)研發(fā)方面持續(xù)投入，其推出的智能監(jiān)測(cè)設(shè)備與…08-265G-A至6G躍遷：中國(guó)AI大模型引領(lǐng)全球通信新篇章啵特叮咚有限公司在 6G 技術(shù)預(yù)研上布局量子通信、太赫茲通信和空天地一體化網(wǎng)絡(luò)架構(gòu)，其 “通信認(rèn)知大模型”具備多模態(tài)業(yè)務(wù)識(shí)別、網(wǎng)絡(luò)自愈與優(yōu)化、能耗動(dòng)態(tài)調(diào)節(jié)等能力，在多地測(cè)試中效果顯著。 啵特叮咚有限公司的 …08-26王國(guó)棟院士：人工智能引領(lǐng)鋼鐵行業(yè)轉(zhuǎn)型升級(jí)，邁向綠色未來(lái)王國(guó)棟舉例說(shuō)，鐵前系統(tǒng)全面應(yīng)用煉鐵大數(shù)據(jù)與人工智能，面向“料場(chǎng)、燒結(jié)、球團(tuán)、高爐、能源”等關(guān)鍵環(huán)節(jié)，建立實(shí)時(shí)監(jiān)測(cè)與智能感知系統(tǒng)，開(kāi)發(fā)高爐關(guān)鍵參數(shù)預(yù)測(cè)和多目標(biāo)優(yōu)化模型，實(shí)現(xiàn)全過(guò)程精細(xì)化調(diào)控，實(shí)現(xiàn)節(jié)能降碳、降本增…08-26蘋果推出RLCF技術(shù)：以大模型為導(dǎo)師，強(qiáng)化小模型復(fù)雜指令執(zhí)行能力IT之家注：RLCF 的全稱為 Reinforcement Learning from ChecklistFeedback，不同于傳統(tǒng)的“人類反饋強(qiáng)化學(xué)習(xí)”（RLHF）依賴人工點(diǎn)贊 / 點(diǎn)踩，RLCF 為…08-26釘釘十周年：AI釘釘1.0及首款硬件產(chǎn)品DingTalk A1重磅發(fā)布單看概念或許有點(diǎn)抽象，其實(shí)不難理解，在發(fā)布會(huì)現(xiàn)場(chǎng)，無(wú)招就用“奏折”來(lái)做比喻，AI釘釘就像是用戶的專屬秘書(shū)，將一切與工作相關(guān)的信息與任務(wù)進(jìn)行分析和整理，然后根據(jù)重要性排序，最終像信息流一樣呈現(xiàn)在用戶的面前。 …08-26科大訊飛融資凈買入超7千萬(wàn)，近三日融資買入額持續(xù)高企8月25日，滬深兩融數(shù)據(jù)顯示，科大訊飛獲融資買入額6.80億元，居兩市第42位，當(dāng)日融資償還額6.07億元，凈買入7378.21萬(wàn)元。 最近三個(gè)交易日，21日-25日，科大訊飛分別獲融資買入6.33億元、7.…08-26科大訊飛半年報(bào)：AI紅利助業(yè)務(wù)高增長(zhǎng)，實(shí)控人定增彰顯信心AI紅利驅(qū)動(dòng)各業(yè)務(wù)線健康成長(zhǎng) 1）智慧教育業(yè)務(wù)25H1收入35.3億元，同比+23.5%，其中AI學(xué)習(xí)機(jī)上半年收入繼續(xù)保持翻番增長(zhǎng)。4）企業(yè)AI解決方案25H1收入4.4億元，同比+349.9%，公司正在加…08-26AI招聘工具信任危機(jī)：超六成科技人才擔(dān)憂，呼吁人性化透明招聘08-26阿里國(guó)際Ovis2.5多模態(tài)大模型發(fā)布，提升視覺(jué)感知與深度推理能力08-26AI貓咪短片風(fēng)靡社交媒體，奇幻劇情吸引數(shù)億播放成新寵08-26算力新紀(jì)元：太原市算力產(chǎn)業(yè)邁向規(guī)?；叨嘶诤匣抡鞒套鳛槿珖?guó)首個(gè)全棧自主可控的煤炭行業(yè)智能算力中心，該平臺(tái)建成包含盤古、文心、DeepSeek等大模型拼盤，完成了從技術(shù)可行到工程可靠、再到商業(yè)閉環(huán)的全鏈條驗(yàn)證，為各類開(kāi)發(fā)需求提供了強(qiáng)有力的算力支撐。山西數(shù)據(jù)流量…08-26高途武漢新設(shè)智成科技公司，涉足AI軟件開(kāi)發(fā)領(lǐng)域08-26英偉達(dá)發(fā)布新一代機(jī)器人計(jì)算機(jī)Jetson Thor，售價(jià)2.5萬(wàn)，宇樹(shù)優(yōu)必選等已采用08-26馬斯克xAI正式起訴蘋果與OpenAI，指控雙方聯(lián)手壟斷AI市場(chǎng)08-26點(diǎn)擊查看更多 +全站最新京東七夕節(jié)新玩法：知名男團(tuán)女團(tuán)PK團(tuán)播試水智譜AI：從B端到C端，全力沖刺生成式AI第一股智界R7與新S7新車上市首日，大定量火速破萬(wàn)豆包App推出未成年人保護(hù)模式，視頻展示等功能默認(rèn)關(guān)閉保障安全熱門內(nèi)容

• 雷軍抖音賬號(hào)變動(dòng)引熱議：武漢大學(xué)標(biāo)簽悄然消失？
• 云計(jì)算新紀(jì)元：云智融合引領(lǐng)未來(lái)趨勢(shì)，安全與技術(shù)創(chuàng)新并行
• AI企業(yè)市場(chǎng)新格局：Anthropic超越OpenAI成首選
• 阿里巴巴1688升級(jí)AI服務(wù)：新品App與查詢工具上線，賦能中小企業(yè)高效采購(gòu)
• 華為Mate 80系列爆料：全新麒麟9030，eSIM與低軌衛(wèi)星通訊技術(shù)加持
• 2025年人工智能發(fā)展藍(lán)圖：趨勢(shì)、格局與行業(yè)應(yīng)用深度剖析
• 浙大發(fā)布“悟空”類腦計(jì)算機(jī)：神經(jīng)元規(guī)模超20億，模擬獼猴大腦
• 紅米Note15系列前瞻：7s芯片、7000mAh大電池，防水新標(biāo)桿即將登場(chǎng)
• 光伏電站智能化管理：提升效率，降低成本，助力“雙碳”目標(biāo)實(shí)現(xiàn)
• 字節(jié)跳動(dòng)AI底層架構(gòu)領(lǐng)跑2025：技術(shù)、組織與財(cái)務(wù)全面賦能AI時(shí)代
• 雷軍抖音賬號(hào)母校標(biāo)簽“武漢大學(xué)”消失，或涉平臺(tái)隱私調(diào)整
• 國(guó)家網(wǎng)信辦約談?dòng)ミ_(dá)：要求闡釋H20算力芯片安全隱患及后門風(fēng)險(xiǎn)
• 馬斯克將為Grok Heavy用戶帶來(lái)AI視頻生成器及虛擬男友“Valentine”測(cè)試版
• 英偉達(dá)H20芯片安全風(fēng)險(xiǎn)引關(guān)注，網(wǎng)信辦約談要求說(shuō)明“追蹤定位”等技術(shù)詳情
• AI浪潮下，微軟研究預(yù)警：40種職業(yè)或面臨變革挑戰(zhàn)

本欄最新王國(guó)棟院士：人工智能引領(lǐng)鋼鐵行業(yè)轉(zhuǎn)型升級(jí)，邁向綠色未來(lái)蘋果推出RLCF技術(shù)：以大模型為導(dǎo)師，強(qiáng)化小模型復(fù)雜指令執(zhí)行能力釘釘十周年：AI釘釘1.0及首款硬件產(chǎn)品DingTalk A1重磅發(fā)布算力新紀(jì)元：太原市算力產(chǎn)業(yè)邁向規(guī)?；叨嘶诤匣抡鞒?img src="http://img3.28at.com/d/file/20250827/218495112d6b11f85698e91f6bddb68c.png" alt="高途武漢新設(shè)智成科技公司，涉足AI軟件開(kāi)發(fā)領(lǐng)域" />高途武漢新設(shè)智成科技公司，涉足AI軟件開(kāi)發(fā)領(lǐng)域移動(dòng)云智算平臺(tái)攜手DeepSeek，共促AI大模型應(yīng)用高效落地

本文鏈接：http://www.rrqrq.com/showinfo-45-26930-0.html上海交通大學(xué)與螞蟻集團(tuán)聯(lián)手，安全AI科技獲上海市科技進(jìn)步一等獎(jiǎng)

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： IOTE深圳物聯(lián)網(wǎng)展明日啟幕，AI+IoT全產(chǎn)業(yè)鏈年度盛會(huì)邀您共襄盛舉

下一篇： 中國(guó)電信欒曉維：云網(wǎng)智融戰(zhàn)略引領(lǐng)，賦能百業(yè)轉(zhuǎn)型新篇章