近日，2024年度上海市科學(xué)技術(shù)獎(jiǎng)的獲獎(jiǎng)名單正式揭曉，上海交通大學(xué)與螞蟻集團(tuán)攜手合作的項(xiàng)目《復(fù)雜對(duì)抗場(chǎng)景下的網(wǎng)絡(luò)媒體內(nèi)容安全檢測(cè)關(guān)鍵技術(shù)與應(yīng)用》榮獲科技進(jìn)步獎(jiǎng)一等獎(jiǎng)。這一殊榮標(biāo)志著該項(xiàng)目在內(nèi)容安全檢測(cè)領(lǐng)域取得了國(guó)際先進(jìn)水平，特別是AIGC檢測(cè)等技術(shù)更是達(dá)到了國(guó)際領(lǐng)先。

　　在此次獎(jiǎng)項(xiàng)的核心技術(shù)評(píng)審中，以中國(guó)工程院院士王耀南領(lǐng)銜的專家委員會(huì)給予了高度評(píng)價(jià)。他們認(rèn)為，該技術(shù)整體表現(xiàn)卓越，尤其在復(fù)雜對(duì)抗場(chǎng)景下，展現(xiàn)出了強(qiáng)大的檢測(cè)能力和創(chuàng)新性。

　　在頒獎(jiǎng)現(xiàn)場(chǎng)，上海交通大學(xué)與螞蟻集團(tuán)的代表，蔣興浩與王維強(qiáng)，共同見證了這一榮耀時(shí)刻。隨著生成式人工智能和大模型的快速發(fā)展，雖然內(nèi)容生成技術(shù)日益智能化，但也帶來了諸多挑戰(zhàn)，如價(jià)值觀偏離、意識(shí)形態(tài)沖突以及道德規(guī)范問題等。這些問題對(duì)互聯(lián)網(wǎng)信息的健康傳播和網(wǎng)絡(luò)有害信息的治理構(gòu)成了嚴(yán)峻挑戰(zhàn)。

　　面對(duì)這一挑戰(zhàn)，上海交通大學(xué)與螞蟻集團(tuán)等團(tuán)隊(duì)共同研發(fā)了一系列關(guān)鍵技術(shù)，旨在應(yīng)對(duì)大模型時(shí)代復(fù)雜對(duì)抗場(chǎng)景下的內(nèi)容安全治理難題。這些技術(shù)包括多模理解、AI鑒真、異常推理和多模文檔解析等，為內(nèi)容安全治理提供了新的模式和思路。

　　上海交通大學(xué)副校長(zhǎng)蔣興浩表示，項(xiàng)目組的多家單位研發(fā)團(tuán)隊(duì)緊密合作，共同探索如何保護(hù)人工智能時(shí)代的信息內(nèi)容安全。他們不僅解答了這一難題，還積極引領(lǐng)了生成式人工智能時(shí)代的內(nèi)容安全治理新模式。

　　該項(xiàng)目在技術(shù)創(chuàng)新方面取得了顯著成果，解決了傳統(tǒng)檢測(cè)模型泛化難題、異常樣本采集挑戰(zhàn)、隱晦內(nèi)容檢測(cè)以及多變博弈攻擊等核心問題。具體而言，他們提出了基于思維鏈的多模態(tài)大模型幻覺緩解技術(shù)，研發(fā)了可控多模態(tài)數(shù)據(jù)智能生成方法，研制了網(wǎng)絡(luò)媒體內(nèi)容安全監(jiān)測(cè)一體化解決方案，并提出了基于對(duì)抗與溯源的模型安全防護(hù)技術(shù)。

　　這些技術(shù)創(chuàng)新不僅顯著提升了內(nèi)容安全領(lǐng)域復(fù)雜攻擊下的防控效果和效率，還為互聯(lián)網(wǎng)上有害信息的治理帶來了突破性進(jìn)展。同時(shí)，這些技術(shù)也為AI技術(shù)在更廣泛領(lǐng)域的應(yīng)用提供了強(qiáng)有力的支撐。

　　據(jù)了解，該項(xiàng)目已經(jīng)獲得了41項(xiàng)發(fā)明專利、1項(xiàng)國(guó)標(biāo)和1項(xiàng)地標(biāo)、10項(xiàng)軟件著作權(quán)以及118篇論文的發(fā)表。該項(xiàng)目已經(jīng)應(yīng)用于多個(gè)平臺(tái)的內(nèi)容安全業(yè)務(wù)防控中，取得了顯著的成效。其中，AIGC安全檢測(cè)等技術(shù)已經(jīng)服務(wù)于支付寶的內(nèi)容相關(guān)業(yè)務(wù)，實(shí)現(xiàn)了對(duì)不良內(nèi)容的高效識(shí)別與攔截，確保了平臺(tái)內(nèi)容的健康與安全。

　　螞蟻安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)表示，在國(guó)家網(wǎng)絡(luò)安全戰(zhàn)略的指引下，螞蟻集團(tuán)通過產(chǎn)學(xué)研合作，研發(fā)了包括隱晦推理、AIGC識(shí)別等核心技術(shù)，構(gòu)建了互聯(lián)網(wǎng)信息安全智能治理體系。這一體系不僅為海量創(chuàng)作者提供了安全可信的創(chuàng)作環(huán)境，還通過持續(xù)迭代的模型能力，筑牢了風(fēng)險(xiǎn)屏障。未來，螞蟻集團(tuán)將繼續(xù)投入安全科技，深耕可信AI技術(shù)研發(fā)，推動(dòng)網(wǎng)絡(luò)安全智能化進(jìn)程。