大皖新聞訊  世界互聯網大會烏鎮峰會不僅是企業家大佬們的“AI賽場”，也是全世界年輕技術精英們的舞臺。

11月20日，國內首個AI大模型攻防賽在烏鎮收官。大賽自9月啟動以來，來自全球18個國家和地區的2700多個賽隊、3200余名技術精英參與，選手來自清華大學、北京大學、南洋理工大學、約翰霍普金斯大學、香港科技大學、悉尼大學等290多個國內外高校，以及騰訊等280多個企業。通過攻、防雙向賽道競技，大賽最終角逐出全球十強，由來自安徽大學、上海交通大學、字節跳動等企業和高校的賽隊獲得。

北大清華等國內外名校名企參賽

“這段視頻明顯是AI合成的！視頻中人臉動作軌跡和速度等信息都出現異常。”“這條語音在某些頻率上過于‘干凈’，顯示出不自然的變化，AI生成概率在98%以上！”

近年來，人工智能技術特別是大模型及AIGC領域飛速發展，給我們生活帶來了前所未有的便利與可能性，也帶來了安全方面的挑戰。在11月20日“AI大模型攻防賽”收官現場，全球十強選手面對“眼見不為實、耳聽不為實”的場景，通過大模型技術辨別AI造假的音頻、證照及視頻，用AI對抗AI。

賽事由中國圖象圖形學學會、螞蟻集團、云安全聯盟（CSA）大中華區聯合主辦，聯合清華大學、上海交通大學、浙江大學等高校及多家產學研組織共同發起，直面并解決大模型應用中潛藏風險，助力全球AI產業健康可持續發展。

中國工程院院士、中國圖象圖形學學會理事長王耀南表示，“加強大模型安全保護，構建完善的安全防護體系，是確保人工智能技術持續、穩定、健康發展的關鍵所在，也是我們在這個充滿機遇與挑戰的時代必須肩負起的重要使命。”

在此背景下，全球AI大模型攻防挑戰賽聚焦大模型自身安全和大模型生成內容的防偽檢測兩個賽道，賽題涉及信用成長、憑證審核、商家入駐、智能助理等多個業務場景，覆蓋機器學習、圖像處理與計算機視覺、數據處理等多個算法領域，通過創新的技術解決方案，進一步保障大模型應用安全和產業安全。

“通過攻防實戰演練，直面大模型應用中的安全問題，促使大模型安全技術不斷進步，從而攜手行業邁向更高的安全水平。”螞蟻集團安全實驗室首席科學家、全球AI大模型攻防挑戰賽評審委員會委員王維強表示。

用算法阻止圖像篡改 安大學子獲亞軍

安徽大學計算機科學與技術學院研究生三年級學生周立鋒，此次與同伴們獲得了“全球AI大模型攻防賽·賽道二”的亞軍。他們的項目主要關注金融領域，“金融領域交互式自證業務中，涵蓋信用成長、用戶開戶、商家入駐、職業認證、商戶解限等多種應用場景，通常都需要用戶提交一定的憑證，用于證明資產收入信息、身份信息、所有權信息等，而憑證的真實性一直是困擾金融場景自動化審核的一大難題。”

據介紹，隨著數字媒體編輯技術的發展，越來越多的AI手段和工具能夠輕易對憑證材料進行篡改，大量的黑產團伙也逐漸掌握PS、AIGC等工具制作逼真的憑證樣本，并對金融審核帶來巨大挑戰。

“所以，這次比賽開設AI核身-金融憑證篡改檢測賽道。”周立鋒說，篡改圖像的應用領域廣泛，涵蓋金融場景、證券、發票稅以及店面等多個方面，涉及文字修改、店面修改等多種操作。“為了有效識別這些篡改內容，我們團隊采用了現有的Co-DINO算法進行檢測，并在此基礎上進行了自主設計的篡改數據增強處理，以及后續的圖像分析步驟，從而能夠準確識別出圖像和照片中的篡改位置。”

“大賽的舉行，匯聚了全球范圍內數千位技術精英，為大家提供了技術交流與競技平臺。在這個舞臺上，許多優秀的人才脫穎而出，發現和培養一批優秀的安全人才，為行業的未來發展儲備智力資源，也是大賽的初衷之一。”中國圖象圖形學學會副理事長兼秘書長、北京科技大學教授馬惠敏表示說。

大皖新聞記者 項磊 浙江烏鎮 報道

編輯 許正文