大皖新聞訊  記者從中國科大獲悉，日前，該校網絡空間安全學院執行院長俞能海教授受邀作客中央廣播電視總臺科教頻道黃金檔“創新進行時”直播欄目，與主持人和廣大觀眾共同探討生成式AI的應用前景與潛在風險。

這期節目從生成式AI給影視創作帶來的影響出發，以“數字人錢學森”的視頻拉開序幕，該視頻由中國科學技術大學信息處理中心、北京靈境賽博科技有限公司、合肥高維數據技術有限公司和北京航天愿景科技有限公司共同制作，也得到了錢老后人錢永剛教授的鼎力支持，以合成現實技術“復活”了錢老形象，再現了錢老聲情并茂的激勵話語，引起了廣大網友的共鳴和熱烈討論，在線觀眾達到600萬人，廣大觀眾對“數字人錢學森”的視頻給出了高度評價。

值得一提的是，節目中提到了生成式AI的安全問題，這也是中國科大網絡空間安全學院在中央網信辦和教育部“一流網絡安全學院建設示范項目”建設過程中重點關注的研究方向。

作為人工智能與安全領域交叉學科的專家，俞能海教授擔任了中國圖象圖形學學會副理事長和CSIG數字媒體取證與安全專委會主任，他從兩個典型的生成式AI惡意使用場景談論了潛在風險問題。

第一個場景是AI for Science大模型的惡意使用帶來的風險，可能會導致惡意使用者用科學大模型合成危險化學品或有毒物質，為了應對這樣的風險，他領導的研究團隊提出了SciGuard“科學衛士”的代理模型，在大模型使用過程中監督并規避上述風險。

第二個場景是人臉深度偽造的潛在危害，可能對公共安全、個人隱私、財產安全等方面產生重大影響，為此，他的研究團隊也提出了多種深度偽造防御的應對措施，并在全球最具影響力的深偽檢測挑戰賽中擊敗英偉達、麻省理工等知名校企，取得了全球第二國內第一的成績，入選了2014年以來中國人工智能安全領域8項代表性成果。

大皖新聞記者 陳牧 實習生 楊春草

編輯 許大鵬