人工智能（AI）會不會打開“潘多拉魔盒”？

近日，郭德綱憑借一口“地道英語”說相聲，引起全網狂歡。不僅如此，美國歌手泰勒·斯威夫特、馬斯克、特朗普等名人也“說得”一口流利中文。

網絡視頻截圖

AI制作的名人“惡搞”視頻已屢見不鮮，但近來關于日本首相岸田文雄和印尼總統佐科等兩段以假亂真的視頻，引起了多國關注和警惕。這些被網友稱為“人工智能嘴替”的AI視頻中，人物的表情、動作自然真實，聲線和腔調都和本人高度相似。

從誕生至今60余年，AI在經歷兩次發展浪潮后，以去年11月30日ChatGPT深度學習技術的推出為標志，開始催生出各種各樣的創新應用，迎來了應用層面的大爆發。

如今，AI廣泛應用于繪畫、配音、視頻、寫作等方面，在我們的生產、生活中變得越來越常見。快速迭代的技術不斷顛覆人們的想象，但隨之而來的技術濫用問題也引發擔憂。AI技術有哪些風險？AI侵權如何界定？又該如何對AI技術加強監管？

有人激動有人憂，這是一把雙刃劍

最近，“郭德綱講英語”“霉霉說中文”等AI視頻席卷互聯網，乍眼一看，不少網友直呼，“嘴型、手勢都對得上，太自然了，差點就信了。”“口型都改了，AI是真無敵。”據悉，該創作來自國產AI視頻翻譯工具HeyGen。

記者試用了這款工具，注冊、上傳視頻后，選取需要翻譯的語言，通過一鍵生成，便能獲得一段翻譯視頻。對比原片，“翻譯”后的新視頻不僅翻譯較地道，連聲線、情緒都近乎和原視頻一致，而且嘴形貼合，難辨真假。有些人看好其發展前景，“以后譯制片是不是可以用AI了？”AI以這種娛樂的方式破圈，真的是好事嗎？

“在這個網絡流量為主的時代，很多名人或許樂意通過AI工具為作品添把火，還有主播主動使用AI工具，在全球各地實現跨文化經商、交流。”成立于杭州的無界AI聯合創始人馬千里表示，無論是語言模型、圖片模型，還是語音合成技術，各個模塊已經實現突破性進展，幾乎達到了以假亂真的地步。

AI的飛速發展正在顛覆人類認知。近日，OpenAI首席科學家Ilya Sutskever稱，ChatGPT可能已經有了意識。在無界AI創始人、科幻作家長鋏看來，目前的大語言模型的底層邏輯還是基于統計與信息加工，仍不具備意識的一些基本特征，比如主體意識，情感與記憶，趨利避害、想象力等，“不過，AI并不需要具有意識，就能擁有超級智能或通用人工智能（AGI），能處理超級復雜的問題并獨立做出決策，包括生產出具有創造性的內容。”

盡管有名人主動使用類似技術，比如紐約市長亞當斯，他使用AI工具說普通話、烏爾都語和意第緒語，來為市民提供語音服務，但AI技術的濫用已成為懸在各國頭頂的達摩克利斯之劍。

據《環球時報》11月6日報道，日本一名25歲男子借助AI技術制作了日本首相岸田文雄發表講話，并帶有日本電視臺臺標和“突發新聞”字樣的假視頻。該視頻引發了廣泛批評，日本電視臺表示“絕不容忍這種行為”，并將采取法律措施。日前，該男子已在社交媒體上發文致歉。此前，針對頻發的假視頻，日本總務省曾警告：“虛假和錯誤信息的傳播會造成社會分裂，進而導致民主危機。”

印尼社交媒體最近流傳一段印尼總統佐科以流利中文發表演講的視頻同樣引發關注，視頻中的佐科總統說中文時，嘴型、表情基本能卡點對上，聲音、聲線也與佐科總統非常像，視頻的背景音還有觀眾的笑聲。印尼政府部門日前專門對此進行了澄清，指出這段視頻是用深度偽造技術制作而成。

“人工智能嘴替”已在多個國家蔓延，大有燎原之勢，而AI技術的快速迭代，引發更多人的擔憂，“大家不覺得可怕嗎？AI越來越強大了。”“會不會有人用它來詐騙？”還有觀點表示，“希望AI技術發展能被控制在正軌，技術濫用，就是災難。”

AI被控訴，相關法律亟待完善

近年來，AI被廣泛應用于各項領域中，它為我們的工作帶來便利的同時，也引發技術濫用問題，比如有不法分子為了牟利，利用AI技術進行詐騙。

此外，AI技術還存在法律風險。今年以來，不少名人素材被頻頻用于商業廣告途徑，已有越來越多的名人向AI“宣戰”。近期，又有郭德綱、蔡明等相聲演員“說”英文的視頻傳播，盡管老藝術家們沒有出面扯AI侵權的事，但法律事實已經很清楚。

記者咨詢中國政策科學研究會特邀研究員、中國知名律師朱界平得知，“郭德綱、蔡明說英文”等AI視頻屬于典型的侵犯肖像權行為。這個權利是每個自然人都享有的權利，屬于人格權的內容之一，“同時大家還不能狹義地將肖像理解為面部形象，其內容還包括面部肖像的以外的外部形象。比如可供識別的自然人的手、腳、背、甚至聲音等外部形象。”

生成式AI（AIGC）能自主生成文本、圖片、音頻、視頻、代碼等內容，當下火熱的ChatGPT就是最具代表性的生成式AI工具之一。圖源：視覺中國

除此之外，AI技術面臨的法律風險，還體現在知識產權的侵權風險，這也是今年法律圈的“熱門話題”。

8月24日上午，國內首例涉及人工智能生成技術作品版權的案件在北京互聯網法院直播庭審，該案未當庭宣判，卻引發了廣泛的討論。這一針清醒劑下去，藝術家、作家和演員控訴AI侵犯版權頻頻現身網絡江湖，但大多以和解告終。

“在AI生成物的法律屬性方面，我國司法實踐中對AI生成物的可著作權性尚無統一判斷標準，還需結合具體案情進行分析。”北京中倫（杭州）律師事務所合伙人、AIPPI中國分會數字經濟委員會共同主席王紅燕向記者指出，最新修訂的《著作權法》第三條增加了第九項“符合作品特征的其他智力成果”，實際上也是給AI生成物是否可以被認定為《著作權法》意義下的作品留了窗口。

在生成式AI的法律規制方面，我國目前更多的是從宏觀政策的角度加以支持與規范。例如2023年6月，國家網信辦等三部門聯合發布并實施的《互聯網信息服務深度合成管理規定》，這是我國第一部專門規范AI生成內容的部門規章；2023年7月，國家網信辦等七部門聯合公布《生成式人工智能服務管理暫行辦法》，規定了生成式AI服務提供者應當依法承擔網絡信息內容生產者責任，一定程度上給AI使用劃定了“紅線”。

“不可否認的是，前述法律規定仍然存在著效力層級不高、條款內容不夠細化等問題，與發展一日千里的人工智能技術相比，亟待進一步完善。”王紅燕說。

在國際層面，歐盟最新通過的《人工智能法案》（AI Act）圍繞人工智能產品和服務的開發、市場投放及使用明確了一個統一監管框架，“但也存在著對AI系統的定義過于寬泛、未明確個人的權利和救濟途徑等問題。而美國白宮發布了幾份關于AI 風險的指導性文件，但并沒有為 AI 風險制定統一的聯邦法規。”

由此可見，目前在全球范圍內對于生成式AI的規制尚停留在公法領域下的監管性要求，而對于AI侵權問題等私法領域，依然沒有得到有效的規范和界定。

AI技術暗藏風險。圖源：視覺中國

AI技術暗藏風險，治理方案需要全球合作

目前，馬千里所在的公司也在積極應對潛在的版權問題，比如他們結合區塊鏈技術，對AI創作的圖片、漫畫與視頻作品進行版權登記與保護。并且，“我們在用戶協議里進行了完善，明確了用戶的權利與義務，用戶擁有相當大的權利，同時也要承擔相應的責任。”

從整個產業和企業發展角度，馬千里倒希望相關法律可以再等等，AI技術發展迅猛，很多應用尚不成熟，仍處于探索階段，“等到它真的發展成熟，有許多社會價值被創造出來，再去考慮制定相關的法律法規可能會更合適。”盡管一些企業家認為目前AI技術并不會造成重大災難性危害，但同時也表示，隨著人工智能的快速發展，提前規劃是有意義的。

中國“市民卡工程之父”、浙江大學智能教育研究中心特聘研究員張旭光向記者表示，“數字科技是一個生命體（AIoT技術生態），生命體的最高層級是大腦，人工智能的發展是數字技術發展的必然趨勢。我們要用現代數字科技“生命體”演進的發展眼光，在可預見的發展過程中超前部署。”

當前，浙江省人工智能發展水平處于全國前列，當科技浪潮翻涌之時，相關監管迫在眉睫。如何加強對AI技術和應用的監管？張旭光指出了兩條路，一條是制定法律保障，另一條是技術制約。

張旭光說，在法律法規保障層面，要進一步持續完善人工智能等領域相關法律法規，但也要看到AI技術發展和應用與法律法規保障彼此是一個“道高一尺，魔高一丈”的對立統一過程，不是一蹴而就的；在技術保障層面，用相關技術防范或制約AI犯罪，比如AI生成的視頻需帶有“AI生成”的提示和水印字樣；再如，有關權威部門或合法第三方平臺用區塊鏈等數字技術給生成的AI數字人頒發數字身份證等等。

“用技術制約技術，用魔法打敗魔法”，這也是王紅燕的心聲，“人類的魔法應該是用更包容的創客精神來引領，最關鍵的一步，也就是人工智能相關項目的開放與開源勢在必行。”

2023年世界互聯網大會烏鎮峰會“2023世界互聯網大會領先科技獎頒獎典禮”在烏鎮互聯網國際會展中心會議中心舉行。圖源：視覺中國

AI正在席卷而來，這場深刻的革命，將徹底改變我們這個時代和生活。在2023世界互聯網大會烏鎮峰會上，AI元素俯首皆是，AI安全也成為本屆峰會的關注焦點。作為AI大國，一直以來，中國高度重視AI難以預知的風險挑戰，積極履行國際責任，以“緊迫”的姿態，努力走在第一梯隊。

上個月，習近平主席在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》(下稱《倡議》)，全面探討了AI發展、安全及治理三大方面，針對各方關注的AI發展與治理問題，提出了富有建設性的解決策略，此舉也為國際間的討論及規則制定提供了重要參考。

烏鎮峰會開幕式上，習近平主席發表視頻致辭時特別強調，要妥善應對科技發展帶來的規則沖突、社會風險、倫理挑戰。中方愿同各方攜手落實《倡議》，促進人工智能安全發展。“人工智能技術風險是全球性的，全球性的課題離不開中國這一大國，表達中國決心也是全球治理非常重要的決心。”王紅燕表示。

當今世界變亂交織，百年變局加速演進，人類社會走到了關鍵當口。面對難以預測的風險挑戰，各國應當攜手合作，構建起有效的治理機制，同時要明確邊界，設置好必要的護欄。本月初，在英國召開的首屆全球AI安全峰會上，中方立場尤其是《倡議》備受關注。作為主要倡導者之一，中國與美國、英國、歐盟在內的超過25個與會國家和地區簽署了《布萊切利宣言》，一致同意通過國際合作，攜手建立人工智能監管方法。

盡管沒有提出具體解決方案，在法律約束方面也有所欠缺，但作為全球AI規范的首要宣言，《布萊切利宣言》所傳達的未來導向、全球治理愿景以及對可持續發展的共識，是一種積極步伐。“《宣言》只是國際社會在AI監管合作方面的第一步，未來，AI技術將持續演化，面臨新的挑戰和機遇。我們期待看到更多國際合作，為AI的未來開創新的篇章。”王紅燕說。

我們也期待，通過國際間的交流與合作，共同制定出一套明確且具有廣泛共識的法律、倫理規范，確保AI技術合法、合理、合乎倫理地應用。同時，也需要各國政府、國際組織、科研機構以及行業組織貢獻智慧，攜手共進，推進AI全球治理，推動AI技術造福全人類。

記者 許伊雯