10月18日，在第三屆“一帶一路”國際合作高峰論壇上，中國提出《全球人工智能治理倡議》（以下簡稱《倡議》），這是我國繼今年7月出臺全球首部生成式人工智能規范性政策文件《生成式人工智能服務管理暫行辦法》后，在人工智能治理領域的又一重大舉措。《倡議》提出了構建開放、公正、有效的全球人工智能治理機制，為相關國際討論和規則制定提供了藍本，對于促進人工智能技術造福全人類，推動構建人類命運共同體具有重要意義。

一、《倡議》提出的背景

（一）通用人工智能帶來重大發展機遇的同時，也伴隨著難以預測的重大風險，需要國際社會共同應對。

通用人工智能是人工智能發展的終極目標。目前對通用人工智能有兩種理解：通用性的人工智能（General Artificial Intelligence，GAI）是媒體和社會公眾的一般理解，指的是能夠處理多種任務的人工智能；人工智能專業領域的理解是人工通用智能（Artificial General Intelligence，AGI），指的是在所有方面都達到和超越人類水平的智能系統，能夠自適應地應對外界環境挑戰，完成人類能完成的所有任務的人工智能，也稱強人工智能、超級人工智能等。前者應該鼓勵，后者應該嚴防。

近年來，大模型通過持續擴大規模，出現了從量變到質變的能力“涌現”現象，在語言理解生成、邏輯推理等方面表現出預料之外的能力，拉開了邁向通用人工智能的序幕，成為新一輪科技革命和產業變革的重要驅動力量，將帶來10年到20年左右的發展紅利期。

大模型取得的突破性進展基本上是通過經驗模式取得的，其背后的智能發生和涌現機理尚不清晰。隨著智能水平的高速增長，風險也同步增長，已出現誤用、濫用等一系列風險和挑戰，當前國際社會對如何構建一個安全的人工智能系統仍知之甚少，人類面臨著全新挑戰。

通用人工智能（GAI）和人工通用智能（AGI）都是高度復雜的系統，特點是難以預測。特別的，GAI什么時候演化為AGI也是難以預測的。根據控制論的“阿什比定律”：任何有效的控制系統都必須和它控制的系統一樣復雜。如果人類實現了比自己更強大的AGI，從理論上說不可能控制這些系統，極端情況是導致人類滅絕的“生存危機”。

因此，防范人工通用智能（AGI）不是未來的事情，現在就要開始，不僅要研究應對AGI的戰略，還要研究GAI演化為AGI的可能性及對策，這是世界各國共同面臨的事關人類未來的重大課題。

（二）通用人工智能技術發展將會進一步拉大國家之間的智能鴻溝，全球人工智能治理進入新階段，需要建立公平公正的全球人工智能治理體系。

隨著通用人工智能技術的不斷發展，各個國家在智能技術掌握與應用能力上的差距將形成智能鴻溝，加劇技術發展的不平等問題。在全球層面上，人工智能目前尚未形成統一標準和規范的人工智能治理體系。

與此同時，全球人工智能治理出現了單邊主義、國家主義、保護主義的趨勢，少數發達國家試圖掌控人工智能相關的法律法規、政策和原則，發展中國家話語權較弱，甚至無法參與相關討論。中國作為最大的發展中國家和人工智能發展大國，需要積極參與全球人工智能治理工作，提升發展中國家在全球人工智能治理中的影響力與話語權，推動人工智能治理朝著更加公平公正的方向發展。

二、《倡議》的主要內容

《倡議》內容共十一條，圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理的“中國方案”。

（一）明確發展原則，推動人工智能向善而治。

人工智能的發展應回歸人本主義，致力于解決人類面臨的共同挑戰。《倡議》提出了人工智能發展的基本原則，推動人工智能健康發展。

一是堅持以人為本、智能向善，以增進人類共同福祉為目標，確保人工智能始終朝著有利于人類文明進步的方向發展，共同防范和打擊恐怖主義、極端勢力和跨國有組織犯罪集團對人工智能技術的惡用濫用。

二是堅持相互尊重、平等互利，鼓勵全球共同推動人工智能健康發展，共享人工智能知識成果，開源人工智能技術。尊重各國主權，技術服務應充分尊重所在國的法律、法規，反對利用人工智能技術干涉內政、妨礙他國社會制度及秩序。反對以意識形態劃線或構建排他性集團，惡意阻撓他國人工智能發展。

（二）打造安全體系，構建安全可信的人工智能系統。

針對大模型發展面臨的隱私和數據泄露、誤用濫用、不透明、不公平、責任認定等安全問題，《倡議》通過“內外兼修”的方式，推動構建安全可信的人工智能系統。

在外部措施方面，一是推動建立風險等級測試評估體系，實施敏捷治理，分類分級管理，快速有效響應。二是逐步建立健全法律和規章制度，保障人工智能研發和應用中的個人隱私與數據安全，反對竊取、篡改、泄露和其他非法收集利用個人信息的行為。三是堅持倫理先行，建立并完善人工智能倫理準則、規范及問責機制，形成人工智能倫理指南，建立科技倫理審查和監管制度，明確人工智能相關主體的責任和權力邊界，充分尊重并保障各群體合法權益，及時回應國內和國際相關倫理關切。

在人工智能系統內部安全能力提升方面，一是針對系統透明度問題，倡議各研發主體不斷提高人工智能可解釋性和可預測性，提升數據真實性和準確性，確保人工智能始終處于人類控制之下，打造可審核、可監督、可追溯、可信賴的人工智能技術。二是針對偏見和不公平問題，倡議堅持公平性和非歧視性原則，避免在數據獲取、算法設計、技術開發、產品研發與應用過程中，產生針對不同或特定民族、信仰、國別、性別等偏見和歧視。

（三）倡導全球治理，推動實現多邊的開放性治理生態。

單絲不成線，孤樹不成林。人工智能的發展并不是一場“零和游戲”，人工智能治理需要全世界的廣泛參與，在充分尊重各國人工智能治理原則和實踐的前提下，形成具有廣泛共識的國際人工智能治理框架和標準規范，推動全球人工智能治理邁向更加完善的新階段。

《倡議》以開放姿態，以關切全人類發展為初衷，抵制“俱樂部”式的霸權操縱模式，積極推動真正的多邊對話的實現，促進全球發達國家和發展中國家人工智能治理的協同發展。一是鼓勵各國積極對話和分享最佳操作實踐，推動國際人工智能治理領域形成廣泛共識。二是建議增強發展中國家在人工智能全球治理中的代表性和發言權，開展面向發展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。積極支持在聯合國框架下討論成立國際人工智能治理機構，協調國際人工智能發展、安全與治理重大問題。三是倡導“以技術監管技術”，積極發展用于人工智能治理的相關技術開發與應用，支持以人工智能技術防范人工智能風險，提高人工智能治理的技術能力。

結語

確保人工智能安全、健康、可控發展是人類共同的責任，《倡議》為人工智能治理提出了一個覆蓋治理多元主體，推動搭建多方共建的可落地“中國方案”。智源研究院作為人工智能領域的新型研發機構，將從技術研發角度推動《倡議》的落地。一是堅持開源開放原則，構建全面開源、共建共享、開放透明的人工智能技術底座，持續開展人工智能算法可解釋性、魯棒性、可信性等研究，不斷提升人工智能系統的透明性和可靠性。二是開展大模型安全與價值觀對齊、大模型安全評測技術等人工智能治理技術研究，為全球人工智能治理提供強有力的技術工具鏈，促進人工智能和人類智能的良性互動和價值共塑，構建人工智能和人類智能友好共處的人類命運共同體。（北京智源人工智能研究院）