據(jù)澎湃新聞報(bào)道 全球28個(gè)國(guó)家和歐盟一致認(rèn)為，人工智能對(duì)人類構(gòu)成了潛在的災(zāi)難性風(fēng)險(xiǎn)。11月1日，首屆全球人工智能（AI）安全峰會(huì)在英國(guó)布萊切利莊園拉開(kāi)帷幕。在開(kāi)幕式上，由包括中國(guó)在內(nèi)的與會(huì)國(guó)共同達(dá)成的《布萊切利宣言》正式發(fā)表。這是全球第一份針對(duì)人工智能這一快速新興技術(shù)的國(guó)際性聲明，旨在關(guān)注對(duì)未來(lái)強(qiáng)大人工智能模型構(gòu)成人類生存威脅的擔(dān)憂，以及對(duì)人工智能當(dāng)前增強(qiáng)有害或偏見(jiàn)信息的擔(dān)憂。

據(jù)新華社報(bào)道，中國(guó)科技部副部長(zhǎng)吳朝暉率團(tuán)出席此次峰會(huì)，參與人工智能安全等問(wèn)題討論，積極宣介中方提出的《全球人工智能治理倡議》，并將與相關(guān)國(guó)家開(kāi)展雙邊會(huì)談。該倡議圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國(guó)方案。

中國(guó)科技部副部長(zhǎng)吳朝暉發(fā)表講話

布萊切利莊園是二戰(zhàn)期間盟軍破譯密碼的主要地點(diǎn)。半個(gè)多世紀(jì)前，“現(xiàn)代計(jì)算機(jī)科學(xué)與人工智能之父”、數(shù)學(xué)家阿蘭·圖靈在那里發(fā)明了第一代圖靈計(jì)算機(jī)。

如今，英國(guó)科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·唐蘭發(fā)表講話宣布了《布萊切利宣言》。她說(shuō)：“各國(guó)現(xiàn)在第一次一致認(rèn)為，我們不僅需要各自面對(duì)，而且需要共同審視前沿人工智能的風(fēng)險(xiǎn)。”

“我們申明，為了所有人的利益，人工智能應(yīng)該以安全、以人為中心、值得信賴和負(fù)責(zé)任的方式設(shè)計(jì)、開(kāi)發(fā)、部署和使用。”宣言寫道，并特別呼吁人們關(guān)注OpenAI、Meta和谷歌等公司正在開(kāi)發(fā)的大型語(yǔ)言模型，以及它們可能因?yàn)E用而造成的具體威脅。

“人工智能的‘前沿’出現(xiàn)了特殊的安全風(fēng)險(xiǎn)，被理解為那些能力強(qiáng)大的通用人工智能模型，包括基礎(chǔ)模型，它們可以執(zhí)行各種各樣的任務(wù)，以及相關(guān)的特定狹義人工智能，它們可以表現(xiàn)出以下能力：造成傷害——其能力達(dá)到或超過(guò)當(dāng)今最先進(jìn)模型的能力。”宣言指出。

宣言尤其關(guān)注網(wǎng)絡(luò)安全和生物技術(shù)等領(lǐng)域的風(fēng)險(xiǎn)，以及前沿AI可能放大虛假信息等風(fēng)險(xiǎn)。

唐蘭宣布，人工智能安全峰會(huì)將成為一項(xiàng)定期重復(fù)舉行的活動(dòng)，下一屆峰會(huì)計(jì)劃于6個(gè)月后在韓國(guó)舉行，再下一屆計(jì)劃一年后在法國(guó)舉行。

吳朝暉在開(kāi)幕式上發(fā)表了演講。據(jù)新華社報(bào)道，中方指出，人工智能治理攸關(guān)全人類命運(yùn)，是世界各國(guó)面臨的共同課題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強(qiáng)溝通交流，為推動(dòng)形成普遍參與的國(guó)際機(jī)制和具有廣泛共識(shí)的治理框架積極貢獻(xiàn)智慧，切實(shí)落實(shí)全球發(fā)展倡議、全球安全倡議和全球文明倡議，促進(jìn)人工智能技術(shù)更好造福人類，共同構(gòu)建人類命運(yùn)共同體。

峰會(huì)中也出現(xiàn)了一些具體進(jìn)展。美國(guó)商務(wù)部長(zhǎng)吉娜·雷蒙多宣布成立一個(gè)新的人工智能安全研究所，該研究所將設(shè)在美國(guó)商務(wù)部?jī)?nèi)，具體隸屬于該部的國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）。雷蒙多說(shuō)，該組織的目標(biāo)是與其他政府設(shè)立的其他人工智能安全組織密切合作，并透露英國(guó)也計(jì)劃建立安全研究所。“我們必須開(kāi)始工作，我們的機(jī)構(gòu)之間也必須開(kāi)始努力，以在全球范圍內(nèi)實(shí)現(xiàn)政策一致。”她說(shuō)。

“罕見(jiàn)的全球團(tuán)結(jié)表現(xiàn)”

本次峰會(huì)邀請(qǐng)了約100名各國(guó)官員、人工智能企業(yè)代表和專家。英國(guó)科學(xué)、創(chuàng)新和技術(shù)部11月1日發(fā)布的信息顯示，有美國(guó)、中國(guó)、日本、德國(guó)、印度等20多個(gè)國(guó)家的政府代表，以及聯(lián)合國(guó)、經(jīng)合組織、國(guó)際電信聯(lián)盟等多個(gè)國(guó)際組織的代表參會(huì)。另有超過(guò)80個(gè)學(xué)術(shù)機(jī)構(gòu)、企業(yè)和協(xié)會(huì)組織代表參會(huì)。

據(jù)《環(huán)球時(shí)報(bào)》援引路透社報(bào)道，中國(guó)于上周接受了英方的參會(huì)邀請(qǐng)，與吳朝暉一道與會(huì)的還有來(lái)自中國(guó)外交部、企業(yè)和學(xué)術(shù)機(jī)構(gòu)的代表。據(jù)新華社報(bào)道，中國(guó)科學(xué)院、中國(guó)騰訊公司、阿里巴巴公司出席了會(huì)議。外國(guó)科技企業(yè)中，微軟總裁布拉德·史密斯、OpenAI首席執(zhí)行官山姆·奧特曼、谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯、特斯拉首席執(zhí)行官埃隆·馬斯克等出席峰會(huì)。

英國(guó)媒體稱，美國(guó)商務(wù)部長(zhǎng)雷蒙多和中國(guó)科技部副部長(zhǎng)吳朝暉與唐蘭一起登臺(tái)，“這是罕見(jiàn)的全球團(tuán)結(jié)表現(xiàn)”。負(fù)責(zé)組織此次峰會(huì)的英國(guó)官員之一馬特·克利福德（Matt Clifford）稱，雷蒙多和吳朝暉一起出現(xiàn)在舞臺(tái)上是“一個(gè)非凡的時(shí)刻”。此次峰會(huì)標(biāo)志著英國(guó)尤其是英國(guó)首相蘇納克的外交成功。

不過(guò)，美國(guó)媒體注意到，根據(jù)與會(huì)者的個(gè)人陳述，各國(guó)的優(yōu)先事項(xiàng)存在一定差異。比如，一些學(xué)者和包括馬斯克在內(nèi)的人工智能開(kāi)發(fā)者猜測(cè)“上帝般的”人工智能可能會(huì)消滅人類，在此推動(dòng)下，蘇納克傾向于控制超能力的前沿模型，而《布萊切利宣言》也對(duì)這種理論上滅絕級(jí)別的威脅表示認(rèn)可。

相比之下，美國(guó)代表不同意這種優(yōu)先事項(xiàng)，或者至少在同意的程度上不如英國(guó)。與會(huì)的美國(guó)副總統(tǒng)卡馬拉·哈里斯更擔(dān)心人工智能目前對(duì)社會(huì)構(gòu)成的威脅。“讓我們明確一點(diǎn)，還有其他威脅也需要我們采取行動(dòng)。當(dāng)前正在造成傷害的威脅，對(duì)許多人來(lái)說(shuō)也感覺(jué)是存在的……”她表示。

美國(guó)媒體POLICITO評(píng)論道，這種分歧并不是完全排除或忽視其中一種風(fēng)險(xiǎn)，正如《布萊切利宣言》對(duì)這兩種風(fēng)險(xiǎn)都認(rèn)可。但政府的政治資本和影響力都是有限的，而且它們決定關(guān)注的法規(guī)目前還遠(yuǎn)未確定。企業(yè)擔(dān)心這種不確定性，一些公司對(duì)針對(duì)不同優(yōu)先事項(xiàng)的監(jiān)管法規(guī)可能會(huì)使他們的工作變得復(fù)雜化感到憤怒。Meta公司全球事務(wù)總裁尼克·克萊格 （Nick Clegg）表示，世界各國(guó)政府監(jiān)管人工智能的競(jìng)賽令整個(gè)行業(yè)感到困惑，希望本周的峰會(huì)至少能讓各國(guó)政府“朝著類似的方向前進(jìn)”。

開(kāi)幕全體會(huì)議上的領(lǐng)導(dǎo)人不僅包括來(lái)自世界最大經(jīng)濟(jì)體的代表，還有一些發(fā)展中國(guó)家的代表。他們談到了包容性和責(zé)任感，但如何實(shí)施仍存在許多疑問(wèn)。

AI業(yè)界爭(zhēng)論激烈

一些開(kāi)發(fā)人員、學(xué)者和活動(dòng)人士擔(dān)心，政府缺乏協(xié)調(diào)會(huì)導(dǎo)致科技巨頭在競(jìng)爭(zhēng)中肆意妄為，破壞保護(hù)隱私或消費(fèi)者權(quán)益的概念。

就在此次峰會(huì)召開(kāi)前夕，圖靈獎(jiǎng)得主、“人工智能三巨頭”等學(xué)者爆發(fā)了一場(chǎng)激烈爭(zhēng)論。首先是三巨頭中的杰弗里·辛頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio）呼吁加強(qiáng)對(duì)AI技術(shù)監(jiān)管，否則可能引發(fā)危險(xiǎn)的“AI末日論”，隨后三巨頭之一、Meta人工智能的負(fù)責(zé)人楊立昆（Yann LeCun）警告說(shuō)，“迅速采取錯(cuò)誤的監(jiān)管方式可能會(huì)導(dǎo)致以損害競(jìng)爭(zhēng)和創(chuàng)新的方式集中權(quán)力。”斯坦福大學(xué)教授吳恩達(dá)加入楊立昆行列，稱對(duì)末日論的過(guò)度恐懼正在造成真正的傷害，將粉碎開(kāi)源，扼殺創(chuàng)新。

10月25日，中國(guó)人工智能科學(xué)家與西方知名學(xué)者一道，呼吁對(duì)人工智能技術(shù)實(shí)施更嚴(yán)格的控制。這24名AI專家簽署一份聲明警告稱，在未來(lái)幾十年，先進(jìn)的人工智能將對(duì)“人類的生存構(gòu)成威脅”。清華大學(xué)交叉信息研究院院長(zhǎng)姚期智、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤這兩位知名中國(guó)學(xué)者均是簽署者。他們呼吁建立一個(gè)國(guó)際監(jiān)管機(jī)構(gòu)，先進(jìn)的人工智能系統(tǒng)須進(jìn)行強(qiáng)制性注冊(cè)和接受審核，引入即時(shí)“關(guān)閉”程序，并要求開(kāi)發(fā)企業(yè)將30%的研究預(yù)算用于人工智能安全。《金融時(shí)報(bào)》11月1日稱，這些提議初步表明了中國(guó)在全球人工智能監(jiān)管方面可能采取的立場(chǎng)。

在布萊切利莊園，馬斯克在峰會(huì)期間提出了自己的建議。“我們來(lái)這里的真正目標(biāo)是建立一個(gè)洞察框架，這樣至少會(huì)有一個(gè)第三方裁判，一個(gè)獨(dú)立的裁判，可以觀察領(lǐng)先的AI公司在做什么，至少在他們有擔(dān)憂時(shí)發(fā)出警報(bào)。”他認(rèn)為，在政府采取監(jiān)管行動(dòng)之前，需要先了解AI的發(fā)展情況，AI領(lǐng)域的很多人都擔(dān)心政府在知道該怎么做之前會(huì)過(guò)早地制定規(guī)則。

一直以來(lái)對(duì)AI頻頻發(fā)出警報(bào)的馬斯克說(shuō)：“這是人類歷史上第一次與遠(yuǎn)比我們聰明的東西共處，所以我不清楚，我們是否真的能控制這樣的東西。但我認(rèn)為我們可以期待的是，引導(dǎo)它朝著對(duì)人類有益的方向發(fā)展。我確實(shí)認(rèn)為，這是我們面臨的生存風(fēng)險(xiǎn)之一，而且可能是最緊迫的風(fēng)險(xiǎn)。”

本次峰會(huì)歷時(shí)兩天，第一天由唐蘭主持，大多數(shù)科技公司和政府官員將出席首日活動(dòng)。第二天的會(huì)議則由蘇納克主持，只會(huì)邀請(qǐng)小部分政治領(lǐng)導(dǎo)人和科技高管討論具體應(yīng)對(duì)措施。