9月12日至14日，第十一屆北京香山論壇舉行。在本屆北京香山論壇中，人工智能安全也是一項重要議題。十余位國內外專家學者就人工智能在軍事等領域的應用以及人工智能治理等進行了深度討論。

與會代表、美國國防分析研究所研究員 施燦德：人工智能不同于我們已經探索過的其他工具或領域，例如核武器或空間問題，人工智能的問題往往是前所未見的。這就將涉及更多的政治或外交談判，信任建立措施、加強對話，確保我們進行人對人的交流，而不是任由人工智能引導我們走向該或不該走的道路。

近年來，以深度學習為代表的新一代人工智能技術取得突破性進展，機器也可以有“思維”逐步成為現實。在智能化戰爭中，一些無人裝備和輔助決策系統將成為與人類并肩作戰的“機器人戰友”和“智能參謀”。

前不久，法國國防部長宣布法國將投入20億歐元軍費預算用于人工智能領域。德法兩國政府還決定共同打造具備人工智能和一系列高新技術的“地面主戰系統”。

今年5月2日，美國空軍部長肯德爾在加利福尼亞州愛德華茲空軍基地，乘坐了由AI駕駛的戰機。并在這架AI戰機的前座艙，目睹了一場AI戰機與有人斗機的空戰演練。

AI技術在軍事領域初露鋒芒的同時，風險也已然顯現。 今年4月3日，以色列媒體率先爆料，以色列軍方在加沙實地測試了一款名為“薰衣草”的AI系統，讓它通過大數據和算法來判斷哪些巴勒斯坦人是哈馬斯成員。據半島電視臺報道，“薰衣草”AI系統已經把多達37000多名巴勒斯坦人列為哈馬斯成員。這些人所在的建筑都可能遭到轟炸。這意味著建筑內的每個人都可能會被殺死。

關注人工智能 應對可能帶來的安全風險

本屆北京香山論壇，為什么要設置一個人工智能相關的話題？人工智能在軍事領域的運用發展前景如何？繼續來看專家的解讀。

國防大學教授 孟祥青：人工智能是世界科技發展創新的一個前沿領域。我們說國際規則也好、安全規定也好，還是國家之間的探討也好，應該說現在還是滯后于人工智能的發展。目前在人工智能、在一些新型安全領域，還沒有共識的規則。這一次的北京香山論壇上，設置這樣一個主題，實際上既表明了現代科技發展可能給安全帶來的風險，也表明了我們要共同研究探討。實際上根本目的還是避免科學技術帶來這樣一些安全風險。

人工智能可幫助軍隊提升戰場感知能力

國防大學教授 孟祥青：人工智能在軍事領域的應用非常廣泛。

首先是對戰爭決策的支撐。一個是形勢判斷，一個是對敵情進行分析判斷。比如說戰場感知，如果人工智能不斷演變、不斷發展，那么它的戰場感知力就會不斷增強。

還有就是武器系統的智能化，自主進行目標識別，自主進行戰場的識別。

正是在這樣一個背景下，要探討人工智能可能帶來的風險，包括在軍事上的風險。（據央視新聞客戶端）