大皖新聞訊     如果有人說，AI即人工智能技術可以讓逝去的親人“復活“并與你互動，你會怎么想？大皖新聞記者觀察到，社交平臺小程序、電商平臺均有提供類似的服務，有商家表示價格從10元到幾百元不等，若達到95%的相似度，價格在2萬-8萬。面對與感動同時而來的爭議討論，律師分析認為，此類服務背后存在信息安全等隱患，依法依規(guī)進行監(jiān)管須提上日程。

現(xiàn)象：用AI換臉“復活”親人

近日，遼寧的孫先生在社交平臺發(fā)布一條視頻，視頻中，他介紹用AI換臉“復活”了已病逝的父親，以父親的口吻，向九旬的奶奶報平安。視頻發(fā)布后，感動了很多人。

而此前的報道中，知名音樂人包小柏表示，經過反復嘗試、訓練后，他如愿復刻出“數(shù)字女兒”，不僅可以及時回應對話，還為妻子唱了一首生日歌，“AI讓我明確地知道，能把思念的模式換一種工具來表達。”據公開報道，2021年12月20日，包小柏在個人社交媒體宣布了愛女離世的噩耗。

“就服務的客戶而言，AI換臉‘復活’最大的意義是對后人的治愈。”一位不愿具名的從業(yè)人士向記者介紹，客戶或帶著遺憾，或是源于思念等情感的需求提出想法。

其表示，就大家關心的制作流程，一般需要有逝者生前的視頻和音頻資料，根據目前的AI技術，可模擬出和真人高度相似的“數(shù)字人物形象“，來創(chuàng)造更真實的體驗，實現(xiàn)一種跨越生死的互動， “制作需要一周左右。”

觀察：有商家報價2萬-8萬不等

記者以“AI換臉”為關鍵詞搜索，在某社交平臺有多個提供服務的小程序。在電商平臺也有不少商家提供用AI技術“復活”已故親人的服務，價格從10元到幾百元不等。有商家稱可提供定制，若達到95%的相似度，價格在2萬-8萬不等。

“看你的需求，只是照片動起來50元，時長是13秒。”一平臺商家表示，讓照片開口講話則按時長收費，一秒10元。其介紹，如果要定制，需提供一張正面照，一段音頻，“如果沒有，你提供文字內容生成配音。”

對還原的相似度，其未正面回應。記者注意到，有網民購買后評論稱“這家真實，看到了奶奶真好。”另一商家客服人員表示，需提供照片，還原效果可眨眼微笑，由客戶提供音頻，聲音相似度為80%。

“AI數(shù)字人親人復活技術，一比一還原。”一商家介紹，簡單的制作還原幾十塊到百十塊錢，如果是AI換臉，想要一比一復刻出逝去親人的，最少萬起，不管是聲音還是外貌相似幾乎一樣，95%以上相似度，價格在2萬-8萬不等。

一家智能科技有限公司在其官方微信發(fā)布的信息顯示，已助力數(shù)千家庭AI重聚，1:1克隆還原本人的外貌、聲音、性格，為用戶呈現(xiàn)擁有個人情感、真實外形的數(shù)字化智能體。

聲音：溫暖互動也擔心被濫用

對用AI換臉“復活”親人的現(xiàn)象，有網民表示，“這才是AI的正確打開方式！”“這是AI技術的新型運用，科技就應該用在溫暖的地方。

但有不少網民表示擔憂，“將這種技術變成一門生意，會不會引發(fā)一些道德和倫理問題？”有網民直接發(fā)問“會不會被濫用，制造虛假信息誤導大家，甚至用于詐騙？”

記者注意到，在電商平臺提供此類服務的商家不少都標明了不做人臉識別，只做去世懷念。在溝通中，商家客服也多次強調，沒有辦法克隆或者模擬聲音，人臉識別請繞道。

警惕：有人利用AI造謠被處罰

隨著科技的不斷發(fā)展， 近年來，AI人工智能技術的應用已十分普遍，但相關的爭議也一直不斷，有不法分子動起了歪腦筋，AI換臉詐騙、利用AI造謠等案例也出現(xiàn)在公眾視野。

3月11日下午，安徽警方發(fā)布打擊整治網絡謠言和網絡暴力專項行動典型案例。其中一起案例中，網民楊某在某平臺發(fā)布戰(zhàn)斗機飛行視頻并宣稱要打仗了。經核實，楊某為博取關注，在某平臺發(fā)布使用AI技術制作戰(zhàn)斗機飛行視頻，并配發(fā)“即將打仗”的謠言信息。目前，六安警方已依法對楊某予以行政處罰。

據央視3月份報道，在香港警方披露的一起多人“AI換臉”詐騙案中，一家跨國公司香港分部的職員受邀參加總部首席財務官發(fā)起的“多人視頻會議”。經查，所謂的視頻會議中只有受害人一個人是“真人”，其他“參會人員”都是經過“AI換臉”后的詐騙人員，涉案金額高達2億港元。

北京市朝陽區(qū)人民法院法官提示，利用AI技術實施詐騙的套路，主要有定向詐騙、聲音合成詐騙和換臉詐騙。

那么，如何判斷對面是真人還是“AI”人，中國科技大學網絡空間安全學院執(zhí)行院長俞能海此前提醒，可以讓對方摁鼻子、摁臉，通過觀察其面部變化來判斷對方身份的真實性。

分析：服務背后存在信息安全等隱患

北京天馳君泰（合肥）律師事務所張慧律師分析認為，這種服務背后存在不少安全隱患，一方面是信息安全，其表示，要創(chuàng)造逝者的AI虛擬數(shù)字人形象,首先需要獲取到逝者本人的肖像、聲音、姓名、聊天文本等各種敏感信息與數(shù)據，這些個人信息都關涉?zhèn)€體的核心隱私權利和自主性，很容易在創(chuàng)設虛擬數(shù)字人的過程中產生隱私暴露風險，侵犯逝者的人格尊嚴。

同時，應考慮到數(shù)據安全，“平臺收集消費者隱私數(shù)據后保護措施是否充分，是否會對消費者提供的數(shù)據進行存儲和使用，其數(shù)據庫可能存在數(shù)據被黑客攻擊或非法獲取的風險。”其認為，這些技術可能被不法分子盜取濫用，甚至用于網絡犯罪，造成社會公益、個人合法權利的損害。

另一方面，使用AI虛擬數(shù)據技術“復活”已故親人，可能引發(fā)道德和倫理上的爭議，“如對死者的尊重、對生者情感的影響等，這種服務可能會給逝者親人留下的情感和記憶帶來混淆和困惑。 ”

建議：依法依規(guī)進行監(jiān)管須提上日程

面對門檻越來越低、技術愈發(fā)成熟的AI虛擬數(shù)據人技術，北京天馳君泰（合肥）律師事務所江啟航律師也表示，對其依法依規(guī)進行監(jiān)管須提上日程。

“雖然這類使用AI虛擬數(shù)據技術‘復活’已故親人的服務在一定程度上滿足了人們的情感需求，但在實際應用中需要關注其合法性、倫理性及安全隱患，并采取相應的措施來保障用戶的權益和安全，應當認識到該項新服務的局限性和潛在的社會風險，不能放任其濫用。”

其認為，此類服務應當重點關注逝者的人格權保護，確保不侵害逝者及其家屬的合法權益。“相關部門應對這類服務及市場主體進行監(jiān)管，制定相關法規(guī)和準則，明確使用者提供個人信息的權限和限制，確保其合規(guī)合法經營。”同時，其認為該類服務的供應商應提供合理清晰的用戶協(xié)議，電商平臺和服務提供者應采取有效措施保護用戶數(shù)據安全，防止信息泄露和濫用，確保數(shù)據合法合規(guī)使用。

“作為用戶，在選擇使用這種服務時，應理性對待，權衡利弊，避免沉溺于虛擬的親人之中，影響正常的生活和社交。”

大皖新聞記者 趙琳

編輯  張思平