美國知名歌手泰勒·斯威夫特再度成為了AI深度偽造的受害者，近日，大量由人工智能生成的泰勒虛假色情、血腥照片在多個社交平臺瘋傳，瀏覽量已超過千萬，引發社交媒體震動，這也引發了美國白宮的注意。

深度偽造的“泰勒·斯威夫特”在網上瘋傳

泰勒團隊或將起訴相關網站

據報道1月26日，白宮發言人皮埃爾在記者會上回應了這一事件，并表示：“我們對這種圖片的流傳感到震驚。雖然社交媒體公司在內容管理方面作出了自己的獨立決定，但我們認為他們在執行自己規則方面可以發揮重要作用，以防止錯誤信息和未經同意的真實人物的私密圖像傳播。”她還尤其補充了執法不嚴對女性的影響更大，她們是網絡騷擾的主要目標。

據了解，這些深度偽造的泰勒照片是由某人或某些人使用AI生成并上傳到了一家不良網站上，這一網站上充斥了眾多以名人為主角的不雅照，虛假照片很快傳播到了主流社交媒體并在網友之間迅速傳播，這也引起了泰勒數以千萬粉絲的強烈不滿和憤怒，粉絲們發起了“保護泰勒”的話題，“這太惡心了，這是非法的。”“停止傳播斯威夫特的人工智能圖片，她是一個有感情的人，她會受傷。”“尊重泰勒·斯威夫特，尊重所有女性。”

目前部分參與傳播的賬號已被社交平臺封禁，各社交平臺也在清除流傳的圖片，但是漏網之魚依然存在，有人自建網站或者通過匿名群組售賣這些深度偽造的照片。實際上這不是泰勒第一次成為AI深度偽造的受害者，就在不久前，有人使用人工智能技術仿造了她的聲音和形象來為商品進行推廣，讓消費者誤以為這是泰勒代言的商品。據報道，目前泰勒的團隊已在考慮通過法律手段來應對這一事件，傳播虛假照片的網站可能會面臨法律訴訟。

AI深度偽造技術引大眾不安

立法約束迫在眉睫

在粉絲們為泰勒的遭遇而深感憤怒的同時，其他網民則傳達出了對AI深度偽造技術的發展感到強烈不安的聲音，“泰勒是影響力很大的明星，要是我們普通人也被深度偽造了不雅照可怎么辦？”“AI發展的太快太恐怖了，我都不敢想如果是我那真的要跳進黃河洗不清了。”“支持AI立法，濫用危害太大了。”“這真的和我們的生活息息相關，ai照片視頻的人類面部表情已經很像真人了，聲音也能模仿得一樣，這樣的騙局普通人難以分辨。”從2023年起，國內已發生多起AI深度偽造詐騙案件，中招率相當高，叫人防不勝防，也已出現了多起利用AI技術造黃謠、傳播不良信息的惡性事件。

面對以假亂真的AI偽造技術，國內外的專家學者、相關領域的企業機構也想過不少應對辦法，比如在去年12月，一款名為mist的隱形圖片水印在網上開源發布，該水印用于抵抗AI模型對圖片的訓練和抓取，這一水印能夠極大程度的干擾AI模型，使之生成的圖片遭受不同程度的破壞。此外，也有開發者建議讓AI生成平臺、公司給相關的AI生成軟件加上隱形水印機制，以快速識別AI并進行溯源，各個社交平臺也應以技術手段加強對于疑似AI生成圖、文、視頻內容的識別功能。在國內抖音、小紅書等平臺也已對疑似為AI生成的圖文視頻內容進行標識以提示用戶小心分辨真假。

然而說到底，這些防止AI、識別AI的技術手段是治標不治本的，對AI深度偽造只能起到有限的阻止、震懾作用，深度偽造技術的泛濫根源之一在于其中有利可圖，制造傳播這些深度偽造圖片、視頻的人不僅僅是出于個人的獵奇心態，還可能從中獲得高額回報，即便國家法律認定AI深度偽造是不合法的行為，也無法阻止利欲熏心者繼續濫用這一技術。對AI技術的管控已經不能僅停留在倡議、呼吁的階段，規范的立法和相應的懲處制度的推行也迫在眉睫，Ai技術不是洪水猛獸，但確實需要一個能約束它的鐵籠。

據紫牛新聞