近日，四部門聯(lián)合印發(fā)《人工智能生成合成內(nèi)容標(biāo)識辦法》（下稱《標(biāo)識辦法》），規(guī)定人工智能生成合成內(nèi)容應(yīng)當(dāng)添加標(biāo)識，標(biāo)識分為以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的顯式標(biāo)識和在文件數(shù)據(jù)中添加的不易被用戶明顯感知到的隱式標(biāo)識。該辦法自2025年9月1日起施行。

可看過電視劇《真相捕捉》？是一部講主人公卷入視頻監(jiān)控偽造的綁架案的懸疑驚悚劇。直播內(nèi)容可以實時篡改，“眼見為實”打上問號，個體在技術(shù)操控面前毫無招架之力。

隨著人工智能技術(shù)的飛速發(fā)展，這部五年前的劇表達的對技術(shù)濫用后果的警示和擔(dān)憂，越來越“寫實”。今年1月，西藏日喀則市定日縣發(fā)生地震，社交媒體上大量傳播“小孩被壓廢墟下”圖片，后證實為AI生成；去年美國弗洛里達州被颶風(fēng)襲擊，一個小女孩抱著小狗在救生艇上哭泣的圖片，系A(chǔ)I生成；去年10月，“雷軍AI配音”視頻在網(wǎng)上傳播，雷軍本人表示，“人工智能技術(shù)興起以后產(chǎn)生了很多新問題，相關(guān)部門要提前預(yù)判，提前立法。”

人工智能是一把雙刃劍。在帶來效率提高、技術(shù)創(chuàng)新等諸多好處的同時，AI生成技術(shù)的濫用、深度偽造等，很可能導(dǎo)致一個真假難辨的世界。一方面，生產(chǎn)制造傳播虛假信息的成本和門檻大幅降低，出于娛樂消遣、流量沖動、逐利等各種動機的虛假消息充斥于網(wǎng)絡(luò)，有研究報告指出，人工智能生成的非法內(nèi)容數(shù)量增多，技術(shù)濫用呈現(xiàn)規(guī)模化特質(zhì)。另一方面，用于辨別和核實的成本、時間和資源投入大大增加，真相往往跑不過謠言。

對新技術(shù)缺乏了解的人群屢次受騙，容易產(chǎn)生“狼來了”心理效應(yīng)。真假難辨、信任坍塌，最可怕的后果是真實受到傷害。如果放任災(zāi)難事件中類似“被壓廢墟下小孩”AI生成圖片，隨意消費、傷害公眾的善意和憐憫心，等到真實照片、真實需要急救的場景出現(xiàn)，人們是疑心又一次AI“狼來了”，還是及時出手相助呢？等待的后果是我們能承受的嗎？

在這個背景下，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等制定的《標(biāo)識辦法》可謂適時而出。其中第十條明確規(guī)定，用戶使用網(wǎng)絡(luò)信息傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進行標(biāo)識。AI出場即要亮明身份，真實才能更好“生存”。

在“眼見未必為實”的時代，愈發(fā)凸顯捍衛(wèi)真實的意義。對普通人而言，要有意識鍛煉深度思考能力、提高技術(shù)使用能力、提升媒體素養(yǎng)，不用技術(shù)成果作惡，不參與生產(chǎn)傳播虛假信息。對平臺而言，應(yīng)堅持科技向善，加強技術(shù)篩查，發(fā)現(xiàn)虛假、有害信息，要按規(guī)定作出顯著標(biāo)識、盡快下架等相應(yīng)處理。對管理者而言，應(yīng)強化監(jiān)管，搭建合理有效的監(jiān)管框架，多方協(xié)同、統(tǒng)籌治理發(fā)揮效用。（小草）

編輯 王翠