(相關(guān)資料圖)

近年來，多地警方破獲“變臉”詐騙案，有的不法分子用AI換臉技術(shù)，冒充被害人在社交平臺上進行詐騙；有的將一張張靜態(tài)照片制作為人臉動態(tài)視頻，甚至還能逼真地點頭、眨眼、皺眉……這些新型詐騙的出現(xiàn)，與深度合成技術(shù)的濫用有關(guān)。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，自2023年1月10日起施行，劃定了深度合成服務(wù)的“底線”和“紅線”，維護網(wǎng)絡(luò)空間良好生態(tài)。

技術(shù)發(fā)展與風險挑戰(zhàn)往往相伴而生。深度合成技術(shù)，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。從生成虛擬主播到搭建元宇宙場景，從影視中的特效制作到社交媒體上的美顏美妝，深度合成技術(shù)的迅猛發(fā)展催生了大量應(yīng)用，在教育、影視、傳媒等領(lǐng)域扮演著日益重要的角色。然而，能夠“以假亂真”的深度合成技術(shù)，也帶來了深度偽造的風險——一些不法人員將其用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。

網(wǎng)絡(luò)空間不是法外之地，真實與虛假的邊界更模糊不得。《法治社會建設(shè)實施綱要（2020—2025年）》就制定完善“算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”提出了明確要求。特別是隨著深度合成技術(shù)門檻大幅降低，普通人都可能利用一些軟件或工具，制作出真假難辨的合成內(nèi)容。這種技術(shù)普及化的趨勢，讓加快推進其依法合理有效利用顯得尤為迫切。對此，近年來，一系列法律法規(guī)相繼將其納入監(jiān)管，如今通過對應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)制定系統(tǒng)性、專門性規(guī)定，明確各類主體的信息安全義務(wù)，進一步為促進深度合成服務(wù)規(guī)范發(fā)展提供了有力法治保障。

明確“底線”“紅線”，才能為長遠發(fā)展留足空間。人工智能和大數(shù)據(jù)技術(shù)的飛速發(fā)展，讓深度合成技術(shù)在未來的應(yīng)用前景愈發(fā)廣闊。安全是發(fā)展的前提，對技術(shù)的善用為良性發(fā)展、造福社會提供了基礎(chǔ)，而不加約束的濫用注定只能結(jié)出阻礙自身發(fā)展的“毒瘤”。我國擁有海量數(shù)據(jù)資源、巨大應(yīng)用需求、深厚市場潛力，讓技術(shù)實現(xiàn)向上向善，才能充分發(fā)揮這些得天獨厚的發(fā)展優(yōu)勢，最大程度使技術(shù)進步趨利避害，提升廣大人民群眾在網(wǎng)絡(luò)空間的獲得感、幸福感、安全感。

黨的二十大報告明確提出：“健全網(wǎng)絡(luò)綜合治理體系，推動形成良好網(wǎng)絡(luò)生態(tài)。”技術(shù)進步不會等待我們準備萬全才出現(xiàn)，面對日新月異的數(shù)字化浪潮，相關(guān)治理既不能因噎廢食，更不能放任自流。從完善制度、加強監(jiān)管，更好發(fā)揮法治固根本、穩(wěn)預(yù)期、利長遠的保障作用，到以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，做到魔高一尺、道高一丈，再到鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度……統(tǒng)籌發(fā)展與安全，既是在守正創(chuàng)新中不斷探索新技術(shù)、新應(yīng)用、新業(yè)態(tài)的治理路徑，更是立足自身實踐為全球相關(guān)科技治理提供中國方案、貢獻中國智慧。

關(guān)鍵詞： 金臺銳評