因?yàn)橐豁?xiàng)“危險(xiǎn)技術(shù)”，11家互聯(lián)網(wǎng)企業(yè)被約談。近日，針對(duì)近期未履行安全評(píng)估程序的語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān)，依法約談?dòng)晨?、小米?1家企業(yè)。

對(duì)于運(yùn)用深度偽造技術(shù)制作出來(lái)的產(chǎn)品，使用智能手機(jī)的公眾或許并不陌生。不久前，短視頻領(lǐng)域出現(xiàn)了一款火爆的“螞蟻呀嘿”。玩家只要上傳一張照片，照片上的人就能扭脖子瞪眼睛地唱上一首“螞蟻呀嘿”。2019年國(guó)內(nèi)紅極一時(shí)的換臉軟件“ZAO”，其基礎(chǔ)也是深度偽造技術(shù)。

有了PS后，有圖也不一定有真相;有了深度偽造，所看所聽(tīng)未必是真相。但與使用PS不同，即使是不具備相應(yīng)技術(shù)的普通人，也能輕松運(yùn)用深度偽造技術(shù)來(lái)實(shí)現(xiàn)“換臉”。

廣東財(cái)經(jīng)大學(xué)法學(xué)院教授姚志偉3月26日接受《法治日?qǐng)?bào)》記者采訪時(shí)說(shuō)，深度偽造技術(shù)本身被廣泛運(yùn)用存在較大風(fēng)險(xiǎn)，其風(fēng)險(xiǎn)不僅在于會(huì)侵犯公民個(gè)人權(quán)利，還在于可能導(dǎo)致公共安全方面的危險(xiǎn)。如果不對(duì)該技術(shù)的使用進(jìn)行規(guī)制，將會(huì)產(chǎn)生可怕的后果。

中國(guó)法學(xué)會(huì)商法學(xué)研究會(huì)理事、北京華訊律師事務(wù)所主任張韜說(shuō)，深度偽造技術(shù)不僅涉及民法典所保護(hù)的人格權(quán)、肖像權(quán)等法律問(wèn)題，還涉及個(gè)人生物信息的提取、識(shí)別、利用以及保護(hù)等諸多方面問(wèn)題。因此，立法機(jī)關(guān)在制定個(gè)人信息保護(hù)法、數(shù)據(jù)安全法等相關(guān)法律時(shí)，應(yīng)當(dāng)針對(duì)這類新問(wèn)題作出相應(yīng)的制度設(shè)計(jì)。

低門檻高效率蘊(yùn)含更大威脅

所謂深度偽造，是指有關(guān)軟件通過(guò)AI“換臉”、語(yǔ)音模擬、視頻生成等方式，對(duì)既有圖像、聲音、視頻進(jìn)行篡改、偽造，自動(dòng)生成音視頻產(chǎn)品。

不可否認(rèn)，深度偽造技術(shù)有一定的正向作用。該技術(shù)可以輔助科研、教學(xué)、藝術(shù)創(chuàng)作等，例如，在教育領(lǐng)域，逼真的虛擬教師可以讓數(shù)字教學(xué)更具互動(dòng)性和趣味性，合成的歷史人物講解視頻可以讓受眾更有代入感。

然而，與深度偽造技術(shù)的正面效應(yīng)相比，其所蘊(yùn)含的潛在威脅和安全隱患，更加引人關(guān)注。

盡管在深度偽造技術(shù)出現(xiàn)之前，也有技術(shù)能夠?qū)崿F(xiàn)“換臉”，例如PS技術(shù)。但與以往的技術(shù)相比，深度偽造技術(shù)有著更高效率、更低門檻、更高質(zhì)量的優(yōu)勢(shì)，這使得該技術(shù)在制造虛假人像和視頻方面具有更加顯著的優(yōu)勢(shì)。

“具備多種優(yōu)勢(shì)的深度偽造技術(shù)，使得普通人能夠輕松地自行進(jìn)行‘換臉’，制作虛假人像圖像和視頻成本極低。在兼具高仿真與高效率的人工智能協(xié)助下，海量的‘換臉’圖像和視頻可以隨時(shí)產(chǎn)生并傳播，短時(shí)間風(fēng)靡互聯(lián)網(wǎng)。對(duì)于這樣一種技術(shù)，如果不進(jìn)行規(guī)制，無(wú)疑將產(chǎn)生可怕的后果。因此，在這種背景下，國(guó)內(nèi)外都已有立法動(dòng)作進(jìn)行回應(yīng)。”姚志偉說(shuō)。

危害公眾利益乃至國(guó)家安全

深度偽造技術(shù)一旦泛濫應(yīng)用，勢(shì)必會(huì)對(duì)公眾的人身、財(cái)產(chǎn)等合法權(quán)益造成侵害。

例如，利用深度偽造技術(shù)實(shí)現(xiàn)移花接木，會(huì)對(duì)他人名譽(yù)權(quán)構(gòu)成侵害。制作虛假色情視頻，是深度偽造技術(shù)最早也是最常見(jiàn)的非法運(yùn)用方式之一。利用該技術(shù)能將一些知名歌星、影星等公眾人物的臉移轉(zhuǎn)到色情明星身上，偽造逼真的色情場(chǎng)景。

清華大學(xué)法學(xué)院教授程嘯指出，這些虛假色情視頻一經(jīng)傳播，公眾可能真假莫辨，從而導(dǎo)致受害人的名譽(yù)嚴(yán)重受損。即便不是用于制作色情視頻，深度偽造技術(shù)也完全可以通過(guò)制造虛假的視頻或音頻，侵害自然人、法人或非法人組織的名譽(yù)權(quán)，進(jìn)而給其造成財(cái)產(chǎn)損失以及精神損害。

不僅如此，深度偽造技術(shù)還會(huì)對(duì)公共安全、經(jīng)濟(jì)安全、國(guó)家安全造成威脅。

姚志偉說(shuō)，一旦深度偽造技術(shù)被濫用，公眾無(wú)從區(qū)分真假時(shí)，可能會(huì)對(duì)任何含有人像的圖像和視頻產(chǎn)生懷疑，這無(wú)疑會(huì)極大地沖擊媒體和政府的公信力，對(duì)社會(huì)信任體系造成重大損害，導(dǎo)致嚴(yán)重的社會(huì)信任危機(jī)。

“例如，在經(jīng)濟(jì)秩序方面，別有用心的人利用深度偽造技術(shù)，可以創(chuàng)造一家上市公司CEO宣稱公司即將破產(chǎn)的虛假視頻，我們可以想象，這個(gè)視頻對(duì)該公司股價(jià)的沖擊。”姚志偉說(shuō)。

民法典對(duì)此已有專門規(guī)定

程嘯指出，深度偽造技術(shù)的濫用會(huì)對(duì)公眾的合法權(quán)益造成損害，破壞社會(huì)秩序、經(jīng)濟(jì)秩序和政治秩序，損害社會(huì)公共利益乃至危害國(guó)家安全，因此，包括我國(guó)在內(nèi)的許多國(guó)家的法律都對(duì)其作出規(guī)范。

我國(guó)在編纂民法典時(shí)，有單位提出，利用信息技術(shù)手段“深度偽造”他人的肖像、聲音，不僅侵害自然人的人格權(quán)益，嚴(yán)重的還可能造成惡劣的社會(huì)影響，危害國(guó)家安全和社會(huì)公共利益，建議法律對(duì)深度偽造技術(shù)帶來(lái)的“換臉”等問(wèn)題予以回應(yīng)。

后來(lái)，民法典在制定時(shí)采納了這一意見(jiàn)——第一千零一十九條第一款規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

“對(duì)于深度偽造技術(shù)可能造成的風(fēng)險(xiǎn)，民法典中的相關(guān)規(guī)定已經(jīng)可以解決民事責(zé)任問(wèn)題，可以說(shuō)是提前作出了一定的回應(yīng)，這顯示出我國(guó)立法機(jī)關(guān)對(duì)于類似問(wèn)題的重視。但不可否認(rèn)的是，網(wǎng)絡(luò)法律制度依然有很大的空間需要完善。”張韜說(shuō)。

張韜認(rèn)為，從2019年的換臉軟件“ZAO”到此次11家互聯(lián)網(wǎng)企業(yè)被約談，深度偽造技術(shù)的潛在問(wèn)題或威脅已經(jīng)逐步顯露。盡管目前我國(guó)尚未發(fā)生因深度偽造技術(shù)而產(chǎn)生侵權(quán)糾紛案件，但不能不未雨綢繆進(jìn)行應(yīng)對(duì)。因此，立法機(jī)關(guān)應(yīng)當(dāng)完善網(wǎng)絡(luò)法律制度，對(duì)這類新問(wèn)題建立一整套新的制度。

對(duì)偽造場(chǎng)景應(yīng)進(jìn)行必要限制

值得注意的是，中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要(2020-2025年)》明確提出，要“制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問(wèn)答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。

張韜認(rèn)為，正在制定的個(gè)人信息保護(hù)法、數(shù)據(jù)安全法以及其他有關(guān)法律、行政法規(guī)在制定和修訂時(shí)，應(yīng)當(dāng)針對(duì)這類問(wèn)題進(jìn)行專門規(guī)定，以回應(yīng)和解決社會(huì)熱點(diǎn)問(wèn)題。

“在制定個(gè)人信息保護(hù)法和數(shù)據(jù)安全法時(shí)，對(duì)于深度偽造技術(shù)所能涉及或者應(yīng)用的場(chǎng)景應(yīng)進(jìn)一步加強(qiáng)規(guī)制?，F(xiàn)在的相關(guān)立法大多強(qiáng)調(diào)普適性的規(guī)定和適用，對(duì)很多具體、重要應(yīng)用場(chǎng)景的規(guī)定還不夠完善，因此，建議在立法的實(shí)踐應(yīng)用方面進(jìn)行加強(qiáng)。”張韜說(shuō)。

張韜建議，對(duì)深度偽造技術(shù)的研發(fā)和應(yīng)用，特別是市場(chǎng)化的應(yīng)用，要進(jìn)行必要的監(jiān)管;應(yīng)用深度偽造技術(shù)的音視頻“作品”，應(yīng)當(dāng)有水印或者其他顯著的標(biāo)識(shí)，以提醒用戶注意;對(duì)深度偽造技術(shù)“換臉”仿聲所應(yīng)用的具體場(chǎng)景，應(yīng)當(dāng)進(jìn)行必要的限制。

關(guān)鍵詞： 互聯(lián)網(wǎng)企業(yè)