【資料圖】

原標題：網(wǎng)信辦發(fā)布 境內(nèi)深度合成服務算法備案清單

6月20日，國家互聯(lián)網(wǎng)信息辦公室（下稱“網(wǎng)信辦”）發(fā)布境內(nèi)深度合成服務算法備案清單，其中包括美團在線智能客服算法、快手短視頻生成合成算法、百度文生圖內(nèi)容生成算法、百度PLATO大模型算法、天貓小蜜智能客服算法等41則深度合成服務算法備案信息。

“算法備案同審查與評估一樣，是監(jiān)管重要環(huán)節(jié)之一，備案清單的發(fā)布有利于促使備案單位進一步加強合規(guī)管理?！惫ば挪啃禄ㄖ卮箜椖吭u審專家、北京郵電大學科技園元宇宙產(chǎn)業(yè)協(xié)同創(chuàng)新中心執(zhí)行主任陳曉華在接受《證券日報》記者采訪時表示，這體現(xiàn)了我國對此輪人工智能引領的科技變革的重視，針對生成式算法的法規(guī)標準化步伐正在加速推進。隨著相關監(jiān)管條例逐步清晰，我國AI產(chǎn)業(yè)生態(tài)將更加規(guī)范有序。

所謂深度合成技術是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術。去年12月份，由網(wǎng)信辦等三部門發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（下稱《規(guī)定》）明確，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照相關規(guī)定履行備案和變更、注銷備案手續(xù)。同時，完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網(wǎng)站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

“設立境內(nèi)深度合成服務算法備案清單是對《規(guī)定》的貫徹和落實，旨在對尚未履行備案手續(xù)的深度合成服務提供者和技術支持者起到引導作用，也讓公眾獲得了解、查詢相關主體是否履行備案手續(xù)的渠道?！眹坡蓭煟ㄉ虾＃┦聞账蓭熤燹绒葘Α蹲C券日報》記者表示。

深度合成技術最大的特點之一是“以假亂真”，通過人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)能夠使人難辨真假。例如，5月8日，包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙的案件，涉案金額超330萬元。據(jù)相關通報，行騙者通過AI換臉和擬聲技術，佯裝受害者熟人以實施詐騙。

對此，清華大學研究生院院長周杰表示，深度合成技術快速發(fā)展的同時，也帶來了新的安全風險。誤用、濫用以及惡意使用深度合成技術生成的數(shù)據(jù)，將為個人、企業(yè)帶來聲譽損害和財產(chǎn)損失，甚至對國家安全、社會穩(wěn)定造成威脅。

在此背景下，生成式AI（AIGC）產(chǎn)品進一步規(guī)范迫在眉睫。在朱奕奕看來，此次網(wǎng)信辦發(fā)布境內(nèi)深度合成服務算法備案清單，將引導尚未履行備案手續(xù)的深度合成服務提供者和技術支持者盡快申請備案。同時，也方便公眾了解相關信息后進行監(jiān)督、投訴、舉報。

對于相關企業(yè)來說，朱奕奕表示，一方面應依法履行備案手續(xù)，在提供深度合成服務時應嚴格遵守相關法律法規(guī)、行業(yè)標準、準則及自律管理制度，尊重社會公德和倫理道德；另一方面，應積極承擔起社會監(jiān)督責任，例如在運營過程中發(fā)現(xiàn)違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向網(wǎng)信部門和有關主管部門報告。

此外，朱奕奕提示，相關規(guī)定中僅明確了通過隱瞞有關情況、提供虛假材料等不正當手段取得備案情況下的法律責任，但并未規(guī)定未履行備案手續(xù)而直接提供深度合成服務，或未履行備案手續(xù)而直接為深度合成服務提供技術支持的法律責任。后續(xù)需在配套政策細則中予以補充、完善。

(責編：楊曦、陳鍵)關注公眾號：人民網(wǎng)財經(jīng)

關鍵詞：