1.登錄中華人民共和國司法部 中國政府法制信息網(wǎng)（www.moj.gov.cn、www.chinalaw.gov.cn），進入首頁主菜單的“立法意見征集”欄目提出意見。
2.通過電子郵件將意見發(fā)送至：shenduhecheng@cac.gov.cn。
3.通過信函將意見寄至：北京市西城區(qū)車公莊大街11號國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)法治局，郵編：100044，并請在信封上注明“互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定征求意見”字樣。
意見反饋截止日期為2022年2月28日。
附件1：互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）
附件2：關(guān)于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》的說明
國家互聯(lián)網(wǎng)信息辦公室
2022年1月28日
互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定
（征求意見稿）
第一條 為了規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，制定本規(guī)定。
第二條 在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)（以下簡稱深度合成服務(wù)），以及為深度合成服務(wù)提供技術(shù)支持的活動，適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。
本規(guī)定所稱深度合成技術(shù)，是指利用以深度學習、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)，包括但不限于：
�。ㄒ唬┢律伞⑽谋撅L格轉(zhuǎn)換、問答對話等對文本內(nèi)容進行生成或者編輯的技術(shù)；
�。ǘ┪谋巨D(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等對語音內(nèi)容進行生成或者編輯的技術(shù)；
�。ㄈ┮魳飞�、場景聲編輯等對非語音內(nèi)容進行生成或者編輯的技術(shù)；
�。ㄋ模┤四樕伞⑷四樚鎿Q、人物屬性編輯、人臉操控、姿態(tài)操控等對圖像、視頻內(nèi)容中人臉等生物特征進行生成或者編輯的技術(shù)；
�。ㄎ澹﹫D像增強、圖像修復(fù)等對圖像、視頻內(nèi)容中非生物特征進行編輯的技術(shù)；
�。┤S重建等對虛擬場景進行生成或者編輯的技術(shù)。
深度合成服務(wù)提供者，是指提供深度合成服務(wù)以及為深度合成服務(wù)提供技術(shù)支持的組織。
深度合成服務(wù)使用者，是指使用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播信息的組織、個人。
第三條 國家網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)全國深度合成服務(wù)治理和相關(guān)監(jiān)督管理工作。地方網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的深度合成服務(wù)治理和相關(guān)監(jiān)督管理工作。
第四條 深度合成服務(wù)提供者和深度合成服務(wù)使用者應(yīng)當遵守法律法規(guī)，尊重社會公德和倫理，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務(wù)向上向善。
第五條 鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度，督促指導深度合成服務(wù)提供者制定完善服務(wù)規(guī)范、加強信息內(nèi)容安全管理、依法提供服務(wù)并接受社會監(jiān)督。
第六條 任何組織和個人不得利用深度合成服務(wù)從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，不得制作、復(fù)制、發(fā)布、傳播含有煽動顛覆國家政權(quán)、危害國家安全和社會穩(wěn)定、淫穢色情、虛假信息，以及侵害他人名譽權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益等法律法規(guī)禁止內(nèi)容的信息。
第七條 深度合成服務(wù)提供者應(yīng)當落實信息安全主體責任，建立健全算法機制機理審核、用戶注冊、信息內(nèi)容管理、數(shù)據(jù)安全和個人信息保護、未成年人保護、從業(yè)人員教育培訓等管理制度，具有與新技術(shù)新應(yīng)用發(fā)展相適應(yīng)的安全可控的技術(shù)保障措施。
第八條 深度合成服務(wù)提供者應(yīng)當制定并公開管理規(guī)則和平臺公約，完善服務(wù)協(xié)議，以顯著方式提示深度合成服務(wù)使用者信息安全義務(wù)，并依法依約履行相應(yīng)管理責任。
第九條 深度合成服務(wù)提供者應(yīng)當依法對深度合成服務(wù)使用者進行真實身份信息認證。深度合成服務(wù)使用者不進行真實身份信息認證的，深度合成服務(wù)提供者不得為其提供信息發(fā)布服務(wù)。
第十條 深度合成服務(wù)提供者應(yīng)當加強深度合成信息內(nèi)容管理，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進行審核；建立健全用于識別違法和不良深度合成信息內(nèi)容的特征庫，完善入庫標準、規(guī)則和程序；對違法和不良信息依法采取相應(yīng)處置措施，并對相關(guān)深度合成服務(wù)使用者依法依約采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號等處置措施。
第十一條 深度合成服務(wù)提供者應(yīng)當加強深度合成技術(shù)管理，定期審核、評估、驗證算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應(yīng)當自行開展安全評估，預(yù)防信息安全風險。
第十二條 深度合成服務(wù)提供者應(yīng)當加強訓練數(shù)據(jù)管理，確保數(shù)據(jù)處理合法、正當，采取必要措施保障數(shù)據(jù)安全。訓練數(shù)據(jù)包含涉及個人信息數(shù)據(jù)的，還應(yīng)當遵守個人信息保護有關(guān)規(guī)定，不得非法處理個人信息。
深度合成服務(wù)提供者提供人臉、人聲等生物識別信息的顯著編輯功能的，應(yīng)當提示深度合成服務(wù)使用者依法告知并取得被編輯的個人信息主體的單獨同意。法律、行政法規(guī)另有規(guī)定的除外。
第十三條深度合成服務(wù)提供者對使用其服務(wù)所制作的深度合成信息內(nèi)容，應(yīng)當通過有效技術(shù)措施在信息內(nèi)容中添加不影響用戶使用的標識，依法保存日志信息，使發(fā)布、傳播的深度合成信息內(nèi)容可被自身識別、追溯。
第十四條 深度合成服務(wù)提供者提供以下深度合成服務(wù)的，應(yīng)當使用顯著方式對深度合成信息內(nèi)容進行標識，向社會公眾有效提示信息內(nèi)容的合成情況：
�。ㄒ唬┨峁┲悄軐υ挕⒅悄軐懽鞯饶M自然人進行文本生成或者編輯服務(wù)的，在文本信息內(nèi)容的稿源說明處等位置進行顯著標識；
�。ǘ┨峁┖铣扇寺暋⒎侣暤日Z音生成或者顯著改變個人身份特征的編輯服務(wù)的，在音頻信息內(nèi)容的合理區(qū)域以語音說明等方式進行顯著標識；
�。ㄈ┨峁┤四樕�、人臉替換、人臉操控、姿態(tài)操控等虛擬人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)的，在圖像、視頻信息內(nèi)容的明顯位置進行顯著標識；
�。ㄋ模┨峁┏两綌M真場景等生成或者編輯服務(wù)的，在虛擬場景信息內(nèi)容的明顯位置進行顯著標識；
�。ㄎ澹┨峁┢渌哂猩苫蛘唢@著改變信息內(nèi)容功能的服務(wù)的，在文本、圖像、音頻或者視頻、虛擬場景等的合理位置或者區(qū)域進行顯著標識。
深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當向深度合成服務(wù)使用者提供對深度合成信息內(nèi)容進行顯著標識的功能，并提示深度合成服務(wù)使用者可以對深度合成信息內(nèi)容進行顯著標識。
第十五條 深度合成服務(wù)提供者發(fā)現(xiàn)第十四條第一款規(guī)定的深度合成信息內(nèi)容未進行顯著標識的，應(yīng)當立即停止傳輸該信息，按照規(guī)定作出顯著標識后，方可繼續(xù)傳輸。
第十六條 互聯(lián)網(wǎng)應(yīng)用商店服務(wù)提供者應(yīng)當對深度合成服務(wù)提供者提供的深度合成應(yīng)用程序履行安全管理責任，依法依約核驗深度合成應(yīng)用程序的安全評估、備案等情況；對違反國家有關(guān)規(guī)定的，應(yīng)當及時采取不予上架、暫停上架或者下架等處置措施。
第十七條 深度合成服務(wù)提供者應(yīng)當建立健全辟謠機制，發(fā)現(xiàn)深度合成信息服務(wù)使用者利用深度合成技術(shù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當及時采取相應(yīng)的辟謠措施，并將相關(guān)信息報網(wǎng)信等部門備案。
第十八條 深度合成服務(wù)提供者應(yīng)當設(shè)置便捷有效的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理并反饋處理結(jié)果。
第十九條 深度合成服務(wù)提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的有關(guān)規(guī)定，在提供服務(wù)之日起十個工作日內(nèi)履行備案手續(xù)。
完成備案的深度合成服務(wù)提供者應(yīng)當在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標明其備案編號并提供公示信息鏈接。
第二十條 深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。
第二十一條 各級網(wǎng)信部門對深度合成信息服務(wù)提供者履行深度合成信息內(nèi)容管理主體責任情況開展監(jiān)督檢查，對存在問題的深度合成信息服務(wù)提供者及時提出整改意見并限期整改。
深度合成服務(wù)提供者對網(wǎng)信部門依法實施的監(jiān)督檢查，應(yīng)當予以配合，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。
第二十二條 違反本規(guī)定第七條、第八條、第十條、第十一條、第十三條、第十四條、第十五條、第十六條、第十七條、第十八條、第二十條、第二十一條第二款規(guī)定，法律、行政法規(guī)有規(guī)定的，依照其規(guī)定；法律、行政法規(guī)沒有規(guī)定的，由國家和省、自治區(qū)、直轄市網(wǎng)信部門依據(jù)職責給予警告，責令限期改正，改正前應(yīng)當暫停相關(guān)業(yè)務(wù)；拒不改正或者情節(jié)嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款。
違反本規(guī)定第六條、第九條、第十二條、第十九條規(guī)定的，由國家和省、自治區(qū)、直轄市網(wǎng)信部門依據(jù)職責，按照有關(guān)法律、行政法規(guī)和部門規(guī)章的規(guī)定予以處理。
違反本規(guī)定，給他人造成損害的，依法承擔民事責任；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責任。
第二十三條 本規(guī)定中下列用語的含義：
場景聲，是指音頻中非語音內(nèi)容的背景聲音。
人臉操控，是指對圖像、視頻中人物的面部表情等進行操控。
姿態(tài)操控，是指對圖像、視頻中人物的肢體動作等進行操控。
三維重建，是指利用數(shù)據(jù)生成或者編輯場景三維立體影像的深度合成技術(shù)。
訓練數(shù)據(jù)，是指被用于訓練機器學習模型的標注或者基準數(shù)據(jù)集。
沉浸式擬真場景，是指通過深度合成技術(shù)生成或者編輯的、可供參與者體驗或者互動的、具有高度真實感的虛擬場景。
第二十四條 本規(guī)定由國家互聯(lián)網(wǎng)信息辦公室負責解釋。
第二十五條 本規(guī)定自 年 月 日起施行。
關(guān)于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》的說明
為了規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》（以下稱《規(guī)定（征求意見稿）》）。有關(guān)情況說明如下：
一、制定的必要性
（一）貫徹黨中央決策部署的重要舉措。黨的十九大報告提出“加強互聯(lián)網(wǎng)內(nèi)容建設(shè)，建立網(wǎng)絡(luò)綜合治理體系，營造清朗的網(wǎng)絡(luò)空間”的任務(wù)要求。黨中央印發(fā)的《法治社會建設(shè)實施綱要（2020－2025年）》提出制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。落實黨中央決策部署，需要統(tǒng)籌安全與發(fā)展，加快制定完善制度規(guī)范，促進深度合成技術(shù)依法合理有效利用。
（二）維護網(wǎng)絡(luò)空間良好生態(tài)的現(xiàn)實需要。網(wǎng)絡(luò)空間是億萬民眾共同的家園，互聯(lián)網(wǎng)信息服務(wù)深度合成活動在服務(wù)用戶需求、改進用戶體驗的同時，也被一些不法分子用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，不僅損害人民群眾的切身利益，甚至危害國家安全和社會穩(wěn)定，迫切需要劃定“底線”、“紅線”，規(guī)范發(fā)展互聯(lián)網(wǎng)信息服務(wù)深度合成活動，維護網(wǎng)絡(luò)空間良好生態(tài)。
（三）深化互聯(lián)網(wǎng)信息服務(wù)依法管理的客觀要求。在前期已出臺《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等相關(guān)部門規(guī)章和規(guī)范性文件，明確對生成合成類算法和利用深度學習、虛擬現(xiàn)實等新技術(shù)新應(yīng)用制作音視頻內(nèi)容等的監(jiān)管要求的基礎(chǔ)上，需要進一步厘清、細化深度合成技術(shù)的應(yīng)用場景，明確深度合成服務(wù)提供者和使用者的信息安全義務(wù)，出臺具有系統(tǒng)性、針對性和可操作性的專門管理規(guī)定。
二、起草過程
（一）開展立法調(diào)研。深入企業(yè)、科研院所、高校等單位調(diào)查研究國內(nèi)深度合成技術(shù)發(fā)展、應(yīng)用場景，充分研究國內(nèi)外深度合成技術(shù)發(fā)展應(yīng)用中存在的問題及監(jiān)管情況，全面梳理互聯(lián)網(wǎng)信息服務(wù)深度合成活動信息安全風險。
（二）組織研究論證。組織系列專家研討會，邀請科研院所和高校技術(shù)、法律專家對互聯(lián)網(wǎng)信息服務(wù)深度合成活動現(xiàn)狀、問題及法律規(guī)制進行深入分析，并就《規(guī)定》體例框架、主要制度和具體內(nèi)容開展論證研究。
（三）起草《規(guī)定（征求意見稿）》。堅持問題導向和目標導向，落實、細化《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)要求，起草形成《規(guī)定（征求意見稿）》。
三、主要內(nèi)容
《規(guī)定（征求意見稿）》共二十五條，主要規(guī)定了以下五個方面的內(nèi)容。
（一）明確了制定目的依據(jù)、適用范圍和總體要求。明確在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)，以及為深度合成服務(wù)提供技術(shù)支持的活動，適用本規(guī)定。明確深度合成技術(shù)、深度合成服務(wù)提供者和深度合成服務(wù)使用者等概念的含義。明確國家網(wǎng)信部門、地方網(wǎng)信部門的統(tǒng)籌協(xié)調(diào)和監(jiān)督管理職責以及深度合成服務(wù)提供者、使用者的基本要求。鼓勵相關(guān)行業(yè)組織加強行業(yè)自律。強調(diào)不得利用深度合成服務(wù)從事法律法規(guī)禁止的活動，不得制作、復(fù)制、發(fā)布、傳播含有法律法規(guī)禁止內(nèi)容的信息。（第一條至第六條）
（二）明確了深度合成服務(wù)提供者主體責任。要求建立健全算法機制機理審核、信息內(nèi)容管理、從業(yè)人員教育培訓等管理制度，具有與新技術(shù)新應(yīng)用發(fā)展相適應(yīng)的安全可控的技術(shù)保障措施。應(yīng)當制定并公開管理規(guī)則和平臺公約，并對使用者依法進行真實身份信息認證。加強內(nèi)容管理，采取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，并建立健全相關(guān)特征庫。加強技術(shù)管理，定期審核、評估、驗證算法機制機理。提供涉及生物識別信息或者可能涉及國家安全、社會公共利益的模型、模板等工具的，應(yīng)當自行開展安全評估，預(yù)防信息安全風險。加強訓練數(shù)據(jù)管理，確保數(shù)據(jù)處理正當、合法，采取必要措施保障數(shù)據(jù)和個人信息安全。（第七條至第十二條）
（三）明確了深度合成信息內(nèi)容標識管理制度。要求深度合成服務(wù)提供者對使用其服務(wù)所制作的深度合成信息內(nèi)容，通過有效技術(shù)措施添加不影響用戶使用的標識，依法保存日志信息，使深度合成信息內(nèi)容可被自身識別、追溯。對生成或者顯著改變信息內(nèi)容的深度合成信息內(nèi)容，應(yīng)當使用顯著方式進行標識，向社會公眾有效提示信息內(nèi)容的合成情況；對其他深度合成信息內(nèi)容，應(yīng)當提供進行顯著標識的功能，并提示使用者可以自行標識。發(fā)現(xiàn)應(yīng)該進行顯著標識而未顯著標識的，應(yīng)當立即停止傳輸該信息，按規(guī)定作出顯著標識后，方可繼續(xù)傳輸。（第十三條至第十五條）
（四）明確了監(jiān)督管理相關(guān)要求。互聯(lián)網(wǎng)應(yīng)用商店服務(wù)提供者應(yīng)當對深度合成應(yīng)用程序履行安全管理責任，依法依約核驗安全評估、備案等情況，對違反國家有關(guān)規(guī)定的，及時采取不予上架、暫停上架或者下架等處置措施。深度合成服務(wù)提供者應(yīng)當建立健全辟謠機制，設(shè)置便捷有效的用戶申訴和公眾投訴、舉報入口；應(yīng)當按照有關(guān)規(guī)定履行備案手續(xù)、標明備案編號；開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估；對網(wǎng)信部門依法實施的監(jiān)督檢查，應(yīng)當予以配合，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。（第十六條至第二十一條）
（五）明確了法律責任、解釋部門和施行日期。違反《規(guī)定》相關(guān)規(guī)定的，由國家和省、自治區(qū)、直轄市網(wǎng)信部門依據(jù)職責，按照《規(guī)定》和有關(guān)法律法規(guī)規(guī)章的規(guī)定予以處理�！兑�(guī)定》由國家互聯(lián)網(wǎng)信息辦公室負責解釋。（第二十二條至第二十五條）
來源：“網(wǎng)信中國”微信公眾號