《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》已于 2022 年 11 月 3 日國家互聯(lián)網(wǎng)信息辦公室 2022 年第 21 次室務會議審議通過，并經(jīng)工業(yè)和信息化部、公安部同意后對外公布，將于 2023 年 1 月 10 日起施行。
這是我國第一部針對深度合成服務治理的專門性部門規(guī)章，規(guī)范互聯(lián)網(wǎng)信息服務深度合成管理，明確生成合成類算法治理的對象，確立算法治理的基本原則，鼓勵相關行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度，強化深度合成服務提供者和技術支持者的主體責任，為安全可靠的深度合成技術發(fā)展指明了方向，為技術的服務應用提供指引和規(guī)范。
深度合成技術是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術；而深度合成服務提供者、支持者是指提供深度合成服務的組織、個人以及為深度合成服務提供技術支持的組織、個人。
新規(guī)要求深度合成服務提供者主體不得利用深度合成服務從事違法活動，還要建立健全用戶管理制度，制定和公開管理規(guī)側(cè)等，加強深度合成內(nèi)容管理，建立健全辟謠機制和申訴、投訴、舉報機制。
此外，《規(guī)定》要求深度合成服務提供者落實信息安全主體責任，建立健全管理制度和技術保障措施，制定公開管理規(guī)則、平臺公約，對使用者進行真實身份信息認證，明確應用程序分發(fā)平臺應當落實安全管理責任，核驗深度合成類應用程序相關情況。
《規(guī)定》指出：提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。要求任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。
