1月28日，國家互聯網信息辦公室發布關于《互聯網信息服務深度合成管理規定（征求意見稿）》公開征求意見的通知，依據網安法、數安法、個保法等法律要求規范應用深度合成技術提供互聯網信息服務的信息安全義務，意見反饋截止日期為2月28日。

所謂深度合成技術，是指利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。

比如篇章生成、文本風格轉換、問答對話等對文本內容進行生成或者編輯的技術；文本轉語音、語音轉換、語音屬性編輯等對語音內容進行生成或者編輯的技術；音樂生成、場景聲編輯等對非語音內容進行生成或者編輯的技術。

也包括時下火熱的人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等對圖像、視頻內容中人臉等生物特征進行生成或者編輯的技術；圖像增強、圖像修復等對圖像、視頻內容中非生物特征進行編輯的技術；三維重建等對虛擬場景進行生成或者編輯的技術。

《規定》對深度合成服務提供者主要提出下列要求：

落實信息安全主體責任，建立健全算法機制機理審核、用戶注冊、信息內容管理、數據安全和個人信息保護、未成年人保護、從業人員教育培訓等管理制度，具有與新技術新應用發展相適應的安全可控的技術保障措施；

以顯著方式提示深度合成服務使用者信息安全義務，并依法依約履行相應管理責任；

對深度合成服務使用者進行真實身份信息認證；

加強對深度合成信息內容的管理、審核；

加強深度合成技術管理，定期審核、評估、驗證算法機制機理，對涉及生物識別信息或可能涉及國家安全、社會公共利益的工具自行開展安全評估，預防信息安全風險。；

加強訓練數據管理，確保數據處理合法、正當，采取必要措施保障數據安全。訓練數據包含涉及個人信息數據的，還應當遵守個人信息保護有關規定，不得非法處理個人信息；

在使用其服務所制作的深度合成信息內容中添加標識以實現可識別、追溯；

提供模擬自然人進行文本生成或者編輯服務，語音生成或者顯著改變個人身份特征的編輯服務，虛擬人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務，提供沉浸式擬真場景等生成或者編輯服務及其他具有生成或者顯著改變信息內容功能的服務，應當使用顯著方式對深度合成信息內容進行標識；

建立健全辟謠機制；

按照《互聯網信息服務算法推薦管理規定》有關規定履行備案手續；

開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。

前期，國家已出臺《網絡信息內容生態治理規定》、《互聯網信息服務算法推薦管理規定》、《網絡音視頻信息服務管理規定》等相關規范性文件，在對生成合成類算法和利用深度學習、虛擬現實等新技術新應用制作音視頻內容等的監管要求的基礎上，出臺具有系統性、針對性和可操作性的專門管理規定，將進一步厘清、細化深度合成技術的應用場景，明確深度合成服務提供者和使用者的信息安全主體責任。

（內容來源：安全419公眾號）

- END -