精細化治理深度合成技術應用 體系化維護網絡空間良好生態

得益于人工智能技術的不斷發展與開放，深度合成技術已經廣泛應用于文本、圖像、音頻、視頻、虛擬場景等數字內容的生成生產，在影視、傳媒、教育等領域實現大規模應用。值得注意的是，利用深度合成技術制作、復制、發布、傳播違法和不良信息，仿冒他人身份實施詐騙、勒索等違法行為也層出不窮。因此，國家互聯網信息辦公室聯合工業和信息化部、公安部發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）恰逢其時，為規范深度合成技術應用提出了科學化、精細化、體系化的治理方案，有效統籌深度合成技術應用的安全與發展，促進深度合成技術的依法合理利用。

一、堅持引導科技向上向善，多元共建網絡空間良好生態

首先，堅持主流價值導向，引導科技向上向善。《規定》以我國主流價值觀為引領，維護人民合法權益，促進科技發展向上向善。一是堅持主流價值導向，科學管理新技術新應用。習近平總書記強調用主流價值導向駕馭“算法”，全面提升輿論引導能力。《規定》堅持正確政治方向、輿論導向、價值取向，通過加強針對深度合成技術應用的科學管理，確保深度合成服務向上向善。二是回應社會關切，營造天朗氣清的網絡空間。《規定》劃定了深度合成技術應用的“底線”和“紅線”，維護國家安全、社會穩定，以及人民群眾的切身利益。三是鼓勵行業自律，引導科技向上向善良性發展。《規定》遵循數字經濟領域新技術新應用監管治理的整體脈絡，沿用行業標準、行業準則等行業自律方式，促進企業依法合理利用深度合成技術及服務。

其次，細分多元主體責任，全面構建治理體系。《規定》構建了圍繞“深度合成技術支持者”和“深度合成服務提供者”的責任框架，針對其他相關主體也作出了規范。技術支持者應從源頭深化技術治理，加強數據和技術管理，同時參照相關規定履行算法備案等手續。服務提供者應全方位落實信息安全主體責任，強化針對服務、用戶、數據、技術以及內容等方面的管理措施，實施安全可控的技術保障措施。在其他主體要求方面，服務使用者應承擔信息安全義務，不得利用深度合成服務從事違法違規活動；互聯網應用商店等平臺應落實上架審核、日常管理、應急處置等安全管理的平臺責任，為深度合成技術的安全合理應用搭建保護屏障。

最后，配套相關法律法規，深化網絡管理要求。《規定》是我國互聯網法治建設進程中的重要一步，既與多部上位法一脈相承，又與互聯網信息服務相關法規有效銜接，還為以深度合成為代表的新技術新應用構建了安全與發展并重的科學管理體系。一方面，《規定》全面貫徹落實《網絡安全法》、《數據安全法》、《個人信息保護法》等上位法的具體要求。例如，《規定》強調了深度合成服務提供者和技術支持者采取必要措施保障數據安全的要求，遵循了敏感個人信息處理中的單獨同意原則。另一方面，《規定》能夠與《網絡信息內容生態治理規定》、《互聯網信息服務算法推薦管理規定》、《網絡音視頻信息服務管理規定》等互聯網信息服務相關法律法規有效銜接，便于配套實施。《規定》在已有規定的基礎上，細化了深度合成技術的應用場景，明確了深度合成技術支持者和服務提供者履行信息安全義務的要求，是互聯網信息服務管理體系的有效延展補充。

二、科學構建技術治理體系，促進深度合成依法合理、有效應用

首先，明確全流程多節點信息安全要求。《規定》細化了深度合成技術支持、服務提供、服務上架等多個流程節點相關主體的具體要求，建立了事前、事中、事后的信息安全管理措施。部署前，深度合成技術支持者和服務提供者應依據《互聯網信息服務算法推薦管理規定》要求，在具備輿論屬性或者社會動員能力屬性時，積極履行相關備案手續。服務中，深度合成技術支持者和服務提供者應加強數據安全和個人信息保護，定期對算法機制機理開展評估。在提供人臉、人聲等生物識別信息編輯功能時，應重點履行對服務使用者合法處理敏感個人信息的提示性義務，并對此功能開展安全評估，預防信息安全風險。此外，服務提供者還應全面履行包括公開管理規則、開展身份認證、審核信息發布在內的平臺責任。上架后，技術支持者和服務提供者仍有義務對算法機制機理施行動態評估，服務提供者應添加標識標明其應用使用了深度合成技術，互聯網應用商店等平臺還應加強核驗監督等安全管理責任落實。

其次，創新信息內容標識技術管理制度。《規定》綜合應用技管結合的方式實現了治理創新，通過要求深度合成服務提供者對深度合成信息內容進行標識的方式，保障了公眾的知情權，確保了服務的可追溯。一是應用顯著標識避免公眾的混淆和誤認。《規定》明確深度合成服務提供者應當使用顯著方式對深度合成信息內容進行標識，有效提示合成情況。具體落實時，深度合成服務提供者可以根據各類應用場景和潛在風險，通過文字、語音片段和電子圖形標志等方式進行顯著標識。此外，《規定》通過強調主體責任保障標識的真實性和唯一性，明確提出任何組織和個人不得采用技術手段刪除、篡改或隱匿標識。二是通過標識實現深度合成信息內容可追溯。《規定》明確提出深度合成服務提供者應在信息內容中添加不影響用戶使用的標識并保存相關日志信息。落實相關要求時，深度合成服務提供者可以在信息內容中添加使用特定工具或方法才能提取的隱性數字水印標識，確保發布或傳播的深度合成信息內容可追溯。

最后，強調真實身份信息認證管理要求。《規定》明確了實行真實身份信息認證管理的多種方案，能夠在管理深度合成信息內容的同時推進用戶個人信息保護。一方面，《規定》強調設置門檻加強用戶管理。《規定》要求深度合成服務提供者應嚴格落實對服務使用者進行真實身份信息認證的主體責任，有利于對深度合成的違法和不良信息內容發布及傳播者進行追責，同時也為陷入網絡民事糾紛的相關主體提供了追溯渠道。另一方面，《規定》保障身份認證方式的多樣性。《規定》明確了真實身份信息認證包括基于移動電話號碼、身份證件號碼、統一社會信用代碼或者國家網絡身份認證公共服務等多種方式。《規定》在保障通過多種方式認證深度合成服務使用者身份的同時，能夠推進電子身份認證技術的發展，有利于從源頭上減少個人信息濫采濫用等問題。

三、加強技術支撐治理能力，保障新技術新應用有序健康發展

《規定》具有一定的探索性和前瞻性，是進一步提升網絡治理能力的應時應勢之舉，但深度合成技術應用治理目前尚處于起步階段，在技術支撐和管理體系建設方面有待進一步加強。下一步可開展以下措施：

一是加強《規定》宣傳貫徹培訓，盡快落實檢查評估機制。加強《規定》的宣傳推廣和培訓教育，督促深度合成技術支持者和服務提供者等主體開展算法安全評估；強化檢查評估能力，有序推進深度合成技術應用的安全檢查，敦促深度合成技術支持者和服務提供者及時發現和整改相關問題。

二是推進技術產業自律自治，加速技術應用標準化工作推進。加快推進深度合成相關技術標準、安全評估標準等的研究制定工作，進一步發揮標準對技術應用規范、安全能力建設等工作的支撐作用。結合我國深度合成技術應用情況，分析各類深度合成信息內容在不同場景下的安全風險程度，形成符合我國實際情況的深度合成信息服務分級分類方法。

三是加強標識體系建設，全面提升深度合成信息內容監管能力。依據《規定》相關要求，研究制定面向深度合成信息服務的標識體系，進一步明確標識范圍，加強標識的管理機制。通過行業自律的方式組織相關企業開展落地實踐工作，逐步引導形成先標識核驗再上線的服務機制，壓實企業主體責任，防范安全風險隱患。（作者：何寶宏，中國信息通信研究院云計算與大數據研究所所長）