芯耀
1117
隨著生成式人工智能技術快速發(fā)展，虛假信息、深度偽造等問題對信息安全和公共信任構成嚴峻挑戰(zhàn)。從全球數(shù)字化治理來看，內(nèi)容標識已成為全球治理生成內(nèi)容的共識性議題。聯(lián)合國在2024年的有關報告中將“損害信息完整性”列為人工智能首要風險。各國紛紛探索內(nèi)容標識制度，歐盟《人工智能法》要求披露深度偽造內(nèi)容來源，美國加州通過的《人工智能透明度法案》明確了顯示或隱藏標識義務。
近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》），并于2025年9月1日起施行。我國的《標識辦法》通過顯隱雙標識機制和全鏈條責任體系，為全球治理貢獻了兼具技術落地性與制度創(chuàng)新性的“中國方案”。
一是完善生成式人工智能體系化治理方案。在體系銜接上，《標識辦法》與算法推薦、深度合成、生成式人工智能相關規(guī)定形成制度協(xié)同，在備案和安全評估基礎上，針對人工智能生成內(nèi)容構建了標識管理架構。在制度創(chuàng)新上，首次將用戶可感知的顯式標識與技術可追溯的隱式標識相結(jié)合，既保障公眾知情權，又為溯源追責提供技術錨點。在技術兼容上，鼓勵服務提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標識，推動與國際主流技術接軌，促進標識技術標準化與全球互認。
二是從生成到傳播責任閉環(huán)的全鏈條管理?！稑俗R辦法》通過分層義務分配，構建覆蓋“生成-傳播-分發(fā)-使用”的全鏈條責任體系。對于生成合成服務提供者，一是承擔顯式標識義務，針對可能引發(fā)混淆的深度合成場景，須在內(nèi)容顯著位置添加標識，如文本首尾標注“AI生成”、音頻插入語音提示。二是承擔隱式標識義務，通過元數(shù)據(jù)嵌入服務商名稱、內(nèi)容編號等要素，確保技術可追溯性，為侵權追責提供依據(jù)。對于內(nèi)容傳播平臺，承擔核驗與打標義務，須檢測隱式標識真實性，并在傳播界面添加提示標識，履行“數(shù)字守門人”職責。對于應用程序分發(fā)平臺，履行上架審核義務，核驗應用程序是否具備標識功能，阻斷不合規(guī)服務進入市場。對于用戶而言，應承擔主動聲明和善意使用的義務——用戶發(fā)布AI生成內(nèi)容時須主動打標，禁止惡意刪除或篡改標識。
三是平衡透明性與創(chuàng)新性的技術管理方案。相較于歐盟《數(shù)字服務法案》側(cè)重平臺透明度報告等程序性要求，中國政策更聚焦技術落地。在技術工具開發(fā)方面，《標識辦法》鼓勵企業(yè)研發(fā)數(shù)字水印、內(nèi)容溯源等技術，構建標識檢測數(shù)據(jù)庫，提升平臺自動化審核能力；在安全與發(fā)展平衡方面，允許用戶協(xié)議約定后提供無顯式標識生成合成內(nèi)容，為創(chuàng)新保留空間。同時，服務提供者需要履行依法留存信息日志義務，為事后追溯提供保障。
為進一步優(yōu)化《標識辦法》實施效能，筆者建議加快開展以下工作。一是明確責任分層，細化產(chǎn)業(yè)鏈主體（如基礎模型開發(fā)者、垂直應用服務商）的差異化義務，避免“一刀切”監(jiān)管。二是強化技術協(xié)同，推動隱式標識技術與區(qū)塊鏈、隱私計算融合，在保障可追溯性的同時防范隱私泄露風險。例如，通過加密元數(shù)據(jù)實現(xiàn)“可驗不可見”的隱式標識。三是深化國際合作，參與全球標識標準制定，推動跨境內(nèi)容標識互認，共同維護網(wǎng)絡空間。
*本篇刊載于《通信世界》2025年3月25日*第6期 總964期原標題：《打造閉環(huán)全鏈條管理體系，中國貢獻人工智能標識方案》
作者：中國信息通信研究院人工智能研究所
高級業(yè)務主管 呼娜英
責編/版式：王禹蓉
審校：王 濤?梅雅鑫
監(jiān)制：劉啟誠
