人工智能技術掀起的浪潮方興未艾，新技術給人類帶來了前所未有的生產(chǎn)力和體驗的提升。我國重點關注人工智能領域，迄今已備案生成式人工智能產(chǎn)品300余款，生成合成服務3000余個，有力推動了人工智能行業(yè)的快速發(fā)展。與此同時，人工智能技術帶來的虛假信息、技術濫用風險逐漸顯露，給網(wǎng)絡生態(tài)安全帶來了新的風險挑戰(zhàn)，各國陸續(xù)推出或完善法案加以應對�！度斯ぶ悄苌珊铣蓛�(nèi)容標識辦法》（以下簡稱《標識辦法》）及其配套國家強制性標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》（以下簡稱《標識標準》），是對我國人工智能算法治理體系的進一步完善�！稑俗R辦法》是對《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》的繼承和延伸，從人工智能技術特性出發(fā)，在生成合成標識這一人工智能安全治理關鍵上提出了針對性的管理思路，將成為我國建立健全人工智能新技術安全體系的重要推動力�！稑俗R標準》作為《標識辦法》的補充，明確了生成合成內(nèi)容標識應當遵循的技術方法，為產(chǎn)業(yè)落地提供了參考依據(jù)。
一、銜接技術安全法規(guī)，擴展治理覆蓋范疇
《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等規(guī)章對生成合成類算法的標識做出了明確要求�！痘ヂ�(lián)網(wǎng)信息服務算法推薦管理規(guī)定》中要求“發(fā)現(xiàn)未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續(xù)傳輸”�！痘ヂ�(lián)網(wǎng)信息服務深度合成管理規(guī)定》在此基礎上，進一步對標識的種類進行細分，要求“可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識”，同時要求“深度合成服務提供者對使用其服務生成或者編輯的信息內(nèi)容，應當采取技術措施添加不影響用戶使用的標識”。《生成式人工智能服務管理暫行辦法》中要求“提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識”。
《標識辦法》重點關注人工智能生成合成內(nèi)容傳播環(huán)節(jié)的安全治理，有效銜接已有的備案評估、風險防范等管理措施，逐步完善面向人工智能全生命流程管理的新技術安全體系：一是明確了文本、圖像、音頻、視頻等多模態(tài)的標識要求，將安全治理深入到內(nèi)容模態(tài)層面；二是創(chuàng)新性地將傳播平臺納入監(jiān)管范疇，實現(xiàn)從生成到傳播的全鏈條治理；三是明確了隱式標識的技術實現(xiàn)方式，通過元數(shù)據(jù)標識為安全追溯提供了可靠保障。
二、適應生成合成特性，提煉務實科學方法
人工智能生成合成技術發(fā)展已覆蓋各個模態(tài)，生成合成內(nèi)容滲透至互聯(lián)網(wǎng)領域信息傳播的各個環(huán)節(jié)，如何在當前互聯(lián)網(wǎng)絡環(huán)境下精準高效地對生成合成內(nèi)容進行標識成為關鍵核心問題。要解決這一問題，一方面需要管理措施及方法落實得當，有效督促人工智能生成合成服務提供者及傳播平臺落實企業(yè)責任；另一方面，人工智能生成合成內(nèi)容標識方法要符合技術發(fā)展規(guī)律，體現(xiàn)技術管理手段的科學性、可用性及高效性。
為促進《標識辦法》的實施落地，《標識標準》中對照《標識辦法》內(nèi)容，對標識的方式方法進行了技術性闡述，對重點環(huán)節(jié)及關鍵要素進行了精細提煉，以科學性、技術性視角對管理要求進行更為落地的細化：一是《標識標準》中明確了每個模態(tài)生成合成內(nèi)容顯式標識的位置、樣式、區(qū)域和大小的要求，同時結合各模態(tài)的特點，如針對視頻模態(tài)，要求“在視頻起始畫面和視頻播放周邊的適當位置”，針對音頻模態(tài)，要求“應采用語音標識或音頻節(jié)奏標識”，在企業(yè)責任落實的同時減少對于用戶瀏覽相關內(nèi)容的干擾；二是明確了元數(shù)據(jù)隱式標識的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯�，嵌入必要字段，記錄生成合成�?nèi)容的關鍵信息和關鍵環(huán)節(jié)，為互聯(lián)網(wǎng)生成合成內(nèi)容的可追溯性提供保障；三是提供了豐富的標識示例，給出了多個模態(tài)規(guī)范性標識方法，便于人工智能生成合成服務提供者及傳播平臺技術人員進行標識的技術實踐落地，充分體現(xiàn)了《標識標準》的科學性。在《標識標準》的指引下，積極探索切實可行的標識實施路徑，逐步構建支撐生成合成內(nèi)容有序傳播與安全治理的技術能力，不斷豐富人工智能技術管理體系。
三、體現(xiàn)柔性管理思路，筑牢安全應用基礎
《標識辦法》的制定和出臺，是我國推進人工智能領域安全治理、促進產(chǎn)業(yè)規(guī)范健康發(fā)展、引導技術向善的重要舉措�！稑俗R辦法》充分彰顯了監(jiān)管理念的與時俱進，從傳統(tǒng)的嚴格監(jiān)管轉向更加靈活的引導與規(guī)范，既尊重了技術創(chuàng)新的內(nèi)在規(guī)律，又體現(xiàn)對潛在風險的有效防范。通過清晰、透明的內(nèi)容標識，用戶能夠清楚識別人工智能生成的內(nèi)容，一方面提高了信息透明度，增強了用戶的知情權和選擇權，另一方面也有助于培養(yǎng)公眾對人工智能技術的理性認知，防止因誤解或過度依賴人工智能而產(chǎn)生的負面影響。對于人工智能生成合成服務提供者及傳播平臺，內(nèi)容標識制度既是責任，更是機遇，在鼓勵企業(yè)追求技術能力提升的同時，推動企業(yè)提升對產(chǎn)品社會影響的關注度，主動承擔起人工智能負責任發(fā)展的重任，這不僅有利于贏得用戶信任，也能推動整個行業(yè)向更加規(guī)范、健康的方向發(fā)展。從長遠來看，標識管理為構建人工智能治理體系提供了重要抓手，指引了未來人工智能安全治理的思路，也為后續(xù)更精細化、智能化的管理奠定了基礎，有助于在保護創(chuàng)新活力與維護公共利益之間找到平衡點。
《標識辦法》為國際人工智能治理貢獻了中國方案，展現(xiàn)了我國在全球人工智能發(fā)展中的責任與擔當�！稑俗R辦法》既是對當前人工智能快速發(fā)展趨勢的積極回應，也是對未來人工智能應用場景的安全保障。它通過構建信任、明確責任、保護權益等多重機制，體現(xiàn)了我國“以人為本、智能向善”的積極理念，為打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術鋪設了一條安全、可信、可持續(xù)的道路，助力技術創(chuàng)新與社會價值和諧共生，促進人工智能技術和數(shù)字經(jīng)濟的蓬勃發(fā)展。（作者：張震，國家計算機網(wǎng)絡應急技術處理協(xié)調(diào)中心正高級工程師）
