人工智能技術(shù)掀起的浪潮方興未艾，新技術(shù)給人類帶來了前所未有的生產(chǎn)力和體驗的提升。我國重點關(guān)注人工智能領(lǐng)域，迄今已備案生成式人工智能產(chǎn)品300余款，生成合成服務(wù)3000余個，有力推動了人工智能行業(yè)的快速發(fā)展。與此同時，人工智能技術(shù)帶來的虛假信息、技術(shù)濫用風(fēng)險逐漸顯露，給網(wǎng)絡(luò)生態(tài)安全帶來了新的風(fēng)險挑戰(zhàn)，各國陸續(xù)推出或完善法案加以應(yīng)對。《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）及其配套國家強(qiáng)制性標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》（以下簡稱《標(biāo)識標(biāo)準(zhǔn)》），是對我國人工智能算法治理體系的進(jìn)一步完善。《標(biāo)識辦法》是對《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》的繼承和延伸，從人工智能技術(shù)特性出發(fā)，在生成合成標(biāo)識這一人工智能安全治理關(guān)鍵上提出了針對性的管理思路，將成為我國建立健全人工智能新技術(shù)安全體系的重要推動力。《標(biāo)識標(biāo)準(zhǔn)》作為《標(biāo)識辦法》的補(bǔ)充，明確了生成合成內(nèi)容標(biāo)識應(yīng)當(dāng)遵循的技術(shù)方法，為產(chǎn)業(yè)落地提供了參考依據(jù)。
一、銜接技術(shù)安全法規(guī)，擴(kuò)展治理覆蓋范疇
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章對生成合成類算法的標(biāo)識做出了明確要求。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中要求“發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識后，方可繼續(xù)傳輸”。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》在此基礎(chǔ)上，進(jìn)一步對標(biāo)識的種類進(jìn)行細(xì)分，要求“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識”，同時要求“深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識”。《生成式人工智能服務(wù)管理暫行辦法》中要求“提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識”。
《標(biāo)識辦法》重點關(guān)注人工智能生成合成內(nèi)容傳播環(huán)節(jié)的安全治理，有效銜接已有的備案評估、風(fēng)險防范等管理措施，逐步完善面向人工智能全生命流程管理的新技術(shù)安全體系：一是明確了文本、圖像、音頻、視頻等多模態(tài)的標(biāo)識要求，將安全治理深入到內(nèi)容模態(tài)層面；二是創(chuàng)新性地將傳播平臺納入監(jiān)管范疇，實現(xiàn)從生成到傳播的全鏈條治理；三是明確了隱式標(biāo)識的技術(shù)實現(xiàn)方式，通過元數(shù)據(jù)標(biāo)識為安全追溯提供了可靠保障。
二、適應(yīng)生成合成特性，提煉務(wù)實科學(xué)方法
人工智能生成合成技術(shù)發(fā)展已覆蓋各個模態(tài)，生成合成內(nèi)容滲透至互聯(lián)網(wǎng)領(lǐng)域信息傳播的各個環(huán)節(jié)，如何在當(dāng)前互聯(lián)網(wǎng)絡(luò)環(huán)境下精準(zhǔn)高效地對生成合成內(nèi)容進(jìn)行標(biāo)識成為關(guān)鍵核心問題。要解決這一問題，一方面需要管理措施及方法落實得當(dāng)，有效督促人工智能生成合成服務(wù)提供者及傳播平臺落實企業(yè)責(zé)任；另一方面，人工智能生成合成內(nèi)容標(biāo)識方法要符合技術(shù)發(fā)展規(guī)律，體現(xiàn)技術(shù)管理手段的科學(xué)性、可用性及高效性。
為促進(jìn)《標(biāo)識辦法》的實施落地，《標(biāo)識標(biāo)準(zhǔn)》中對照《標(biāo)識辦法》內(nèi)容，對標(biāo)識的方式方法進(jìn)行了技術(shù)性闡述，對重點環(huán)節(jié)及關(guān)鍵要素進(jìn)行了精細(xì)提煉，以科學(xué)性、技術(shù)性視角對管理要求進(jìn)行更為落地的細(xì)化：一是《標(biāo)識標(biāo)準(zhǔn)》中明確了每個模態(tài)生成合成內(nèi)容顯式標(biāo)識的位置、樣式、區(qū)域和大小的要求，同時結(jié)合各模態(tài)的特點，如針對視頻模態(tài)，要求“在視頻起始畫面和視頻播放周邊的適當(dāng)位置”，針對音頻模態(tài)，要求“應(yīng)采用語音標(biāo)識或音頻節(jié)奏標(biāo)識”，在企業(yè)責(zé)任落實的同時減少對于用戶瀏覽相關(guān)內(nèi)容的干擾；二是明確了元數(shù)據(jù)隱式標(biāo)識的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯拢度氡匾侄危涗浬珊铣蓛?nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié)，為互聯(lián)網(wǎng)生成合成內(nèi)容的可追溯性提供保障；三是提供了豐富的標(biāo)識示例，給出了多個模態(tài)規(guī)范性標(biāo)識方法，便于人工智能生成合成服務(wù)提供者及傳播平臺技術(shù)人員進(jìn)行標(biāo)識的技術(shù)實踐落地，充分體現(xiàn)了《標(biāo)識標(biāo)準(zhǔn)》的科學(xué)性。在《標(biāo)識標(biāo)準(zhǔn)》的指引下，積極探索切實可行的標(biāo)識實施路徑，逐步構(gòu)建支撐生成合成內(nèi)容有序傳播與安全治理的技術(shù)能力，不斷豐富人工智能技術(shù)管理體系。
三、體現(xiàn)柔性管理思路，筑牢安全應(yīng)用基礎(chǔ)
《標(biāo)識辦法》的制定和出臺，是我國推進(jìn)人工智能領(lǐng)域安全治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措。《標(biāo)識辦法》充分彰顯了監(jiān)管理念的與時俱進(jìn)，從傳統(tǒng)的嚴(yán)格監(jiān)管轉(zhuǎn)向更加靈活的引導(dǎo)與規(guī)范，既尊重了技術(shù)創(chuàng)新的內(nèi)在規(guī)律，又體現(xiàn)對潛在風(fēng)險的有效防范。通過清晰、透明的內(nèi)容標(biāo)識，用戶能夠清楚識別人工智能生成的內(nèi)容，一方面提高了信息透明度，增強(qiáng)了用戶的知情權(quán)和選擇權(quán)，另一方面也有助于培養(yǎng)公眾對人工智能技術(shù)的理性認(rèn)知，防止因誤解或過度依賴人工智能而產(chǎn)生的負(fù)面影響。對于人工智能生成合成服務(wù)提供者及傳播平臺，內(nèi)容標(biāo)識制度既是責(zé)任，更是機(jī)遇，在鼓勵企業(yè)追求技術(shù)能力提升的同時，推動企業(yè)提升對產(chǎn)品社會影響的關(guān)注度，主動承擔(dān)起人工智能負(fù)責(zé)任發(fā)展的重任，這不僅有利于贏得用戶信任，也能推動整個行業(yè)向更加規(guī)范、健康的方向發(fā)展。從長遠(yuǎn)來看，標(biāo)識管理為構(gòu)建人工智能治理體系提供了重要抓手，指引了未來人工智能安全治理的思路，也為后續(xù)更精細(xì)化、智能化的管理奠定了基礎(chǔ)，有助于在保護(hù)創(chuàng)新活力與維護(hù)公共利益之間找到平衡點。
《標(biāo)識辦法》為國際人工智能治理貢獻(xiàn)了中國方案，展現(xiàn)了我國在全球人工智能發(fā)展中的責(zé)任與擔(dān)當(dāng)。《標(biāo)識辦法》既是對當(dāng)前人工智能快速發(fā)展趨勢的積極回應(yīng)，也是對未來人工智能應(yīng)用場景的安全保障。它通過構(gòu)建信任、明確責(zé)任、保護(hù)權(quán)益等多重機(jī)制，體現(xiàn)了我國“以人為本、智能向善”的積極理念，為打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)鋪設(shè)了一條安全、可信、可持續(xù)的道路，助力技術(shù)創(chuàng)新與社會價值和諧共生，促進(jìn)人工智能技術(shù)和數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展。（作者：張震，國家計算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級工程師）
