2024年9月14日,，為規(guī)范人工智能生成合成內(nèi)容標(biāo)識,，維護(hù)國家安全和社會公共利益，保護(hù)公民,、法人和其他組織的合法權(quán)益,，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》以及配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法（征求意見稿）》，公開征求公眾意見,，邁出了完善我國人工智能治理制度的重要一步,。

一、問題導(dǎo)向,，破解人工智能生成合成內(nèi)容新需求新風(fēng)險(xiǎn)

立足于生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，《辦法》以問題為導(dǎo)向,，通過系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì),，全面回應(yīng)了對人工智能生成合成內(nèi)容標(biāo)識的要求,。

一是先行提出生成合成內(nèi)容標(biāo)識的中國方案。針對人工智能內(nèi)容生成合成帶來的顛覆性風(fēng)險(xiǎn)挑戰(zhàn),，國際層面也在不斷探索內(nèi)容標(biāo)識方法和路徑,。歐盟2024年8月正式生效的《人工智能法案》規(guī)定了要確保人工智能生成合成內(nèi)容的透明度義務(wù)，要求平臺添加強(qiáng)制性水印,。美國加州2024年8月發(fā)布《數(shù)字內(nèi)容溯源標(biāo)識法案》,，要求在人工智能生成物中嵌入可溯源數(shù)據(jù)，以確保內(nèi)容來源的透明度,。國際電信聯(lián)盟2024年7月發(fā)布《檢測深度偽造和生成式人工智能：人工智能水印和多媒體真實(shí)性標(biāo)準(zhǔn)研討會的報(bào)告》,，包括內(nèi)容標(biāo)識在內(nèi)，初步探討深度合成內(nèi)容檢測的標(biāo)準(zhǔn)協(xié)作安排,?！掇k法》根植于我國發(fā)展實(shí)踐，立足長遠(yuǎn),、著眼前瞻,、行動快速，率先通過標(biāo)準(zhǔn)完善補(bǔ)充生成式人工智能綜合治理機(jī)制,，有力支撐了科技向善的治理理念，為世界貢獻(xiàn)發(fā)展與安全并行的人工智能治理中國方案,。

二是著力加強(qiáng)服務(wù)商生成合成內(nèi)容標(biāo)識的規(guī)范性,。隨著人工智能生成合成內(nèi)容工具的普及化和可及化發(fā)展，技術(shù)應(yīng)用的門檻較之前大大降低,。早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）,，明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識,，向公眾提示深度合成情況,。但《規(guī)定》主要明確了需要添加標(biāo)識的情況，對于添加標(biāo)識的位置,、字型和表達(dá)并未做出具體要求,，因此各類企業(yè)在實(shí)施過程中出現(xiàn)了文本內(nèi)容顯式標(biāo)識不明顯,、難察覺,，音頻、視頻等內(nèi)容顯式標(biāo)識未插入,、淺提示,，隱式標(biāo)識少信息,、難校驗(yàn)等問題,，對于落實(shí)監(jiān)管提出了挑戰(zhàn)。出臺《辦法》,，是進(jìn)一步推進(jìn)生成合成內(nèi)容標(biāo)識工作的必要舉措,，對規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理,、解決生成合成內(nèi)容標(biāo)識突出問題、推進(jìn)信息網(wǎng)絡(luò)生態(tài)環(huán)境治理意義重大,，影響深遠(yuǎn)。

三是進(jìn)一步完善生成式人工智能監(jiān)管問責(zé)體系,。生成式人工智能生成合成內(nèi)容涉及多種類型的主體，清晰界定各主體義務(wù)更有利于壓實(shí)主體責(zé)任,，便利技術(shù)檢測實(shí)施,，進(jìn)而落實(shí)精準(zhǔn)問責(zé)?！掇k法》不僅界定了人工智能生成合成內(nèi)容的基本概念,，更針對服務(wù)提供者、傳播平臺,、應(yīng)用服務(wù)分發(fā)平臺和用戶分別規(guī)定了具體標(biāo)識要求，為各相關(guān)主體落實(shí)合規(guī)指明了方向,。由此,，《辦法》在現(xiàn)行責(zé)任制度作出補(bǔ)充,，充分細(xì)化了《規(guī)定》提出的深度合成服務(wù)提供者和技術(shù)支持者行為規(guī)范,，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例,。

二、明確要求,，促進(jìn)人工智能生成合成內(nèi)容精細(xì)化治理

人工智能生成合成內(nèi)容不僅包括文本、圖像,、音頻,、視頻等多種表現(xiàn)形式,，更在“元宇宙”等交互式、沉浸式場景中提供了更多實(shí)現(xiàn)方案,?！稑?biāo)識方法》對于人工智能生成合成內(nèi)容進(jìn)行了全方位覆蓋,，并且進(jìn)一步明確了《辦法》要求和具體操作指引,。

一是區(qū)分顯式標(biāo)識和隱式標(biāo)識規(guī)范要求。為滿足當(dāng)前可感知和不可感知的兩類標(biāo)識方法需要，《標(biāo)識方法》清晰闡述了各自的關(guān)鍵要素要求，對于顯式標(biāo)識主要圍繞文字要素,、位置、字型,、顏色,、音頻節(jié)奏、視頻像素和交互提示等提出要求，對于元數(shù)據(jù)和內(nèi)容隱式標(biāo)識提出生成合成標(biāo)簽要素,、服務(wù)提供者要素和內(nèi)容編號要素等關(guān)鍵指引。

二是列舉顯式標(biāo)識典型應(yīng)用場景,。《標(biāo)識方法》通過列舉式的方式對于顯式標(biāo)識的應(yīng)用場景做出了進(jìn)一步細(xì)化，在《規(guī)定》中提到的五類顯著標(biāo)識應(yīng)用場景之外加以補(bǔ)充,，包括文生圖片等圖片內(nèi)容生成服務(wù),；音樂等音頻內(nèi)容生成服務(wù)；文生視頻,、圖生視頻等視頻內(nèi)容生成服務(wù),。新列舉的三類典型應(yīng)用場景屬于2022年后迅速發(fā)展起來的新型生成合成內(nèi)容形式，尤其是ChatGPT,、Sora展示出視頻內(nèi)容生成的強(qiáng)大潛能,，在《標(biāo)識方法》囊括此三類典型應(yīng)用場景有利于針對性、前瞻性開展監(jiān)管,，符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要,。

三是規(guī)范元數(shù)據(jù)隱式標(biāo)識格式要求。此前生成合成內(nèi)容隱式標(biāo)識方法在不同規(guī)模,、不同技術(shù)水平的企業(yè)間應(yīng)用各不相同,，標(biāo)識的標(biāo)簽信息也未有一致，這就導(dǎo)致識別隱式標(biāo)識對于監(jiān)管主體和內(nèi)容平臺而言面臨挑戰(zhàn),?！稑?biāo)識方法》為解決這一問題,，對于隱式標(biāo)識擴(kuò)展字段關(guān)鍵詞和應(yīng)包括的標(biāo)簽,、編號,、預(yù)留字段的值等添加了具體說明，為行業(yè)統(tǒng)一,、穩(wěn)定,、持續(xù)落實(shí)隱式標(biāo)識要求提供了有效措施,。

四是展示顯式和隱式標(biāo)識各要求對應(yīng)示例?！稑?biāo)識方法》以圖片示例的形式對于各類顯式和隱式標(biāo)識要求進(jìn)行了展示,，有助于企業(yè)直觀了解標(biāo)準(zhǔn)要求,，避免因文字表述引發(fā)的模糊和歧義，從而推動行業(yè)協(xié)同落實(shí),，提升治理效能,。

三、守正創(chuàng)新,，兼顧內(nèi)容生成合成服務(wù)管理與技術(shù)創(chuàng)新應(yīng)用

人工智能生成合成技術(shù)應(yīng)在安全的前提下規(guī)范使用,、加速發(fā)展，以高水平的治理保障高質(zhì)量發(fā)展,?！掇k法》及《標(biāo)識方法》充分考慮“用”和“管”兩側(cè)需求，最大限度減少內(nèi)容標(biāo)識對于用戶使用的影響,，推動企業(yè)自主自愿展示標(biāo)識,。一是提供多種標(biāo)識方法，適應(yīng)更多產(chǎn)品形態(tài),?！稑?biāo)識方法》對于文本內(nèi)容顯式標(biāo)識創(chuàng)新提出角標(biāo)形式，僅需在內(nèi)容末尾加注角標(biāo)“AI”即可高效滿足要求,，對于音頻內(nèi)容則首次提出音頻節(jié)奏標(biāo)識,，在音頻適當(dāng)位置加入“短長短短”節(jié)奏的摩斯碼表示即可達(dá)到提示作用。此類標(biāo)識方法不僅對于企業(yè)而言便于打造不同產(chǎn)品樣態(tài),，也能保障用戶使用體驗(yàn)和認(rèn)知效果,，在實(shí)現(xiàn)監(jiān)管目的的同時(shí)也為技術(shù)發(fā)展提供了有效保障。二是劃分不同主體責(zé)任,，精細(xì)化避風(fēng)港原則適用,。《辦法》雖然將標(biāo)識添加的責(zé)任主要施加于服務(wù)提供者和上傳內(nèi)容的用戶,，但未對傳播平臺和應(yīng)用分發(fā)平臺實(shí)施“一刀切”式的避風(fēng)港規(guī)則,。《辦法》采取一種更為精細(xì)化的路徑,，詳細(xì)規(guī)定傳播平臺應(yīng)當(dāng)對文件元數(shù)據(jù)中的擴(kuò)展字段進(jìn)行核驗(yàn),，提示用戶生成合成內(nèi)容信息，并在文件元數(shù)據(jù)中添加傳播要素信息,；應(yīng)用服務(wù)分發(fā)平臺應(yīng)在應(yīng)用程序上架或上線審核前核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識功能,。此舉有助于適當(dāng)調(diào)整服務(wù)提供者、使用者和傳播分發(fā)平臺的義務(wù)分配,，避免相關(guān)平臺“隱身”于深度合成監(jiān)管體系,，從而真正實(shí)現(xiàn)齊抓共管、協(xié)同共治的治理機(jī)制,，有效維護(hù)健康向善的信息網(wǎng)絡(luò)生態(tài)環(huán)境,。