隨著人工智能（AI）尤其是生成式人工智能技術(shù)的飛速發(fā)展，深度合成及生成合成的內(nèi)容質(zhì)量顯著提升、生成速度與合成深度明顯提高、適用場(chǎng)景與接觸人群不斷擴(kuò)展，生成式AI技術(shù)已逐步深入到人類(lèi)社會(huì)，并進(jìn)入了規(guī)?；膽?yīng)用階段。生成合成技術(shù)開(kāi)始呈現(xiàn)工具化和普及化趨勢(shì)，普通人都可以輕松地接觸到各種生成合成工具。與此同時(shí)，其帶來(lái)的各種安全問(wèn)題也隨之顯現(xiàn)，譬如用AI生成虛假信息、AI換臉明星直播帶貨、AI實(shí)時(shí)換臉詐騙等違規(guī)甚至違法的事件不斷出現(xiàn)。這種新的科學(xué)技術(shù)的進(jìn)步，極大的影響著人類(lèi)社會(huì)和人類(lèi)文明。鑒于此，國(guó)家行政管控的職能，必將是引領(lǐng)該技術(shù)的合規(guī)合法的健康發(fā)展和應(yīng)用，使得AI生成合成技術(shù)既造福于人類(lèi)社會(huì)發(fā)展，又促進(jìn)人類(lèi)文明進(jìn)步。為此，在我國(guó)，相關(guān)政府主管部門(mén)依據(jù)國(guó)家的法律法規(guī)，對(duì)相關(guān)AI生成合成技術(shù)的發(fā)展應(yīng)用，制定了相應(yīng)的部門(mén)規(guī)章及規(guī)范性管理文件。
欲具體了解人工智能介紹的請(qǐng)進(jìn)入。
一、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（三部門(mén)令第12號(hào)）
在2022 年11月25日，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部三部門(mén)，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律與行政法規(guī)，制定并印發(fā)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（網(wǎng)信辦、工信部、公安部令第12號(hào)）。該《管理規(guī)定》是對(duì)在我國(guó)境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)進(jìn)行行政管理規(guī)范，旨在加強(qiáng)我國(guó)互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚(yáng)社會(huì)主義核心價(jià)值觀，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。下表1-0給出了該《管理規(guī)定》出臺(tái)的意義。
表 1-0：《管理規(guī)定》出臺(tái)的意義
欲具體了解上述相關(guān)法律法規(guī)介紹的請(qǐng)進(jìn)入。
該《管理規(guī)定》的內(nèi)容是由五章二十五條組成，自2023年1月10日起施行。下述對(duì)該《管理規(guī)定》給以簡(jiǎn)要的解讀，若要詳細(xì)了解具體內(nèi)容的請(qǐng)查閱下附件1。
附件 1：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（三部門(mén)令第12號(hào)）
1、關(guān)于深度合成技術(shù)的定義
該《管理規(guī)定》對(duì)深度合成技術(shù)進(jìn)行了明確的定義，是指利用深度學(xué)習(xí)（DL，Deep Learning）、虛擬現(xiàn)實(shí)（VR，Virtual Reality）等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。具體包括（但不限于）以下六類(lèi)技術(shù)：其一，篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話(huà)等生成或者編輯文本內(nèi)容的技術(shù)；其二，文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù)；其三，音樂(lè)生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內(nèi)容的技術(shù)；其四，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；其五，圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；其六，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)等。
欲具體了解深度學(xué)習(xí)（DL）技術(shù)的請(qǐng)進(jìn)入。
2、關(guān)于深度合成技術(shù)的服務(wù)者
《管理規(guī)定》是對(duì)在我國(guó)從事深度合成技術(shù)服務(wù)者的監(jiān)督管理和行為約束。深度合成技術(shù)服務(wù)者包括深度合成服務(wù)提供者、深度合成服務(wù)技術(shù)支持者和深度合成服務(wù)使用者，它們的具體含義詳見(jiàn)下外表1-2-1。《管理規(guī)定》對(duì)深度合成技術(shù)服務(wù)者，尤其是深度合成服務(wù)提供者管控的重要方面包括：落實(shí)信息安全主體責(zé)任；數(shù)據(jù)和技術(shù)管理規(guī)范；標(biāo)識(shí)要求；備案義務(wù)；履行安全評(píng)估和配合監(jiān)督檢查義務(wù)等等，下表1-2-2給出了其具體描述。
表 1-2-1：度合成技術(shù)服務(wù)者的含義
表 1-2-2：《管理規(guī)定》對(duì)深度合成技術(shù)服務(wù)者的管控要求
3、關(guān)于《管理規(guī)定》所建立的管理制度
根據(jù)上述，《管理規(guī)定》對(duì)深度合成技術(shù)服務(wù)的管理主要建立了以下三項(xiàng)關(guān)鍵管理制度：
一是監(jiān)管制度：國(guó)家政府機(jī)關(guān)對(duì)深度合成技術(shù)服務(wù)實(shí)施監(jiān)督管理，管理主體是國(guó)家網(wǎng)信辦及工信部、公安部，包括它們的地方部門(mén)。
二是備案制度：具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷(xiāo)備案手續(xù)。
三是標(biāo)識(shí)制度：對(duì)互聯(lián)網(wǎng)上生成合成的內(nèi)容進(jìn)行標(biāo)識(shí)，標(biāo)識(shí)方式包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種。
二、《生成式人工智能服務(wù)管理暫行辦法》（七部門(mén)令第15號(hào)）
2023年7月10日，國(guó)家網(wǎng)信辦又聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局七部門(mén)，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律，針對(duì)利用生成式人工智能技術(shù)向我國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)，制定并印發(fā)了《生成式人工智能服務(wù)管理暫行辦法》（七部門(mén)令第15號(hào)）。旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。出臺(tái)該《辦法》，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。該《辦法》的內(nèi)容是由五章二十四條構(gòu)成，自2023年8月15日起施行。若要具體了解該《辦法》詳細(xì)內(nèi)容的請(qǐng)查閱下附件2。
附件 2：《生成式人工智能服務(wù)管理暫行辦法》（七部門(mén)令第15號(hào)）
該《辦法》主要規(guī)定的內(nèi)容簡(jiǎn)單描述包括：提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求。提出了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施，明確了訓(xùn)練數(shù)據(jù)處理活動(dòng)和數(shù)據(jù)標(biāo)注等要求。規(guī)定了生成式人工智能服務(wù)規(guī)范，明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)，按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)，發(fā)現(xiàn)違法內(nèi)容應(yīng)當(dāng)及時(shí)采取處置措施等。此外，還規(guī)定了安全評(píng)估、算法備案、投訴舉報(bào)等制度，明確了法律責(zé)任。
由于生成式人工智能技術(shù)是近些年來(lái)剛剛興起的一門(mén)技術(shù)，對(duì)于我國(guó)生成式人工智能生成內(nèi)容服務(wù)的行政管理，其管理內(nèi)容和管理方式還需要探索，如如何分類(lèi)分級(jí)監(jiān)管等。因此該《暫行辦法》也是結(jié)合當(dāng)前該服務(wù)的現(xiàn)狀，依據(jù)現(xiàn)有的法律、法規(guī)，實(shí)施的初步行政管理。
三、關(guān)于標(biāo)識(shí)制度的實(shí)施
上述兩個(gè)部門(mén)規(guī)章建立的關(guān)鍵管理制度之一就是人工智能提供的生成合成內(nèi)容實(shí)施標(biāo)識(shí)制度。標(biāo)識(shí)是指表明某個(gè)內(nèi)容是人工智能生成合成內(nèi)容的信息。標(biāo)識(shí)可包含生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者等信息。
《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中，第十六條規(guī)定：深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息。這即隱式標(biāo)識(shí)的要求。第十七條規(guī)定：深度合成服務(wù)提供者提供相關(guān)深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。這即顯式標(biāo)識(shí)的要求。其第十八條規(guī)定：任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標(biāo)識(shí)。
《生成式人工智能服務(wù)管理暫行辦法》中，第十二條規(guī)定：提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。
因此，為了人工智能生成合成內(nèi)容標(biāo)識(shí)制度的有效落實(shí)，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局，又于2025年3月7日聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（國(guó)信辦通字 [ 2025] 2號(hào)）的規(guī)范性文件。幾乎同時(shí)，在2025年2月28日，我國(guó)還發(fā)布了GB 45438-2025《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》國(guó)家強(qiáng)制性標(biāo)準(zhǔn)。《標(biāo)識(shí)辦法》是對(duì)上述部門(mén)規(guī)章的細(xì)化及延伸，《標(biāo)識(shí)方法》是對(duì)《標(biāo)識(shí)辦法》提供的技術(shù)支撐。兩者均于2025年9月1日同時(shí)生效并共同使用，以配套標(biāo)識(shí)制度的具體落地。
欲詳細(xì)了解《標(biāo)識(shí)方法》和《標(biāo)識(shí)辦法》介紹的請(qǐng)進(jìn)入。
欲進(jìn)一步了解國(guó)家網(wǎng)信辦相關(guān)部門(mén)規(guī)章索引的請(qǐng)進(jìn)入。
