人工智能生成合成內容（AIGC，AI Generates synthetic Content）是隨著人工智能（AI）技術，特別是生成式人工智能（Generative AI）技術的發展而新興的，它給人類帶來了前所未有的生產力和體驗的提升。然而， AIGC日益逼真，網絡傳播內容是否由人工智能生成合成難以分辨，社會上已出現多起利用AIGC傳播虛假新聞、引發社會輿情，或是利用AI生成合成內容進行詐騙的案件。AIGC存在被誤用、濫用、惡意使用的安全風險，嚴重影響國家安全，危害廣大人民群眾在網絡空間的合法權益。鑒于此，我國依據相關法律法規制定并印發了《人工智能生成合成內容標識辦法》（國信辦通字 [ 2025] 2號，下簡稱《標識辦法》）和《網絡安全技術 人工智能生成合成內容標識方法》（GB 45438-2025，下簡稱《標識方法》）。《標識方法》和《標識辦法》的發布和執行，對我國防范人工智能生成合成內容引發安全風險、提升人工智能安全水平起到規范作用，促進人工智能行業安全發展。

欲具體了解人工智能（AI）介紹的請進入。

一、AIGC標識：國家法規的管理要求

隨著科技的發展進步，生成式人工智能已成為影響當今人類社會的一種新生技術，它不僅造福于人類社會，與此同時也帶來了極大的社會安全風險。由于它導致的是對人類社會和人類文明的影響，國家政府必須施行法規進行管理，使得該技術能夠真正推動人類社會和人類文明的健康進步。為此，依據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律和行政法規，我國相關行政主管部門出臺了針對生成式人工智能服務管理的部門規章。主要有：

1、《互聯網信息服務深度合成管理規定》（三部門令第12號）

2022 年 11 月，國家網信辦、工信部和公安部三部門聯合印發了《互聯網信息服務深度合成管理規定》（三部門令第12號），提出了深度合成服務提供者對使用其服務生成或者編輯的信息內容進行標識的要求。其中，第十六條規定：深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規和國家有關規定保存日志信息。這即隱式標識的要求。其第十七條規定：深度合成服務提供者提供以下（見下表1-1）深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。這即顯式標識的要求。其第十八條規定：任何組織和個人不得采用技術手段刪除、篡改、隱匿本規定第十六條和第十七條規定的深度合成標識。

表 1-1：需要進行顯式標識的深度合成服務種類

2、《生成式人工智能服務管理暫行辦法》（七部門令第15號）

2023 年 7 月，國家網信辦、國家發改委、教育部、科技部、工信部、公安部和國家廣電總局七部門聯合印發了《生成式人工智能服務管理暫行辦法》（七部門令第15號）。其中第十二條規定：提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。

總之，依據上述國家部門規章，我國建立了對人工智能生成合成內容（AIGC）的標識制度，它分為隱式標識（Implicit Label）和顯式標識（Explicit Label）兩種方式（其含義詳見下表1-2）。人工智能生成合成內容標識是指表明某個內容是人工智能生成合成內容的信息，標識可包含生成合成服務提供者和內容傳播服務提供者等信息。為了AIGC標識制度的有效開展，我國專門發布了《標識方法》和《標識辦法》。

表 1-2：隱式標識與顯式標識的定義

欲詳細了解上述部門規章介紹的請進入。

二、《人工智能生成合成內容標識辦法》（國信辦通字 [ 2025] 2號）

為了落實我國建立的人工智能生成合成內容的標識制度，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局，于2025年3月7日聯合發布了《人工智能生成合成內容標識辦法》（國信辦通字 [ 2025] 2號）的規范性文件。《標識辦法》的內容共十四條，其具體內容請詳見下表附件2。

附件 2：《人工智能生成合成內容標識辦法》（國信辦通字 [ 2025] 2號）

1、《標識辦法》的管理思路

《標識辦法》是對《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》的繼承和延伸，從人工智能技術特性出發，在生成合成標識這一人工智能安全治理制度上提出了針對性的管理思路。其管理思路主要表現在：一是細化已有規定；二是解決關鍵問題；三是統籌發展和安全；四是管理要求與技術標準一體化考慮等方面，其具體描述請詳見下表2-1。

表 2-1：《標識辦法》的管理思路描述

2、《標識辦法》的主要內容

《標識辦法》規定的重點內容包括：一是明確了服務提供者的具體要求；二是明確互聯網應用程序分發平臺應當采取相應措施規范人工智能生成合成服務；三是明確合規獲得沒有添加顯式標識的生成合成內容；等等方面，下表2-2給出了這些方面的介紹。

表 2-2：《標識辦法》的重點內容簡介

三、GB 45438-2025《網絡安全技術 人工智能生成合成內容標識方法》

為了與上述的部門規章相配套，并對《標識辦法》提供技術支撐，以規范生成合成服務提供者和內容傳播服務提供者對人工智能生成合成內容開展標識活動，我國在2025年2月28日發布了國家強制性標準GB 45438-2025《網絡安全技術 人工智能生成合成內容標識方法》，它制定了人工智能生成合成內容的顯式標識和隱式標識方法的技術標準。下述給以概要介紹，若要詳細了解具體內容的請查閱下附件3。

附件 3：GB 45438-2025《網絡安全技術 人工智能生成合成內容標識方法》

1、顯式標識法

顯式標識方法是指在人工智能生成合成內容或交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可被用戶明顯感知到的標識，主要用途是向公眾提示內容由人工智能生成合成。其典型的應用場景詳見下表3-1-1。顯式標識按照標識對象可分為內容顯式標識、交互場景界面顯式標識，其構成圖詳見下圖3-1。由圖可知，內容顯式標識可進一步分為文本、圖片、音頻、視頻、虛擬場景等模態的顯式標識；交互場景界面顯式標識可進一步分為在內容附近的顯式標識和交互場景界面適當位置的顯式標識。顯式標識法的具體要求詳見下表3-1-2的介紹，包括標識顯示的形式、要素、位置等要求及示例。

表 3-1-1：顯式標識的典型應用場景

圖 3-1：顯式標識的構成圖

表 3-1-2：顯式標識法的技術要求

2、隱式標識法

隱式標識方法指采取技術措施在人工智能生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識，主要用途是記錄生成合成內容相關信息。隱式標識按照標識位置可分為文件元數據隱式標識、內容隱式標識（如在生成合成內容中添加的數字水印）等，其構成圖詳見下圖3-2。文件元數據是指按照特定編碼格式嵌入到文件中的描述性數據，用于記錄文件來源、屬性、用途、版權等信息。根據《標識辦法》要求由于數字水印可能增加企業成本，暫不作強制要求。隱式標識的具體要求詳見下表3-2的介紹，包括標識的要素、格式等要求及示例。

圖 3-2：隱式標識的構成圖

表 3-2：隱式標識法的技術要求

四、《標識辦法》與《標識方法》之關系

其一，《標識辦法》是對上述部門規章的細化及延伸，屬于國家機關的規范性管理文件；《標識方法》是對《標識辦法》提供的技術支撐，屬于國家強制性標準。兩者均是從2025年9月1日同步同時實施。

其二，《標識辦法》主要從立法層面提出管理要求，明確生成合成內容制作傳播各主體的責任義務，對具體實施操作不做要求。《標識方法》以強制性國家標準形式制定實施，主要提出強制執行部分的標識具體實施方式和操作方法。各自的著重點可詳見下表4-2的描述。

表 4-2：《標識辦法》與《標識方法》的著重點

其三，通過《標識辦法》和《標識方法》組合，具有了政策標準通用性、技術實施可行性、標準承接符合性特點，強化主動合規方面的引導與指導，打破了人工智能生成合成內容“信任赤字”的困局。《標識方法》與《標識辦法》所規范的對象均包括生成合成服務的提供者和內容傳播服務的提供者。給出了提供者在合規框架下進行技術創新的指引，在保障安全性和可靠性的前提下促進新產品和新服務的快速落地，共同促進了人工智能生成合成內容技術的健康發展。

總之，《標識辦法》與《標識方法》的發布實施，旨在從技術規則到技術標準的有機組合，以有效防范人工智能生成合成內容引發的信息安全風險，提升人工智能安全水平，規范人工智能行業應用和健康發展。

欲進一步了解人工智能（AI）關鍵技術介紹的請進入。