人工智能生成合成內(nèi)容（AIGC，AI Generates synthetic Content）是隨著人工智能（AI）技術(shù)，特別是生成式人工智能（Generative AI）技術(shù)的發(fā)展而新興的，它給人類帶來了前所未有的生產(chǎn)力和體驗(yàn)的提升。然而， AIGC日益逼真，網(wǎng)絡(luò)傳播內(nèi)容是否由人工智能生成合成難以分辨，社會(huì)上已出現(xiàn)多起利用AIGC傳播虛假新聞、引發(fā)社會(huì)輿情，或是利用AI生成合成內(nèi)容進(jìn)行詐騙的案件。AIGC存在被誤用、濫用、惡意使用的安全風(fēng)險(xiǎn)，嚴(yán)重影響國(guó)家安全，危害廣大人民群眾在網(wǎng)絡(luò)空間的合法權(quán)益。鑒于此，我國(guó)依據(jù)相關(guān)法律法規(guī)制定并印發(fā)了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（國(guó)信辦通字 [ 2025] 2號(hào)，下簡(jiǎn)稱《標(biāo)識(shí)辦法》）和《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（GB 45438-2025，下簡(jiǎn)稱《標(biāo)識(shí)方法》）。《標(biāo)識(shí)方法》和《標(biāo)識(shí)辦法》的發(fā)布和執(zhí)行，對(duì)我國(guó)防范人工智能生成合成內(nèi)容引發(fā)安全風(fēng)險(xiǎn)、提升人工智能安全水平起到規(guī)范作用，促進(jìn)人工智能行業(yè)安全發(fā)展。

欲具體了解人工智能（AI）介紹的請(qǐng)進(jìn)入。

一、AIGC標(biāo)識(shí)：國(guó)家法規(guī)的管理要求

隨著科技的發(fā)展進(jìn)步，生成式人工智能已成為影響當(dāng)今人類社會(huì)的一種新生技術(shù)，它不僅造福于人類社會(huì)，與此同時(shí)也帶來了極大的社會(huì)安全風(fēng)險(xiǎn)。由于它導(dǎo)致的是對(duì)人類社會(huì)和人類文明的影響，國(guó)家政府必須施行法規(guī)進(jìn)行管理，使得該技術(shù)能夠真正推動(dòng)人類社會(huì)和人類文明的健康進(jìn)步。為此，依據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律和行政法規(guī)，我國(guó)相關(guān)行政主管部門出臺(tái)了針對(duì)生成式人工智能服務(wù)管理的部門規(guī)章。主要有：

1、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（三部門令第12號(hào)）

2022 年 11 月，國(guó)家網(wǎng)信辦、工信部和公安部三部門聯(lián)合印發(fā)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（三部門令第12號(hào)），提出了深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容進(jìn)行標(biāo)識(shí)的要求。其中，第十六條規(guī)定：深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息。這即隱式標(biāo)識(shí)的要求。其第十七條規(guī)定：深度合成服務(wù)提供者提供以下（見下表1-1）深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。這即顯式標(biāo)識(shí)的要求。其第十八條規(guī)定：任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標(biāo)識(shí)。

表 1-1：需要進(jìn)行顯式標(biāo)識(shí)的深度合成服務(wù)種類

2、《生成式人工智能服務(wù)管理暫行辦法》（七部門令第15號(hào)）

2023 年 7 月，國(guó)家網(wǎng)信辦、國(guó)家發(fā)改委、教育部、科技部、工信部、公安部和國(guó)家廣電總局七部門聯(lián)合印發(fā)了《生成式人工智能服務(wù)管理暫行辦法》（七部門令第15號(hào)）。其中第十二條規(guī)定：提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

總之，依據(jù)上述國(guó)家部門規(guī)章，我國(guó)建立了對(duì)人工智能生成合成內(nèi)容（AIGC）的標(biāo)識(shí)制度，它分為隱式標(biāo)識(shí)（Implicit Label）和顯式標(biāo)識(shí)（Explicit Label）兩種方式（其含義詳見下表1-2）。人工智能生成合成內(nèi)容標(biāo)識(shí)是指表明某個(gè)內(nèi)容是人工智能生成合成內(nèi)容的信息，標(biāo)識(shí)可包含生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者等信息。為了AIGC標(biāo)識(shí)制度的有效開展，我國(guó)專門發(fā)布了《標(biāo)識(shí)方法》和《標(biāo)識(shí)辦法》。

表 1-2：隱式標(biāo)識(shí)與顯式標(biāo)識(shí)的定義

欲詳細(xì)了解上述部門規(guī)章介紹的請(qǐng)進(jìn)入。

二、《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（國(guó)信辦通字 [ 2025] 2號(hào)）

為了落實(shí)我國(guó)建立的人工智能生成合成內(nèi)容的標(biāo)識(shí)制度，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局，于2025年3月7日聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（國(guó)信辦通字 [ 2025] 2號(hào)）的規(guī)范性文件。《標(biāo)識(shí)辦法》的內(nèi)容共十四條，其具體內(nèi)容請(qǐng)?jiān)斠娤卤砀郊?/span>2。

附件 2：《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（國(guó)信辦通字 [ 2025] 2號(hào)）

1、《標(biāo)識(shí)辦法》的管理思路

《標(biāo)識(shí)辦法》是對(duì)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》的繼承和延伸，從人工智能技術(shù)特性出發(fā)，在生成合成標(biāo)識(shí)這一人工智能安全治理制度上提出了針對(duì)性的管理思路。其管理思路主要表現(xiàn)在：一是細(xì)化已有規(guī)定；二是解決關(guān)鍵問題；三是統(tǒng)籌發(fā)展和安全；四是管理要求與技術(shù)標(biāo)準(zhǔn)一體化考慮等方面，其具體描述請(qǐng)?jiān)斠娤卤?/span>2-1。

表 2-1：《標(biāo)識(shí)辦法》的管理思路描述

2、《標(biāo)識(shí)辦法》的主要內(nèi)容

《標(biāo)識(shí)辦法》規(guī)定的重點(diǎn)內(nèi)容包括：一是明確了服務(wù)提供者的具體要求；二是明確互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)采取相應(yīng)措施規(guī)范人工智能生成合成服務(wù)；三是明確合規(guī)獲得沒有添加顯式標(biāo)識(shí)的生成合成內(nèi)容；等等方面，下表2-2給出了這些方面的介紹。

表 2-2：《標(biāo)識(shí)辦法》的重點(diǎn)內(nèi)容簡(jiǎn)介

三、GB 45438-2025《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》

為了與上述的部門規(guī)章相配套，并對(duì)《標(biāo)識(shí)辦法》提供技術(shù)支撐，以規(guī)范生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者對(duì)人工智能生成合成內(nèi)容開展標(biāo)識(shí)活動(dòng)，我國(guó)在2025年2月28日發(fā)布了國(guó)家強(qiáng)制性標(biāo)準(zhǔn)GB 45438-2025《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》，它制定了人工智能生成合成內(nèi)容的顯式標(biāo)識(shí)和隱式標(biāo)識(shí)方法的技術(shù)標(biāo)準(zhǔn)。下述給以概要介紹，若要詳細(xì)了解具體內(nèi)容的請(qǐng)查閱下附件3。

附件 3：GB 45438-2025《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》

1、顯式標(biāo)識(shí)法

顯式標(biāo)識(shí)方法是指在人工智能生成合成內(nèi)容或交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識(shí)，主要用途是向公眾提示內(nèi)容由人工智能生成合成。其典型的應(yīng)用場(chǎng)景詳見下表3-1-1。顯式標(biāo)識(shí)按照標(biāo)識(shí)對(duì)象可分為內(nèi)容顯式標(biāo)識(shí)、交互場(chǎng)景界面顯式標(biāo)識(shí)，其構(gòu)成圖詳見下圖3-1。由圖可知，內(nèi)容顯式標(biāo)識(shí)可進(jìn)一步分為文本、圖片、音頻、視頻、虛擬場(chǎng)景等模態(tài)的顯式標(biāo)識(shí)；交互場(chǎng)景界面顯式標(biāo)識(shí)可進(jìn)一步分為在內(nèi)容附近的顯式標(biāo)識(shí)和交互場(chǎng)景界面適當(dāng)位置的顯式標(biāo)識(shí)。顯式標(biāo)識(shí)法的具體要求詳見下表3-1-2的介紹，包括標(biāo)識(shí)顯示的形式、要素、位置等要求及示例。

表 3-1-1：顯式標(biāo)識(shí)的典型應(yīng)用場(chǎng)景

圖 3-1：顯式標(biāo)識(shí)的構(gòu)成圖

表 3-1-2：顯式標(biāo)識(shí)法的技術(shù)要求

2、隱式標(biāo)識(shí)法

隱式標(biāo)識(shí)方法指采取技術(shù)措施在人工智能生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)，主要用途是記錄生成合成內(nèi)容相關(guān)信息。隱式標(biāo)識(shí)按照標(biāo)識(shí)位置可分為文件元數(shù)據(jù)隱式標(biāo)識(shí)、內(nèi)容隱式標(biāo)識(shí)（如在生成合成內(nèi)容中添加的數(shù)字水印）等，其構(gòu)成圖詳見下圖3-2。文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件中的描述性數(shù)據(jù)，用于記錄文件來源、屬性、用途、版權(quán)等信息。根據(jù)《標(biāo)識(shí)辦法》要求由于數(shù)字水印可能增加企業(yè)成本，暫不作強(qiáng)制要求。隱式標(biāo)識(shí)的具體要求詳見下表3-2的介紹，包括標(biāo)識(shí)的要素、格式等要求及示例。

圖 3-2：隱式標(biāo)識(shí)的構(gòu)成圖

表 3-2：隱式標(biāo)識(shí)法的技術(shù)要求

四、《標(biāo)識(shí)辦法》與《標(biāo)識(shí)方法》之關(guān)系

其一，《標(biāo)識(shí)辦法》是對(duì)上述部門規(guī)章的細(xì)化及延伸，屬于國(guó)家機(jī)關(guān)的規(guī)范性管理文件；《標(biāo)識(shí)方法》是對(duì)《標(biāo)識(shí)辦法》提供的技術(shù)支撐，屬于國(guó)家強(qiáng)制性標(biāo)準(zhǔn)。兩者均是從2025年9月1日同步同時(shí)實(shí)施。

其二，《標(biāo)識(shí)辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù)，對(duì)具體實(shí)施操作不做要求。《標(biāo)識(shí)方法》以強(qiáng)制性國(guó)家標(biāo)準(zhǔn)形式制定實(shí)施，主要提出強(qiáng)制執(zhí)行部分的標(biāo)識(shí)具體實(shí)施方式和操作方法。各自的著重點(diǎn)可詳見下表4-2的描述。

表 4-2：《標(biāo)識(shí)辦法》與《標(biāo)識(shí)方法》的著重點(diǎn)

其三，通過《標(biāo)識(shí)辦法》和《標(biāo)識(shí)方法》組合，具有了政策標(biāo)準(zhǔn)通用性、技術(shù)實(shí)施可行性、標(biāo)準(zhǔn)承接符合性特點(diǎn)，強(qiáng)化主動(dòng)合規(guī)方面的引導(dǎo)與指導(dǎo)，打破了人工智能生成合成內(nèi)容“信任赤字”的困局。《標(biāo)識(shí)方法》與《標(biāo)識(shí)辦法》所規(guī)范的對(duì)象均包括生成合成服務(wù)的提供者和內(nèi)容傳播服務(wù)的提供者。給出了提供者在合規(guī)框架下進(jìn)行技術(shù)創(chuàng)新的指引，在保障安全性和可靠性的前提下促進(jìn)新產(chǎn)品和新服務(wù)的快速落地，共同促進(jìn)了人工智能生成合成內(nèi)容技術(shù)的健康發(fā)展。

總之，《標(biāo)識(shí)辦法》與《標(biāo)識(shí)方法》的發(fā)布實(shí)施，旨在從技術(shù)規(guī)則到技術(shù)標(biāo)準(zhǔn)的有機(jī)組合，以有效防范人工智能生成合成內(nèi)容引發(fā)的信息安全風(fēng)險(xiǎn)，提升人工智能安全水平，規(guī)范人工智能行業(yè)應(yīng)用和健康發(fā)展。

欲進(jìn)一步了解人工智能（AI）關(guān)鍵技術(shù)介紹的請(qǐng)進(jìn)入。