人工智能生成合成内容标识责任的边界与合规要点

引言

近年来，我国人工智能领域的监管始终是学术与实务界重点关注的领域。在立法层面，我国并未出台针对人工智能的系统性监管法律法规，而是采用问题式监管模式，即针对人工智能面临的不同紧迫问题，分别出台相应的管理办法。

随着生成式人工智能（GEN AI）技术的普及与应用，人工智能生成内容（AIGC）的传播引发了一系列问题，如虚假信息引发社会舆情、利用深度伪造实施诈骗、侵害知识产权等，严重削弱了公众对网络信息的信任基础。

对此，国家互联网信息办公室等部门于今年3月联合发布了《人工智能生成合成内容标识办法》（以下简称“标识办法”）以及强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称“标识方法”），这两项规定将于2025年9月1日同步实施。两项配套规定的出台旨在明确AIGC内容标识的操作方式和方法，推动我国人工智能生成内容标识制度的落地实施。

结合这一立法背景，我们认为此次内容标识相关办法的出台，不仅为从业者指明了内容合规方面的落实途径，也预示着我国未来将逐步加强对AIGC的监管。因此，相关企业需重视AIGC的标识义务。

一、现有内容标识制度的监管框架

我国现行有关内容标识制度的法律法规包括《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能管理暂行办法》等，其内容主要是概括性陈述相关服务提供者应当进行内容标识的义务。

而《标识办法》与《标识方法》这两项新规，正是对前述标识义务在具体操作方法层面的进一步落实和细化。例如，两项新规充分考虑了人工智能技术多模态的特性，针对文本、图像、音频、视频等不同形式的生成内容，分别明确了其相应的标识要求和执行标准。此外，新规还系统性地构建了从内容生成到传播再到使用的全流程标识义务体系，并注重与现有审核机制之间的衔接与协同。这一设计旨在实现对AIGC内容在不同应用场景中、针对不同责任主体的全模态覆盖与全流程监管，从而提升治理效率与监管效果。

二、人工智能生成合成内容标识机制

此次《标识办法》通过建立显隐双标识机制，重点解决了不同生成内容和场景下的标识问题。

▲显式标识机制

显式标识，是指在人工智能生成合成内容或交互场景界面中添加的，以文字、声音、图形等方式呈现，并可被用户明显感知的标识[1]，其主要用途是向公众提示内容由人工智能合成，避免公众产生混淆或者误认。

▲隐式标识机制

隐式标识，包括元数据隐式标识和内容隐式标识，是指采取技术措施在文件数据中添加的，不易被用户明显感知到的标识[2]。元数据标识是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性和用途等信息内容；内容标识包括内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息[3]。

三、人工智能生成合成内容标识全流程合规要点

具体而言，《标识办法》的核心思路在于系统性地构建一套完整的“责任链闭环”管理机制，主要通过明确各参与环节主体的法律义务和操作规范来实现有效管理。该办法创新性地采用了显式标识与隐式标识相结合的双轨并行方式，对相关内容和数据实施多层次、多维度的标识管理，既包括对外公开、可直接识别的显性标记，也涵盖嵌入系统内部、用于追溯与验证的隐性标识手段，从而全面提升管理效能与精准度。

3.1 生成环节

▲责任主体——生成合成服务提供者

依据《标识办法》第二条和第四条的规定，我们认为在生成环节需要履行内容标识的主体，为《互联网信息服务深度合成管理规定》中所定义的“深度合成服务提供者”以及《生成式人工智能服务管理暂行办法》中所定义的“生成式人工智能服务提供者”。

从模型布放的角度来看，我们认为生成式人工智能服务者均为应用产品提供者，而非基础模型提供者。根据《生成式人工智能服务管理暂行办法》对生成式人工智能服务提供者的定义，指的是使用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。同时，参考广州互联网法院作出的（2024）粤0192民初113号案民事判决书（奥特曼案），被告通过调用API的方式提供AIGC服务并生成奥特曼图案，仍被法院认定为AIGC服务提供者，且需承担相应侵权责任。由此可以推断，在应用侧控制力更强的云部署模式和本地化部署模式下，应用产品提供者也会被视作生成式人工智能服务者。

从技术支持的角度而言，由于《生成式人工智能服务管理暂行办法》并未提及技术支持者的角色，所以在认定生成式人工智能服务者时，我们认为需要通过区分2B服务提供者还是2C服务提供者来进行判断。根据相对性，模型产品的生成式人工智能服务者为基础模型提供者；应用产品的生成式人工智能服务者为应用产品提供者。 

▲合规义务------添加显隐式标识

根据《标识办法》第四条、第五条的规定，生成合成服务提供者应对生成内容[4]添加显隐式标识，并且要求AIGC服务提供者们确保提供生成合成内容下载、复制、导出等功能时，文件中应当含有满足要求的显式标识：

在对文件元数据进行编码时，可参考《网络安全标准实践指南---人工智能生成合成内容标识服务提供者编码规则》进行统一编码：

3.2 传播环节

▲内容传播服务提供者

根据《标识办法》的规定，提供网络信息内容传播的服务提供者应当采取核验和补充标识的措施，确保生成合成内容传播活动的规范：

▲应用程序分发平台

《标识办法》第七条规定，互联网应用程序分发平台应当在应用程序上架审核时，要求应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识的相关材料。这意味着相关应用程序服务提供者应当在报审时主动声明其人工智能生成合成服务情况，并提供内容标识材料进行核验。

3.3 使用环节

《标识办法》第八条、第十条分别规定了用户在发布生成合成内容时需主动添加显式标识。而生成合成服务提供者则需要通过用户协议等方式明确标识方式和义务等，明确其与用户之间的权责分配。

▲披露义务

根据《标识办法》第八条，生成合成服务提供者应当明确向用户说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

▲告知义务

为了满足市场使用需求，《标识办法》[9]也对用户获取不添加显式标识的生成合成内容的情况予以规定。在该种情况下，生成合成服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，依法留存不少于6个月的相关日志信息后向用户提供。

▲审慎与协助义务

由于人工智能生成合成内容存在被误用、滥用、恶意使用的安全风险，严重影响国家安全，危害广大人民群众在网络安全的合法权益[10]，生成合成式服务提供者需符合法律法规及强制性国家标准的要求，不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益；在履行备案和安全评估程序时，应当按照《标识办法》提供标识材料予以核验，在正当的司法程序中，应当为打击相关的犯罪活动提供支持和帮助。

四、司法审判实务分析

4.1案件背景

原告是某网络平台用户，被告是该平台运营者。原告在平台上发布了“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……工作之后就没有太多完整的时间学驾照了”。该内容被被告网络平台判定为“包含人工智能生成内容但未标识”的违规内容，进而作出将该内容隐藏并将用户禁言一天的处理。

后原告进行申诉未成功，遂以并未使用人工智能创作，被告的行为构成违约为由诉至北京互联网法院，请求法院判令被告撤销隐藏内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。

4.2判决结果

北京互联网法院判决书认为，被告有权依据合同约定对用户发布的内容是否属于人工智能生成合成进行算法判定并据此作出处理。但被告以商业秘密保护为由，未对人工智能生成合成内容标识识别算法运作过程和决策结果进行适度的解释和说明，未完成初步举证责任，在没有充分事实依据的前提下对涉案回答进行处理，应当承担相应的法律责任。判决被告恢复违规处理内容、删除禁言处理记录。

4.3 人工智能生成合成内容司法审查规则

▲ 网络平台有权利用算法工具对用户发布的内容是否使用了人工智能生成合成技术进行审查和处理。网络平台应通过用户协议、社区规范、处罚规则等明确告知用户需要遵守人工智能标识规定，如用户违反有关规定，网络平台可对违规行为进行处理。

▲ 若网络平台判定用户发布的内容系由人工智能生成合成，一般情况下用户需要提供证明该内容系人类创作的初步证据。但在即时创作等用户难以举证的特殊语境下，可结合创作形式、内容、载体等因素综合确定由平台承担举证责任。

▲ 如果网络平台以算法决策作为说明将争议内容识别为人工智能生成合成内容的依据，则应举证证明其使用的算法工具具备相应的功能，且该具体决策判断具有合理性。网络平台不得仅以涉及商业秘密为由规避算法说明义务。

▲ 对于算法解释的司法审查应符合比例原则。一般情况下，网络平台无需提供技术细节、源代码或原始数据，而需围绕案件争议事实以可理解的方式举证或说明算法运行机制、对可能出现的误判是否采取了合理的救济措施。[9]

4.4识别人工智能生成合成内容的技术标准和证据呈现

参考上述案例，举证证明人工智能生成合成识别算法与删帖禁言等处罚行为之间的关联关系，是决定案件裁判结果的核心争议焦点。对此，标识责任主体应优先关注算法备案信息中的《算法公示内容》，明确平台算法涵盖识别人工智能生成合成内容等各项功能。其次，标识责任主体应依照《网络安全标准实践指南——人工智能生成合成内容检测 第1部分：框架》的规定，针对不同类别的人工智能生成合成内容设定特定的检测目标、检测流程和检测方法，确保检测方法与检测目标相契合。最后，标识责任主体应将相关检测方法、检测原理纳入用户协议或用户社区准则，明确约定平台有权依据该规则和标准对人工智能生成内容进行检测，并有权根据检测结果作出处理决定。

“双轨标识”与全链条责任划分的监管框架，为AIGC行业的发展划定了清晰的边界。在此背景下，AIGC行业的企业应迅速完成合规整改，建立一套完善且可用的“打标识”制度，对平台审核方式与用户协议的相关条款进行调整，确保生成式人工智能生成内容符合法律要求。

[1]：《人工智能生成合成内容标识办法》第三条第三款；显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

[2]：《人工智能生成合成内容标识办法》第三条第四款：隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

[3]：《互联网信息服务深度合成管理规定》第十六条：深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。

[4]：深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

[5]：具体标识格式及示例请参考：《网络安全技术 人工智能生成合成内容标识方法》附录C

[6]：具体标识格式及示例请参考：《网络安全技术 人工智能生成合成内容标识方法》附录D

[7]：具体标识格式及示例请参考：《网络安全技术 人工智能生成合成内容标识方法》附录E、F

[8]：具体编码规则请参考：《网络安全标准实践指南------人工智能生成合成内容标识 服务提供者编码规则》（V1.0-202503)

[9]：《法律适用》2025年第9期《人工智能生成合成内容标识的司法审查规则构建——以 “平台判定用户内容系AI生成首案”为例》，作者：袁建华