《人工智能生成合成内容标识办法》正式发布，将对行业带来哪些影响？

界面新闻记者 | 佘晓晨
界面新闻编辑 | 文姝琪

在人工智能治理的进程中，又一个具有代表性的办法正式发布。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称“《标识办法》”），自2025年9月1日起施行。国家互联网信息办公室有关负责人表示，《标识办法》旨在促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益。

《标识办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

自人工智能技术加速发展以来，关于AI治理的议题就反复被行业人士讨论。其中，关于AI生成内容的风险尤其被外界和产业重视，包括虚假信息、信息茧房、数据安全和隐私保护等等——这些问题往往和AI用户直接息息相关。

去年9月，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，向社会公开征求意见。如今《标识办法》正式发布，对于内容提供方、内容平台和个人用户来说都有不小的影响。

中国科学院科技战略咨询研究院研究员肖尤丹认为，《标识办法》的发布实际上并不是AI内容治理的终极手段，而是过程中一次“小步快走”的治理实践，是更符合当下中国人工智能发展阶段的治理方法。

平衡“安全”与“发展”的关键一

2022年12月，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》。这被外界视为人工智能治理的一次重要节点。

对于标识制度，肖尤丹认为，这是国家对生成式人工智能内容侧治理的新一步，但并不是一个孤立的办法，应当把它放到生成式人工智能内容治理的总体框架里，与算法备案管理、生成式人工智能服务管理、深度合成管理相互协调、共同发挥作用的角度去理解。

在此基础上分析《标识办法》的实施，对于行业来说可能更有参考价值。

从具体的操作来看，《标识办法》提出，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：包括在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识等等。

也就是说，《标识办法》解决的是关键性的“有或无”的问题，而不是治理的终极手段。

正因为此，肖尤丹认为，《标识办法》是目前我国人工智能生成内容治理和秩序管理发展过程中的关键一招，也和目前AIGC技术发展和社会化应用阶段相匹配。

“这是一种敏捷治理、小步快走的逻辑，而不是一招制敌、一劳永逸的逻辑。”肖尤丹说。原因在于，当下人工智能的技术安全手段、外部监管以及技术发展之间存在巨大落差，强制标识制度可能是现阶段社会共识最高、技术和治理成本最可行的方案，能在安全治理和产业发展之间形成较好的平衡，为当前快速增长的AIGC产业提供足够的合规发展空间。

从整个内容行业的角度而言，《标识办法》的推出也有利于市场的公平竞争和有效管理。肖尤丹总结称，“标识”至少实现了了四个“区分开”：首先是区分AIGC和其他内容，这有利于保护传统内容产业，降低一定程度的技术直接冲击；第二是区分场景合规，即深度合成场景的合规要求高于其他生产场景；第三和第四则是区分AIGC的不同来源和AIGC生成、使用和传播主体的不同责任，例如内容来自于DeepSeek或是Kimi。

那么，既然《标识办法》对服务提供者提出了诸多要求，具体实现的难度如何？

相比技术上的难度，AI公司可能更需要适应新规范下的运营流程。肖尤丹分析称，社会对该办法出台的预期比较稳定，办法也预留了半年左右的准备时间，因此，对大多数AIGC服务提供者来说，履行办法中的“标识义务”并没有太大的技术难度和合规成本。尤其是现在国内主流的AI服务提供商，实际上已经在采取类似的标识方式。不过，对于那些提供接口服务或间接向公众提供AI服务的公司来说，或许会需要一个技术调整与合规的过程。

提高违规和责任成本

值得一提的的是，就标识义务来看，《标识办法》主要约束的是人工智能生成服务提供者，涉及用户的只有两条。因而从个人用户的角度来看，《标识办法》的实施实际上不会产生太多内容消费体验或使用合规上的影响。

肖尤丹称，这是因为，现阶段标识规则首先需要解决的是关键主体、关键场景、关键活动和关键风险筑牢底线的问题。例如，对于部分使用人工智能生成内容辅助创作的个人，因为其不是人工智能生成服务提供者，按照《标识办法》，就并不存在进行标识的义务，但是有保留AIGC上已有标识的责任，不得恶意删除、篡改、伪造、隐匿标识。同时，《标识办法》也专门为用户提供了向生成服务者申请提供没有添加显式标识AIGC的合规机制。

可以肯定的是，对于那些批量化搬运AI生成内容、进行病毒式传播的“营销号”们而言，未来将面临更高的合规难度。

这也是《标识办法》对于内容行业发展的最大意义之一：通过标识解决一些特定场景的“透明义务”问题，提高违规和责任成本。

肖尤丹举例称，在没有标识的情况下，可能会存在一种情况——将公司“A”的人工智能生产内容套用到“B”的结果上，对用户形成误导，甚至用不合规的内容进行“栽赃”。同样，《标识办法》提出，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，包括应当核验文件元数据中是否含有隐式标识、采取适当方式在发布内容周边添加显著的提示标识等等。

在这样的要求下，标识的存在也会对大规模搬运人工智能直接生成内容的行为进行拦截，让内容平台有了更明确的合规要求和管理程序，有利于降低总体的审核运营成本。

当下，我国的人工智能立法已经有了不少探索和成果，目前已经发布的包括《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等等。但至今仍未形成专门的法律法规。

肖尤丹认为，《标识办法》为优化AIGC内容秩序、防范技术大规模应用等下提供了基础性规范工具，构建了以生成源头强制标识为基础的内容秩序监管框架，不仅可以规范生成服务提供者的源头生成行为，也提高了使用和传播生成内容的透明度，这必然会大幅增加利用AIGC进行违法犯罪活动的成本，也为进一步遏制AIGC灰黑产业链和新型违法预留了制度接口。

不过，肖尤丹也向界面新闻表示，与当前AIGC监管中存在的各类风险和合规空白区相比，《标识办法》也并不完美。但从当下现实的视角来看，《标识办法》的实施可以在相当一段时期内消除AIGC服务和内容生产合规风险不稳定的预期，便于相关产业轻装上阵，抓住AI带来的新机遇，加快扩大技术应用规模和助力产业发展空间。