以包容审慎为导向 推动生成式人工智能产业向善发展 《生成式人工智能服务管理暂行办法》8月15日起施行

特约撰稿|万方

责编|薛应军

正文共2366个字，预计阅读需7分钟▼

近年来，生成式人工智能的快速发展掀起了新一轮技术革新浪潮。它在新闻、娱乐、教育等多个行业具有广阔的应用前景和发展空间。与此同时，生成式人工智能所引发的虚假信息传播、个人信息权益侵害、数据安全威胁等问题也引发人们关注与担忧。7月13日，国家网信办联合国家发展改革委、教育部、科技部等七部门共同发布《生成式人工智能服务管理暂行办法》（以下简称《办法》），进一步促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

《办法》充分吸收了此前各界对征求意见稿的意见与反馈，总体上体现出包容审慎的监管态度，在保障安全的基础上鼓励创新，不仅为生成式人工智能产业的发展释放积极信号，也将对推进生成式人工智能产业有序发展、防范社会风险发挥重要作用。《办法》自2023年8月15日起施行。

以产业发展需要为主线，营造良好发展生态

习近平总书记强调，要重视通用人工智能发展，营造创新生态，重视防范风险。《办法》第三条明确，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，并鼓励采取有效措施促进生成式人工智能创新发展。《办法》从基础技术自主创新、人工智能基础设施和公共训练数据资源平台建设几个方面作出顶层设计，意图实现算力资源协同共享，提升算力资源利用效能。这些内容从原则性条款和具体规定上都体现出积极支持生成式人工智能创新发展的政策导向，为产业发展生态搭建了科学框架。

同时，《办法》高度关注措施落地实施的可行性。在参照现行技术水平的基础上作出正确评估，《办法》将原《征求意见稿》第十五条规定的“应在三个月内通过模型优化等方式防止再次生成”相关内容删除，改为《办法》第十四条“应当及时采取停止生成、停止传输、消除等处置措施”。此举不仅考虑到现有的技术水平，还为未来的技术发展争取了“窗口期”。但是，何为“及时”还应当根据当时的技术发展水平及具体应用领域作出综合性判断。

此外，《办法》凸显出对数据质量的重点关注。比如，《办法》第七条要求采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。同时，《办法》的第八条再次强调在数据标注过程中，要开展数据标注质量评估工作。数据质量是影响人工智能模型性能的重要因素之一，而数据的准确性及完整性需要从数据处理的各环节进行把控。《办法》对数据处理各流程中的数据质量作出规定，为未来产业发展打下了良好的制度基础。

以分级分类为基本体系，精准提升产业监管能效

此次《办法》的出台是我国网络数据安全领域体系化监管的重要举措。《办法》第一条明确，以《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律、行政法规作为制定的上位法依据。此外，《办法》与国家网信办此前发布的《互联网信息服务算法推荐管理规定》与《互联网信息服务深度合成管理规定》共同构成了人工智能产业监管的重要抓手。

《办法》突出强调包容审慎的政策导向，将规制对象限定于生成式人工智能服务，而非针对技术研发及企业内部适用这种非公众化应用场景，体现出监管部门“宽研发”“紧应用”、鼓励生成式人工智能创新有序发展的开放性思路。

《办法》延续了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规范中的分类分级监管的制度设计思路。比如，《办法》在第三条、第十六条对分级分类监管问题提出明确要求。目前，生成式人工智能的基础性、突破性技术仍在高速发展，技术在应用层面上的市场化效用仍不明朗，必须考虑具体场景、服务人群、风险监控等差异，依照行业分类为导向的精细化监管，有利于相关部门在技术应用层面上的分工合作，制定具体的措施与方针，确保行业的安全及可持续发展。因此，《办法》第十六条明确规定，各部门应当依据各自职责管理，针对不同行业特点完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

此外，《办法》进一步明确安全评估与算法备案要求。《办法》第十七条规定：“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估”，并履行算法备案等手续。依据分类分级监管原则，将“具有舆论属性或社会动员能力”的人工智能服务作为监管重点，要求进行评估和备案，体现出我国合理分配监管资源、精准化落地监管举措的思路。

规范应用生成式人工智能，推动产业健康有序发展

《办法》对于道德伦理、安全隐私、国家安全、歧视言论等社会关注问题作了回应，并从技术研发、内容生产、具体应用、服务提供等各个环节设置相应监管措施。

《办法》规定，提供和使用生成式人工智能服务须遵守法律法规，尊重社会公德和伦理道德，尊重他人合法权益，尊重知识产权、商业道德，不得歧视等，有利于构建清朗网络空间，规范网络秩序。在服务环节上，规定服务提供者的内容标识义务，有效提高了算法生成内容的真实性和准确性以及来源的可靠性。对于预训练、优化训练等数据处理环节，《办法》要求使用合法来源的数据和基础模型，并且不得侵害知识产权，须取得个人同意等，明晰了对于算法生成活动中数据获取与处理的基本要求，保护用户的个人权益。《办法》还设置了安全评估、算法备案、投诉举报等机制，且明确了各主体的法律责任，确保各方面都有效落实管控，避免安全漏洞，防范潜在风险。

生成式人工智能的发展日新月异，它在未来拥有巨大的发展潜力，但也为监管提出了诸多紧迫的要求。面对新技术、新问题、新要求，《办法》作为我国首部生成式人工智能监管文件迈出了极为重要的一步，为构建适应产业协同发展、符合科技创新规律的人工智能治理体系提供有力支撑。未来，还需进一步以标准方式细化《办法》的相关内容，进一步推动人工智能产业健康有序发展。

（作者单位：北京外国语大学法学院）