智圆其说   以智引路：开启人工智能治理的创新时代

视频生成型模型Sora引爆2024年人工智能行业，其在视频内容生成方面的能力令人惊艳，再次掀起一波人工智能热潮，引发全球关注。作为新质生产力的重要引擎和驱动力，人工智能在加快推进行业变革、促进数字经济发展等方面发挥着不可替代的作用。从ChatGPT到Sora,多模态大模型的发展浪潮一浪接着一浪，我们正站在一个新的历史节点上，如何积极拥抱这项变革性技术并加强对其的治理是大家共同的期待。从想象到现实，从不可能到可能，通用人工智能时代加速到来，也会为人类社会带来更多福祉。

全球视角下的挑战与应对

当前，随着人工智能的快速发展和广泛应用，人类正逐渐进入一个"人机物"相互融合的智能互联时代。然而，在带来机遇的同时，人工智能技术的应用也带来了一系列伦理挑战。

这些挑战在国际发展方面表现得尤为突出。深圳高等金融研究院的研究表明，人工智能在全球范围内的不平等扩散可能引发国际公平正义问题，人工智能的发展成为全球稳定发展的重要因素。此外，技术伦理问题也是一个挑战。中国电子信息产业发展研究院的研究人员发现，目前的大模型存在输出质量不佳和有害内容问题，缺乏对服务使用者和商业运营主体的规范，可能给受众带来个人名誉和心理上的负面影响。针对这些问题，也有解决方法。中国信息通信研究院的研究认为，人工智能伦理治理可以关注科技创新活动和伦理风险防范，推动人工智能朝着有利于人类发展、尊重各群体权益的方向发展。

钛媒体深圳高等金融研究院：世界平稳发展的重要因素，公平正义的关键挑战

钛媒体国际智库联合香港中文大学（深圳）高等金融研究院发布的《2023全球人工智能伦理治理报告》显示，人工智能作为新一轮科技革命和产业变革的重要驱动力量，正逐步向人类社会各个领域渗透融合，对经济发展、社会进步、国际政治格局等诸多方面产生重大深远的影响。

在人工智能应用广度和深度不断拓展的过程中，也不断暴露出一些风险隐患，如隐私泄露、偏见歧视、算法滥用、安全问题等。同时，人工智能在世界范围内的不平等扩散会造成国际范围内的公平正义问题，即人工智能带来的便利较多惠及发达国家，而造成的负面影响较多残及发展中国家，因此国际间人工智能健康发展也是世界平稳发展的重要因素。

中国电子信息产业发展研究院：热潮涌来，人工智能大模型短板渐显

中国电子信息产业发展研究院发布的《赛迪智库观点丨冷观人工智能大模型热》认为，在国内外大模型呈现高热现象的背后，仍有一些问题值得重视。

从输出质量上来看，自然语言和图像生成大模型在生成内容上存在输出质量不佳、出现有害内容等问题；从治理体系上看，大模型训练过程缺乏监管，且监管范围更多针对服务提供者，一定程度上忽略了对服务使用者和商业运营主体的规范；从受众层面看，公众对人工智能生成内容技术的认知不强，对其非法滥用的风险防范意识不高，亦容易造成个人名誉和心理受损等后果。

面对上述问题，还需要进一步推动大模型底层技术研究和应用创新、建立健全大模型监管机制、引导资本市场理性投资、加强国际合作与交流。

中国信息通信研究院：协调人工智能产业创新发展与伦理治理

中国信息通信研究院发布的《人工智能伦理治理研究报告（2023年）》表示，目前，人工智能引发的伦理挑战已从理论研讨变为现实风险，人工智能伦理治理是应对人工智能风险的有效机制。要协调人工智能产业创新发展与伦理治理，重视人工智能技术创新，加强人工智能治理产品开发，探索建立敏捷的人工智能伦理治理机制，推动产业创新与伦理风险防范相协调。

从人工智能产业健康发展的角度来看，该报告认为，人工智能伦理治理需要关注产业科技创新活动与伦理风险防范协调发展，通过伦理治理对人工智能可能存在的风险进行全生命周期的指导，促进人工智能朝着有利于人类发展、尊重和保障各群体权益的方向发展。

该报告建议，一要重视人工智能技术创新，坚持促进创新与防范风险相统一，鼓励人工智能基础技术创新和突破，发展人工智能芯片、数据、算法等基础核心技术，加强人工智能治理产品开发，以人工智能技术防范人工智能风险；二要探索建立敏捷的人工智能伦理治理机制，建设快速响应、创新主体与相关政府部门有效沟通的治理合作，增强科技伦理治理的有效性和科学性，推动产业创新与伦理风险防范相协调。

推动全国人工智能治理，中国在行动

近年来，人工智能技术快速发展，应用日益广泛。作为最具颠覆性的新兴技术之一，人工智能给人类社会经济发展带来巨大红利，也伴生诸多风险挑战。国际社会高度关注人工智能技术引发的法律、伦理和人道主义层面的关切，以及给国际政治、经济、军事、社会等领域带来的复杂深远影响。

作为负责任的人工智能大国，中国一贯高度重视人工智能治理。中国坚持发展和安全并重，不断加强人工智能相关法律、伦理、道德及社会问题研究，本着审慎包容、坚守底线的原则，逐步建立健全相关法律法规和制度体系，为人工智能健康、有序、安全发展保驾护航，为全球人工智能发展注入正能量。

中国政法大学数据法治研究院：建立深度合成治理的中国路径

张凌寒发布的《深度合成治理的逻辑更新与体系迭代———ChatGPT等生成型人工智能治理的中国路径》认为，我国的深度合成治理已经走在世界前列，但仍主要停留在算法治理衍生出的信息安全层面，偏重服务应用监管而底层技术治理不足，偏重监管服务提供者但监管技术提供者尚不充分，数据与场景分级分类标准繁杂但并未形成有机体系。

深度合成治理应在算法治理基础上延伸迭代，将深度合成作为人工智能治理的专门领域，同时通过顶层设计推进基础性人工智能立法，既保障急用先行，又可探索并形成通用人工智能立法的经验。既应发挥中国既有的深度合成治理优势，根据生成型人工智能技术特点更新监管逻辑，基于生成型人工智能技术的通用性实施全链条治理；同时还需立足现行法规中分级分类治理架构，结合技术、产业和应用建立有机体系和设置具体规则，以形成在全球更具影响力的深度合成治理法律制度体系。

《国家治理》杂志：新一代人工智能赋能国家治理，是新挑战也是新机遇

新一代人工智能已渗透到科学技术创新、社会经济转型和生产生活变革的方方面面。中国科学院学部重大咨询项目“信息技术支撑国家治理现代化的战略研究”总体组在《国家治理》撰文指出，新一代人工智能的发展和应用为国家治理带来新思路和新机遇，推动了国家治理能力和效率的提升；另一方面，也带来了数据治理技术、科技治理规范、经济治理能力、社会意识形态安全等一系列新挑战。因此，应在系统思维导向下，从强化国家安全意识出发，加强顶层设计、打造创新生态、防范系统风险、规范科技伦理治理、建立风险预警机制，有效应对新挑战，打造发展新优势。

2023年2月27日，中共中央、国务院印发《数字中国建设整体布局规划》，指出要“以数字化驱动生产生活和治理方式变革，为以中国式现代化全面推进中华民族伟大复兴注入强大动力”，强调以数字技术赋能国家治理体系和能力现代化。人工智能的快速发展推动经济社会的深度变革，尤其以ChatGPT等大语言模型为代表的新一代人工智能的发展成为现象级事件，为整个社会的治理方式、治理理念带来巨大转变，对国家治理的影响不容忽视。一方面，新一代人工智能的发展和应用为国家治理带来新思路和新机遇，推动了国家治理能力和效率的提升；另一方面，也带来了数据治理技术、科技治理规范、经济治理能力、社会意识形态 安全等一系列新挑战，需要对其可能带来的伦理、法律和安全风险进行约束和监管。

鉴于此，建议深度研究新一代人工智能与国家治理之间的内在机理，审慎应对新一代人工智能给国家治理带来的变革，强化国家安全意识，加强顶层设计、打造创新生态、防范系统风险、规范科技伦理治理、建立风险预警机制，以防范新一代人工智能嵌入国家治理的诸多风险，更好发挥新一代人工智能对国家治理的赋能效用。

中国社会科学网：全球人工智能治理中的中国智慧

2023年10月18日，中国政府发布《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。《全球人工智能治理倡议》既是在人工智能技术快速发展，机遇与风险快速涌现的关键时期贡献的中国智慧，同样也是在人工智能治理的规则建构被西方国家垄断的背景下代表广大发展中国家发出的呼吁，将会对全球人工智能发展与治理、人类命运共同体的愿景落实起到积极的作用。

《全球人工智能治理倡议》设计了一条不同于西方国家的治理思路，提供了一种切实可行的人工智能治理方案。中国“以人为本”理念、强调发展人工智能发展需要跨越“小圈子”，反对特定国家将全球治理机制工具化、私物化、站在了广大发展中国家的立场上，增强发展中国家在人工智能全球治理中的代表性和发言权，让广大发展中国家更加平等地参与其中。中国发布《全球人工智能治理倡议》的目的并非是为了“立异”，更是为了“求同”。

由于理念的先进性和现实的可操作性，中国《全球人工智能治理倡议》不仅为国际社会提供了一个具体、可行的行动纲领，也展示了中国在全球治理中所持的开放态度和建设性立场。这一倡议将进一步推动全球人工智能治理的进程，并加速实现中国关于“共建人类命运共同体”的宏伟愿景。

（大众日报·大众新闻客户端记者 陈巨慧 实习生 张树岳 张云清）