观点丨杨东：确保生成式人工智能向善而行

杨东

中国人民大学法学院院长、党委副书记

紧随科技进步和行业发展的步伐，全面提升治理水平，促进生成式人工智能健康发展。

【现象】从一个灵感起步，设置主题、类型、人物、情节等各种参数，引导编剧填入自己的想法，大模型可以在极短时间内生成类型片剧本初稿。不久前，西部电影集团有限公司发布国内首个拥有自主知识产权的电影创作类生成式人工智能系统。近年来，生成式人工智能技术取得突破性进展，开始完成绘画、谱曲、咨询互动等原本被认为只能由人来完成的工作，正在并将继续对生产生活产生深远影响。

【点评】

人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的重要驱动力量，是必须抢占的科技制高点。生成式人工智能可以依托事先训练好的多模态基础大模型等，利用用户输入的相关资料，生成具有一定逻辑性和连贯性的内容，是目前最具革命性、引领性的科学技术之一。

从进行数据处理，到学习和模拟事物内在规律，这一跳跃让人工智能更加接近人类的创造力，可以完成更多复杂场景任务。与此同时，解决相关安全风险和伦理问题也变得更加紧迫。

党的二十届三中全会《决定》提出：“完善生成式人工智能发展和管理机制。”紧随科技进步和行业发展的步伐，全面提升治理水平，促进生成式人工智能健康发展，是形势所需，也是更好保障公众利益的内在要求。

尽管技术路径已经明确，但生成式人工智能产品和服务的商业化、大众化、普及化，仍处于起步阶段。2023年，我国生成式人工智能的企业采用率已达15%，市场规模约为14.4万亿元。目前，我国现有完成备案并上线为公众提供服务的生成式人工智能服务大模型近200个，注册用户超6亿。我们已占据有利身位，且有丰富的数据资源、广阔的市场需求、稳定的技术基础和多样化的应用场景，要充分发挥这些优势，力争在新一代人工智能技术的发展上抢占先机，为更多行业向价值链中高端攀升提供更强推动力。

着力推动技术进步、产业发展的同时，也要看到，生成式人工智能会带来一些治理难题。比如，利用他人作品生成新的“作品”，可能涉嫌侵权；利用人工智能生成虚假信息进行诈骗，增加防范难度；随着技术应用的拓展，一些就业岗位可能会受到较大冲击；等等。

针对各种可能发生的风险，相关部门和地方已经出台了一些技术应对、综合防治措施及安全开发应用指引，促进人工智能向善而行。比如，北京市编制大模型分级分类管理和安全评测标准，围绕真实场景开展应用质量评估、伦理对齐等方面评测；上海交通大学发布“生成式人工智能教师使用指南”，对版权与学术诚信、伦理与公平等问题作出规定……坚持未雨绸缪，坚持伦理先行，进一步加强人工智能规则治理，完善相关法律体系建设，才能做到趋利避害、安全使用。

发展人工智能，根本目的是造福人类、增进人民福祉、促进人的全面发展。在技术加速演进的关键阶段，坚持发展与治理、创新与安全并重，着力培育安全、可靠、公平、透明的技术研发和应用生态，定能不断促进人工智能健康发展，更好抓住新一轮技术变革带来的新机遇。

文章来源：《人民日报》

微信编辑：张菁菁

人大国发院是中国人民大学集全校之力重点打造的中国特色新型高校智库，现任理事长为学校党委书记张东刚，现任院长为校长林尚立。2015年入选全国首批“国家高端智库”建设试点单位，并入选全球智库百强，2018年初在“中国大学智库机构百强排行榜”中名列第一。2019年在国家高端智库综合评估中入选第一档次梯队，是唯一入选第一档次梯队的高校智库。

人大国发院积极打造“新平台、大网络，跨学科、重交叉，促创新、高产出”的高端智库平台。围绕经济治理与经济发展、政治治理与法治建设、社会治理与社会创新、公共外交与国际关系四大研究领域，汇聚全校一流学科优质资源，在基础建设、决策咨询、公共外交、理论创新、舆论引导和内部治理等方面取得了显著成效。人大国发院以“中国特色新型高校智库的引领者”为目标，扎根中国大地，坚守国家战略，秉承时代使命，致力于建设成为具有全球影响力的世界一流大学智库。

微信二维码