何以规制AI“魔改”乱象？

图片来源 视觉中国

本文为《中国审判》杂志原创稿件

文| 本刊记者 刘庭梅

提出需求，就能自动生成相应的文稿大纲；上传照片，就能自动生成各类搞笑视频……近两年，随着ChatGPT在全球范围内爆红，AI大模型热潮在国内急速升温。即将过去的2024年，更被认为是AI大模型应用落地元年。各类AI应用呈爆发式增长，八仙过海、各显神通，为各行各业注入强劲生产力。2024年10月，工业和信息化部最新数据显示，我国完成备案并上线为公众提供服务的生成式人工智能服务大模型近200个，注册用户超过6亿。

AI技术不断更新，刷新了我们对未来的想象。但与此同时，AI造谣、AI侵权、AI诈骗等乱象也纷至沓来。近段时间，AI “魔改”再次受到公众关注，引发舆论争议。

01

创意还是恶搞？

AI“魔改”现象，即将经典影视剧通过人工智能技术进行篡改和恶搞的行为。

记者在某视频平台上搜索发现，经过AI“魔改”，《甄嬛传》成了“枪战片”，甄嬛手持冲锋枪收拾情敌，华妃转眼就身骑摩托车扬长而去；《红楼梦》变成了“武打戏”，柔弱的林黛玉变成了“林教头”，竟然能“倒拔垂杨柳”；《三国演义》中的刘备、张飞化身“变种人”；《西游记》里的孙悟空上一秒刚驾起的筋斗云，下一秒就变成了飞机。

其实，“魔改”电视剧并不是新鲜事，一直以来就有对经典影视剧的改编，但此前更多是对相关视频进行剪辑、配音等操作。如今，借助AI软件，普通人能够轻松将经典影视剧中的角色和场景“移植”到全新的语境中，带来夸张的变化，冲击感官认知。

记者通过下载AI软件并操作发现，按照制作步骤，导入需要的视频、音频、图片等素材，输入一段描述词，如“帮我生成一段能够让画面中的角色骑着摩托车离开的视频”，再经过简单的视频剪辑，很快就可以生成想要的效果。

受AI“魔改”热潮的影响，互联网上不仅涌现出大量AI“魔改”视频制作教程，更有自媒体利用AI“魔改”视频轻松收获数十万粉丝关注，甚至有的还通过植入广告进行营利。

对于这些AI“魔改”视频，有的网友觉得十分新鲜、有创意，浏览量、点赞量、转发量颇高；也有的网友认为经典不应该被胡乱改编，担心这样的“魔改”剧情，不仅会对大众认知造成冲击，更在无形中侵蚀着我们的传统文化。

02

AI“魔改”或构成侵权

AI“魔改”生成的内容算不算作品？“站在巨人肩膀上”通过AI创作的视频是否会触犯相关法律？

中国政法大学传播法研究中心副主任朱巍此前在接受媒体采访时表示，首先，对影视作品进行AI“魔改”，实际类似于二次创作，因此创作者需要原作品版权的授权，否则可能会涉及版权侵权问题。有些创作者通过平台来获取影视资料，即使在这个平台进行二次创作，也要看平台有没有对相关作品进行二次创作的权利，即有无版权授权。其次，即使获得版权授权，AI“魔改”也未必都合法，而是要看有没有侵害到人格权益。人格权益有一些是表演者权利，还有一些涉及声音权。例如，在AI“魔改”过程中，利用别人的声音作为声音的输出，就有可能侵犯表演者声音权等人格权利。

北京互联网法院法官指出，根据《中华人民共和国著作权法》第五十二条第一款的规定，未经著作权人许可，发表其作品构成侵权。根据该法第五十二条第六款的规定，未经著作权人许可，以改编、翻译、注释等方式使用作品也构成侵权。因此，未经授权，使用AI工具改编经典影视内容并在网络上传播，属于典型的侵权行为。

另根据《中华人民共和国民法典》（以下简称《民法典》）第一千零一十八条的规定，自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。根据《民法典》第一千零一十九条的规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。

2024年12月9日，国家广播电视总局网络视听节目管理司发布《管理提示（AI魔改）》，指出近期AI“魔改”视频以假乱真、“魔改”经典乱象频发，要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频。

《管理提示（AI魔改）》指出，这些AI“魔改”视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知，与原著精神内核相悖，且涉嫌构成侵权行为。

为营造清朗网络视听空间，《管理提示（AI魔改）》要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，限期反馈工作情况；严格落实生成式人工智能内容审核要求，举一反三，对各自平台开发的大模型或AI特效功能等进行自查，对在平台上使用、传播的各类相关技术产品严格准入和监看，对AI生成内容作出显著提示。

03

AI技术侵权纠纷层出不穷

随着AI技术的广泛应用，AI声音、AI图像、AI视频都开始涌现，相关侵权纠纷案件数量也逐渐增多。

2023年11月，北京互联网法院审理判决了“AI文生图著作权侵权第一案”。该案中，原告使用开源软件Stable Diffusion，通过输入提示词生成了涉案图片并发布在社交媒体上，被告未经许可使用且截去署名水印。北京互联网法院经审理，明确了利用人工智能生成图片的“作品”属性和使用者的“创作者”身份，判决被告赔礼道歉并赔偿原告500元。

2024年4月23日，北京互联网法院对全国首例“AI生成声音人格权侵权案”进行了一审宣判。该案中，原告殷某是一名配音师，经朋友告知，原告发现他人利用其配音制作的作品在多个知名App广泛流传。经声音筛选和溯源，发现上述作品中的声音来自被告北京某智能科技公司运营的平台中的文本转语音产品，用户通过输入文本、调整参数，可实现文本转化成语音的功能。法院经审理，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音，判决被告五家公司未经合法授权使用原告声音开发AI文本转语音产品，构成了侵权，赔偿25万元。

记者在多个平台测试发现，如今，国内AI平台的文生视频、图生视频、对口型配音的画面表现力和真实度，在某些场景下，足以“以假乱真”。

这样的AI技术，在方便创作者进行内容生产的同时，也出现了上文中的AI“魔改”现象。同时，有商家利用AI“换脸”等手段，在网络上谋取利益。

前段时间，知名传染病学专家张文宏就被商家通过AI“换脸”、合成人声做成视频，在网络上“直播带货”，销售一款蛋白棒，使不少消费者信以为真。

面对这些明目张胆的侵权行为，张文宏在接受采访时表示：“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓，特别是有些对AI不是很熟悉的、年纪较大的消费者，就很容易相信。”此外，张文宏也考虑求助警方，但对方看不见、摸不着，经常更换账号，很难找到准确的报警对象。

AI“魔改”、AI“换脸”、AI合成虚假视频……一系列技术滥用问题，不仅严重侵犯他人肖像权、名誉权、著作权，也是对公共信任的侵蚀。不可否认，人工智能作为一场颠覆性的技术革新，为内容创作领域带来了前所未有的机遇与挑战。从智能编辑到个性化推荐，从虚拟形象到增强现实，AI技术正在不断拓展内容创作的边界，为观众带来了更加丰富、多元的视觉体验。

然而，当技术被滥用，成为侵犯他人权益、误导公众的工具时，其负面影响便不容忽视，亟待法律规制。

04

AI技术应用应有边界

AI技术的“边界”在何处？如何能够更好地规范AI技术发展？

四川大学文学与新闻学院研究员、教授宋耀此前在接受媒体采访时指出，AI只是一个技术工具，关键在于使用者要有对信息本源的价值判断，政府、平台、企业需要提前做好风险控制。

世界多国均已关注到人工智能安全立法问题的重要性，以人工智能重点问题为出发点，积极起草、出台人工智能安全治理相关的法律法规。2024年8月1日起，欧盟《人工智能法案》生效。该法案覆盖了从市场准入、运营责任到透明度要求的全链条规则，对在欧盟境内或影响欧盟市场的AI系统和活动产生约束力。截至目前，已经有美国、加拿大等数十个国家先后发布了与人工智能相关的国家战略和法规文件，国际人工智能安全治理的法治化水平逐步提高。

2023年1月10日，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》正式施行。2023年8月，国家互联网信息办公室、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局联合发布的《生成式人工智能服务管理暂行办法》正式施行。

根据《互联网信息服务深度合成管理规定》第十七条的规定，深度合成服务提供者提供相关深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

《生成式人工智能服务管理暂行办法》第十二条规定，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

为进一步细化规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，2024年9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，并公开征求意见。其中指出，服务提供者应对生成合成内容添加显式标识，包括在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识。用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。

“基于数据训练投喂以形成更加成熟的大模型训练效果已成为当下人工智能技术升级与模式迭代的必由路径。然而，人工智能训练数据的路径不仅与现有法律秩序存在冲突，而且极大地影响了原有商业模式，冲击人们对于作品交易、数据喂养的既有认识和观念。”北京大学法学院教授张平在《人工智能生成内容著作权合法性的制度难题及其解决路径》一文中指出。

在张平看来，应该综合性地解决体系性认知问题，在稳固“思想—表达二分法”的基础原则上，可尝试通过将署名和其他著作权进行分离的制度设计，以贯彻诚信原则保障数据来源真实，通过合法购买与合同约定风险承担、打开人工智能预训练阶段数据获取的著作权合理使用闸口，并借助避风港规则实现责任豁免、集体管理组织集中授权、建立开放授权的数据资源等多元化方案解决现实世界与技术演变之间的“发展之问”，因地制宜地进行规范框架调整和规则解释突破，实现产业发展与技术升级规范措施保障之间的最佳平衡。

在科技日新月异的今天，我们既要充分利用AI等先进技术为创作带来新的可能性和机遇，也要时刻警惕其可能带来的文化风险和挑战。只有坚守底线、加强法律监管和自律意识，才能共同推动AI技术健康发展。

本期封面及目录

<< 滑动查看下一张图片 >>

《中国审判》杂志2024年第24期

中国审判新闻半月刊·总第358期

编辑/孙敏