假如
互联网上存在一个
虚拟的“你”
和你长得一样
姓名也一样
别人可以随意和这个“你”聊天
和“你”形成任意的亲密关系
你该怎么办?
4月11日,最高人民法院发布了民法典颁布后人格权司法保护典型民事案例,北京互联网法院审理的“‘AI陪伴’软件侵害人格权案”入选。
如何用民法典
为自己虚拟形象的使用
“上把锁”
保护自己的人格权益
一起来了解一下
“AI陪伴”软件侵害人格权案
案情回顾
被告是某款手机软件的开发运营者,用户在该软件中可自行创设“AI陪伴者”,设置陪伴者的名称、头像,设置与该陪伴者的人物关系(如男朋友、女朋友、哥哥、妹妹、儿子等),并通过设置陪伴者的回复语言,“调教”该“AI陪伴者”与用户的互动语言。本案原告何某系公众人物,在该款软件中被设置为陪伴人物。用户在设置“何某”为陪伴人物时,上传了大量原告肖像图片,用以设置人物头像。被告通过聚类算法,将该角色按身份分类,并以协同推荐算法向其他用户推介该角色。为了进一步使AI角色拟人化,被告还为AI角色提供了“调教”算法机制,即用户上传各类文字、原告肖像图片、表情包等互动语料,部分用户参与审核后,被告使用人工智能筛选、分类后将语料加入系统推送,根据话题类别,随机用于AI角色与用户的对话中。
原告认为,被告的行为侵害了原告的姓名权、肖像权、一般人格权,故诉至法院。
被告辩称,原告主张的AI角色设置、肖像图片上传、语料“调教”等行为均由用户作出,被告仅为网络技术服务提供者。被告在其用户协议中已经明确了用户不得作出侵害他人权益的行为,在原告发出通知后即将含有原告姓名、肖像的“AI陪伴者”删除,不应承担侵权责任。
法院经审理认为
本案被告为内容服务提供者
涉案软件的服务与技术服务存在本质不同。被告并非提供简单“通道”服务,而是通过规则设定、算法设计,组织用户形成侵权素材并提供给用户。虽然具体图文由用户上传,但被告的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为,直接决定了软件核心功能的实现。被告不再只是中立的技术服务提供者,应作为内容服务提供者承担侵权责任。
自然人虚拟形象应受保护,被告的行为构成对原告姓名权、肖像权、一般人格权的侵害
在被告算法设计的鼓励、组织下,用户使用原告的姓名、肖像创设虚拟人物,制作互动素材,将原告的姓名、肖像、人格特点等综合而成的整体形象投射到AI角色上,使该AI角色形成了原告的虚拟形象,被告的行为属于对包含了原告肖像、姓名的整体人格形象的使用。
同时,用户还可以设定与该AI角色的身份关系、设定任意相互称谓、通过制作语料素材“调教”角色,从而形成与原告真实互动的体验。这些功能均由被告设置在该软件中,被告的行为还涉及使用自然人的人格自由和人格尊严,此类人格自由和人格尊严目前尚未被具体人格权所涵盖,属于一般人格权益。
尽管原告作为公众人物,人格利益应受到一定限缩,但是被告明显超过了合理的限度,涉案软件对原告的人格表征进行了系统地、组织性地功能设计且进行了商业化利用。因此,被告的行为构成对原告姓名权、肖像权、一般人格权的侵害。
裁判结果
被告向原告赔礼道歉、赔偿损失。
法官说法
随着科技应用和商业模式不断发展,技术逐渐更深程度地参与到内容创作与提供过程中,技术服务与内容服务的边界日益模糊。网络技术服务提供者以提供技术服务为名,而实际通过软件规则、算法设计等方式,组织用户参与内容生产与发布,实施侵害他人人格权行为的,不适用“技术中立”原则,应当将该网络服务提供者视为内容服务提供者。
民法典将人格权独立成编,对姓名权、肖像权、名誉权等具体人格权作出了规定,同时在一般规定中还明确了除了具体人格权,自然人还享有基于人身自由、人格尊严产生的其他人格权益,即一般人格权。本案中,被告对原告姓名、肖像等人格要素的使用是一种对人格形象的整体性使用,除侵害具体人格权之外,还侵害了人格自由及人格尊严利益。
“随着后疫情时代互联网产业模式的进一步创新,虚拟现实等新技术的不断发展,自然人人格要素被虚拟化呈现的应用日益增多。”最高法院发布民法典颁布后人格权司法保护典型民事案例时指出,“本案明确自然人的人格权及于其虚拟形象,同时对算法应用的评价标准进行了有益探索,对人工智能时代加强人格权保护具有重要意义。”
专家点评
清华大学法学院副院长、教授
博士生导师 程啸
在“利用AI陪伴软件侵害人格权案”中,表面上是用户利用软件自行创设或添加“AI陪伴者”,设定陪伴者的名称、头像等,形成了自然人在网络应用软件中的虚拟形象,实际上陪伴者的设置以及被众多用户使用是由人工智能软件利用算法决定的,故法院正确地将擅自使用他人姓名、肖像的软件运营商认定为直接实施侵害原告肖像权与姓名权的侵权行为人。同时,法院在判决中提出,自然人的人格尊严及于以其整体人格要素创设的虚拟形象,对于人工智能时代加强人格权保护具有非常重要的意义。(来源:人民法院报)
来源:京法网事
以事实为依据 以法律为准绳
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.