网易首页 > 网易号 > 正文 申请入驻

“张文宏”带货?多人受骗!这种套路要警惕

0
分享至

最近,有网友发消息称,“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,让不少老人信以为真,疯狂跟单。


图源:视频截图

仔细看网友提供的视频,张文宏正在反复介绍一种产品,口型是他的、声音也是他的,乍一看跟真的似的。但仔细一看,视频画质潦草、口型也对不太上,对AI多少有一些了解的人们可以分辨出来,这是AI合成的视频,但互联网了解不深的老年人的确不好甄别真伪。

这段视频也在网友曝光后,从账号内被删除,只剩商品橱窗里还保留着售卖的页面,并显示已售1180件商品。


在AI技术面前

“眼见为实”的常规认知正在被挑战

当下,AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像,输入一段语音,便能提取克隆相关的嗓音特质,并针对“自行设计”的台词,智能修改口型。一段足以“以假乱真”的“带货”视频,再加上张文宏的名人效应,其形象和言论具有一定的权威性和影响力,让不少消费者信以为真。

对此,张文宏医生也表示既愤怒又无奈。他曾多次向平台投诉类似账号,但这样的卖货账号不止一个,且一直在换,让人筋疲力尽。“这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。”不难想象,受害者们发现真相后的沮丧与失落。

在类似的AI合成冒充名人的骗局中,上当者比比皆是。

据报道,今年11月,江西一位老人到银行办理业务,声称要贷款200万元给男朋友“靳东”拍戏。经调查发现,老人手机里的“靳东”出自由AI合成的视频;今年10月,老牌港星黄百鸣通过社交媒体郑重声明,有人盗用其过去影片,利用AI替换声音,代言一个不知名的药膏品牌;更有甚者,已然过世的名人,也有被“借尸还魂”带货的……

在AI技术面前,“眼见为实”“有图有真相”的常规认知正在被挑战,人们对于网络信息传播的信任感也在被挑战。一些由AI合成的虚假视频内容,成为别有用心之人的造谣敛财工具,不仅影响着公众人物的专业形象和社会公信力,更破坏了互联网的诚信体系。


没有直接使用他人面部形象

也能构成肖像权侵害吗?


图源:央视新闻

近日,广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定,该公司的行为侵犯了博主的肖像权。

张先生是一位知名短视频博主,经常在各大自媒体平台上发布含本人肖像的国风汉服装扮的短视频。最近,有粉丝提醒他,在一款美颜拍照小程序当中,他的汉服形象成了视频模板,还需要付费使用。张先生发现,小程序的运营方是某科技公司,付费用户可以用此模板进行“AI换脸”,体验国风妆造。张先生的代理律师严茜告诉记者,在意识到自己的肖像权被侵害后,张先生把这家公司告上了法院。

严茜:他是在古风圈也是小有名气的,有粉丝告知我们说是有这样一个侵权,发现他受邀拍或者自己拍的这些视频、图片被AI换脸。换脸后的这种妆造跟当事人是一模一样的。通过发饰、妆造或者面部的表情,能够识别出是原告,我们也认为侵犯了原告的肖像权。

AI换脸也称为深度伪造技术,其实质是一种基于人工智能的人体图像合成技术。AI换脸技术将个体的面部形象、身体形象甚至声音语调等进行分解,又与他人的形象特征进行融合、拼凑。本案中的AI换脸行为就是用用户上传的面部特征替换了原视频中张先生的面部特征。广州互联网法院综合审判三庭庭长曹钰说,本案的焦点就在于,没有使用他人面部形象的情况下是否构成侵害肖像权。

曹钰:科技公司答辩理由主要是认为,合成模板它只是利用了涉案视频的妆容、服饰、发型光线、镜头切换等这些非人格的要素,认为是没有利用人格要素,就认为公众结合视频是未能识别出视频中人物是原告本人的。而且他认为这个视频也没有对原告的肖像进行丑化污损,所以说本案的争议焦点主要是在于,在没有使用原告的面部特征的情况下,被告的这样的行为是否侵害原告的肖像权。

法官指出,由于面部特征具备极强的可识别性,所以在传统观念中,面部形象属于肖像范围并无争议。但在去除面部特征的情况下,一些不具备明显特征的身体形态、肢体动作可识别性较弱,可能不足以使相关公众联想到特定自然人。

但值得注意的是,不同人物形象,可识别性的判定应有不同标准。例如,对于媒体曝光机会较多的公众人物来说,他外在形象为公众所识别的可能性更高。

曹钰:我们认为张某在网络上发布的视频当中,是以古风妆容并着的汉服出镜的,他的面部形象和发型衣着体貌动作特征,这些是共同构成了它的外部形象。涉案视频的人物的面部特征,虽然说是进行了一定的调整,但是通过视频中其他要素的比对,可以判断模板中的人物原型就是张某,结合张某的粉丝数量比较多,他的作品也获得大量点赞,而且他作为汉服装扮为主要特色的视频博主,他除了面部特征以外的发型、服饰、动作这些特征,比普通人具有更高的可识别性。经过综合判断,原告除了面部特征以外的形象,还是属于可以被识别的外部形象,张某对这个形象是有肖像权的。

广州互联网法院审理认为,某科技公司未经张某同意,擅自利用张某的身体形象使用AI技术制作“换脸”视频,构成对张某肖像权的侵害,结合本案具体案情判令某科技公司向张某赔礼道歉并赔偿损失2000元。


如何有效防范AI技术的滥用?


图源:央视新闻

随着技术的快速发展,近两年,AI领域迎来了一轮发展热潮。但AI带来便利的同时也暴露出不少风险隐患。

对此,曹钰表示,AI技术的发展使图像、视频等更加容易被修改,而且修改幅度更大、更深入、更容易使观看者难以分辨。为此,我们应当充分注意到AI技术对肖像权可能带来的影响,通过强化行政、司法和网络平台的监管、保护,以及全社会共同提高保护意识来更好地保护肖像权在内的各类合法权益。

在2022年,我国颁布的《互联网信息服务深度合成管理规定》就划定了深度合成技术的使用规范,包括不得利用深度合成服务侵犯他人合法权益等法律规定。

中国政法大学传播法研究中心副主任朱巍表示,对AI的约束要跟上AI技术的发展,在传播渠道上,可以对AI作品实现溯源。

朱巍:现在短视频平台,它实际上无法来判定这个作品到底是不是AI合成的,除非这个作品是在本平台用AI方式来完成的,生成人工智能平台和视频传播平台有没有一种方式能给AI的作品有一个标记,平台在加工处理在传播过程中也能够进行分辨,平台必须要对这种AI合成的作品有完全的技术上和制度上的把控手段。

编辑: 张杭

统筹: 马松林、王尚枢

来 源 :央视新闻、央视网、光明日报


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
最“抠门”爸爸给女儿取名,姓+名一共3笔,连老师都惊叹:没有一笔是弯的!!!

最“抠门”爸爸给女儿取名,姓+名一共3笔,连老师都惊叹:没有一笔是弯的!!!

财经三分钟pro
2024-12-20 20:08:36
曾被“吹爆”的三折叠手机,销量不过万台,为何突然不火了?

曾被“吹爆”的三折叠手机,销量不过万台,为何突然不火了?

i王石头
2024-12-23 23:17:31
现在是12月24号夜晚,刚刚曝出1个惊天大消息,要来大动作了吗?

现在是12月24号夜晚,刚刚曝出1个惊天大消息,要来大动作了吗?

股市皆大事
2024-12-24 16:58:40
辽宁三市纪委监委最新通报!

辽宁三市纪委监委最新通报!

鲁中晨报
2024-12-24 16:14:04
永辉超市上班发工资了,底层员工工资就这样,看来爆改不够呀。

永辉超市上班发工资了,底层员工工资就这样,看来爆改不够呀。

人情皆文史
2024-10-10 00:58:04
一市民打球时猝死,羽毛球馆未配置AED被判赔偿20万元!

一市民打球时猝死,羽毛球馆未配置AED被判赔偿20万元!

极目新闻
2024-12-23 20:29:35
中国存在的“两大威胁”,一个是台湾,另一个曾需百万大军才堵住

中国存在的“两大威胁”,一个是台湾,另一个曾需百万大军才堵住

南南史
2024-12-24 15:04:52
沙特要对华加征51%关税,三大迹象显示,沙特或给特朗普送投名状

沙特要对华加征51%关税,三大迹象显示,沙特或给特朗普送投名状

boss外传
2024-12-24 15:30:03
张世红同志突发疾病逝世

张世红同志突发疾病逝世

新京报政事儿
2024-12-22 09:22:51
不打垮中国不罢休?“大鱼”现身,不是美国,中俄都没料到!

不打垮中国不罢休?“大鱼”现身,不是美国,中俄都没料到!

星辰故事屋
2024-12-23 22:23:45
曝辽篮正式裁掉大外援,杨鸣终于下狠手了,这下好了,复苏有望了

曝辽篮正式裁掉大外援,杨鸣终于下狠手了,这下好了,复苏有望了

萌兰聊个球
2024-12-24 16:15:39
洛克希德赢得118亿美元F-35战斗机合同

洛克希德赢得118亿美元F-35战斗机合同

夸就完事儿了
2024-12-24 00:27:48
美的集团董事长方洪波盛赞蔚来ET9:头等舱、远超想象

美的集团董事长方洪波盛赞蔚来ET9:头等舱、远超想象

沙雕小琳琳
2024-12-24 14:34:07
逾60家A股公司率先公布2024年业绩预测

逾60家A股公司率先公布2024年业绩预测

澎湃新闻
2024-12-24 08:59:03
白俄罗斯出事了!美西方要武力夺权?卢卡申科着急出访两国

白俄罗斯出事了!美西方要武力夺权?卢卡申科着急出访两国

历史阿务
2024-12-24 15:14:21
沙利文100%确定,特朗普政府跟中国关系根本好不了,原因很简单

沙利文100%确定,特朗普政府跟中国关系根本好不了,原因很简单

千里持剑
2024-12-23 22:34:14
够中国用2万年!我国突破无限能源,将建全球首座钍熔盐堆

够中国用2万年!我国突破无限能源,将建全球首座钍熔盐堆

红色鉴史官
2024-12-23 20:00:03
指使旅游团在海南购买免税洋酒带回广东销售,主犯获刑十年

指使旅游团在海南购买免税洋酒带回广东销售,主犯获刑十年

南方都市报
2024-12-24 15:17:05
忠告!四种“垃圾食品”已公布,燕麦排第二,第一名很多人都喜欢

忠告!四种“垃圾食品”已公布,燕麦排第二,第一名很多人都喜欢

小熊侃史
2024-12-19 07:20:03
“若我们曾抱一丝幻想,中国半导体发展不会如此迅猛”

“若我们曾抱一丝幻想,中国半导体发展不会如此迅猛”

观察者网
2024-12-23 21:30:06
2024-12-24 20:08:49
郑州新闻广播 incentive-icons
郑州新闻广播
郑州新闻广播,郑州在您耳边
22641文章数 23895关注度
往期回顾 全部

科技要闻

马斯克xAI再融60亿美元,老黄AMD都投了

头条要闻

美国女教师强奸12岁男生并怀孕获刑 受害者疑多达21人

头条要闻

美国女教师强奸12岁男生并怀孕获刑 受害者疑多达21人

体育要闻

又香又臭的拉文,好像还挺适合掘金?

娱乐要闻

曝何捷年薪15万,张馨予发文霸气护夫!

财经要闻

财政工作会议详解:明年安排更大规模债券

汽车要闻

柴油才对味 大通星际X 2.5T舒适得不像皮卡

态度原创

亲子
艺术
数码
教育
时尚

亲子要闻

宝妈记录萌娃视频,眼睛亮晶晶的,太可爱了

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

数码要闻

雷柏 MT760NL 星闪鼠标亮相:三模连接、支持跨屏文件传输等功能

教育要闻

【大讲堂】“南方教研大讲堂”第134场——“品鉴中华美术经典 提升学生审美素养”教学研讨活动开讲

五十岁女人,冬天”外套“请这样穿大衣和羽绒服,时髦又显瘦

无障碍浏览 进入关怀版