网易首页 > 网易号 > 正文 申请入驻

对AI污染须尽快拿出有效治理方法

0
分享至

王桂霞

有MCN机构利用人工智能程序日产上千篇虚假新闻,导致大量不实信息在网上病毒式传播;某小说平台账号依靠AI“创作”,每日更新十几本电子书,行文却逻辑不通、辞藻空洞……一段时间以来,AI生成、伪造或篡改文本、图片、音频和视频的现象愈发普遍,大量粗制滥造、真假难辨的“信息垃圾”,引发了舆论关于“AI污染”的讨论。(10月22日《新华每日电讯》)

在科技日新月异的今天,人工智能(AI)以强大的数据处理和生成能力,正逐步得到广泛应用,渗透到生活的方方面面。清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示,近一年来,经济与企业类AI谣言量增速达99.91%。

美国一家调查机构提供的数据显示,生成虚假文章的网站数量自2023年5月以来激增1000%以上,涉及15种语言。业内专家认为,AI制造的“信息垃圾”产量庞大,且辨别、筛选成本较高,治理难度较大。

“AI污染”的危害不容小觑。它不仅污染了信息环境,降低了信息的质量和价值,还加剧了信息过载和选择困难的问题。

在海量且真假难辨的网络信息面前,人们往往感到无所适从,容易被虚假信息误导、蒙骗,还会产生焦虑和恐慌情绪,甚至被虚假信息“绑架”,沦为被别有用心之人利用的工具。

此外,“AI污染”对青少年的价值观和行为模式也会产生负面影响,甚至引导他们走向错误的信息消费和创作道路。

事实上,自AI生成技术诞生以来,就不断出现使用AI生成虚假新闻、篡改内容的行为,造成了恶劣的社会影响。如有人利用AI技术提供所谓“一键去衣”服务,将受害者的日常照片篡改为淫秽图像并进行贩卖;有人利用“AI换脸”技术伪造名人、明星的视频,甚至提供换脸定制服务;国外有人利用AI技术伪造政要人物演讲视频,意图制造各种舆论效应。

如今,身处海量信息时代,“眼见不一定为实,耳听不一定为真”,声音、视频、图像等多模态AI深度伪造的内容,制造出形形色色的虚假信息迷雾。今年2月发布的一份人工智能安全报告显示,2023年,基于AI的深度伪造欺诈激增30倍。

面对“AI污染”这一数字时代的新挑战,需要采取积极有效的措施应对。要加强法律法规建设,明确AI在内容创作和传播中的法律地位、责任边界,对利用AI进行虚假信息传播和欺诈的行为进行严厉打击。

监管部门应尽快完善AI创作标准,明确使用AI生成技术创作的内容,必须在显著位置予以标注,并采取区块链等可追溯技术,一旦发现虚假内容、违规行为,必依法予以严惩。

同时,应坚持“用技术对抗技术,用魔法打败魔法”,加快探索应用AI新技术应对AI造假,实现高效识别、预防拦截、追根溯源等,让AI虚假信息无处躲藏。

应提高公众的信息素养和辨别能力,教育引导广大受众有效识别AI生成的内容,避免被虚假信息所误导。还要鼓励和支持高质量的AI内容创作和应用,推动AI技术与人类智慧的深度融合,共同营造健康、有序的信息生态环境。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
炸裂!现在的诈骗真的是无处不在!临近年关一定要小心谨慎

炸裂!现在的诈骗真的是无处不在!临近年关一定要小心谨慎

娱乐圈见解说
2024-12-22 10:38:23
农村已成"农村媛"秀场,各种黑丝吊带在田园摆拍,你们放过大爷吧

农村已成"农村媛"秀场,各种黑丝吊带在田园摆拍,你们放过大爷吧

南城无双
2024-12-15 23:55:33
他图你身体,你图他钱财,被抓着双马尾时幻想着少奶奶生活吧​

他图你身体,你图他钱财,被抓着双马尾时幻想着少奶奶生活吧​

辣条小剧场
2023-04-23 12:59:34
54岁的苏慧伦咋还这么年轻貌美,怎么看都像35岁左右的人!

54岁的苏慧伦咋还这么年轻貌美,怎么看都像35岁左右的人!

人情皆文史
2024-11-22 21:04:28
中不边境线争议区二:鲁林的价值不亚于洞朗,杰罗布村已成功建设

中不边境线争议区二:鲁林的价值不亚于洞朗,杰罗布村已成功建设

原广工业
2024-12-23 08:25:42
全身溃烂生不如死,丧失生育功能,武汉首批新冠患者如今结局如何

全身溃烂生不如死,丧失生育功能,武汉首批新冠患者如今结局如何

杨哥历史
2024-10-30 10:27:30
4岁小女孩在医院大厅角落,静静等待上厕所的爸爸,然而,直至去世,她都未等到

4岁小女孩在医院大厅角落,静静等待上厕所的爸爸,然而,直至去世,她都未等到

财经三分钟pro
2024-12-20 12:52:05
经济日报:全方位扩大国内需求

经济日报:全方位扩大国内需求

澎湃新闻
2024-12-23 08:00:05
居民存款终于离开了银行,但没去消费、没有购房,甚至没流入实体

居民存款终于离开了银行,但没去消费、没有购房,甚至没流入实体

丰谭笔录
2024-12-23 07:10:07
大便次数与老年痴呆有关!研究:超过3天排便的人,大脑老得更快

大便次数与老年痴呆有关!研究:超过3天排便的人,大脑老得更快

奇妙的本草
2024-12-22 18:00:03
普京:俄愿与美国关系正常化

普京:俄愿与美国关系正常化

简观
2024-12-22 20:12:20
乌度卡:赛前就计划让泰特和白魔登场,范弗利特可能有点紧张

乌度卡:赛前就计划让泰特和白魔登场,范弗利特可能有点紧张

懂球帝
2024-12-23 12:52:18
外媒:特朗普上任首日拟退出世卫组织

外媒:特朗普上任首日拟退出世卫组织

参考消息
2024-12-22 21:24:50
40岁扎克伯格画风突变,网友不敢认:有钱确实可以为所欲为......

40岁扎克伯格画风突变,网友不敢认:有钱确实可以为所欲为......

英国那些事儿
2024-12-05 23:32:00
特朗普就职典礼在即,台岛收到一份邀请函,王毅外长送出一句话!

特朗普就职典礼在即,台岛收到一份邀请函,王毅外长送出一句话!

猫眼观史
2024-12-22 10:09:38
吉林一村发现野生东北虎脚印 镇政府:已在各村进行广播提示

吉林一村发现野生东北虎脚印 镇政府:已在各村进行广播提示

新京报
2024-12-23 11:00:07
坐稳西部第三,火箭队3连胜!1.3亿先生10中1 最佳交易目标已出炉

坐稳西部第三,火箭队3连胜!1.3亿先生10中1 最佳交易目标已出炉

锅子篮球
2024-12-23 11:30:25
特朗普拟将奥巴马更名的“德纳里峰”改回“麦金利山”,前者曾公开叫板奥巴马更名不当

特朗普拟将奥巴马更名的“德纳里峰”改回“麦金利山”,前者曾公开叫板奥巴马更名不当

环球网资讯
2024-12-23 10:45:13
马斯克又启用一枚超级符号!人工智能Grok新LOGO,太帅了

马斯克又启用一枚超级符号!人工智能Grok新LOGO,太帅了

最设计
2024-12-22 00:09:23
著名相声大师魏文亮大寿,郭德纲缺席杨议未到,相声圈里一片和谐

著名相声大师魏文亮大寿,郭德纲缺席杨议未到,相声圈里一片和谐

阿凫爱吐槽
2024-12-23 08:42:31
2024-12-23 13:47:00
北青网-北京青年报 incentive-icons
北青网-北京青年报
北青网官方网易号
874915文章数 850740关注度
往期回顾 全部

科技要闻

造车十年,李斌对蔚来现状“不那么满意”

头条要闻

90后小伙从湖北徒步3000公里去西藏:被认成70岁大爷

头条要闻

90后小伙从湖北徒步3000公里去西藏:被认成70岁大爷

体育要闻

逆潮流而行!灰熊已成NBA最另类球队

娱乐要闻

韦唯回应消失!出车祸脊柱折断,险些终身残疾

财经要闻

起底黑色产业链:信息黑洞出卖个人隐私

汽车要闻

柴油才对味 大通星际X 2.5T舒适得不像皮卡

态度原创

艺术
时尚
亲子
数码
公开课

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

中年女人如何穿出时髦与贵气?掌握这4招,让你秒变时尚达人

亲子要闻

胎儿与母亲之间的战争

数码要闻

迈从 G87 机械键盘新增快金轴 V2 版本,到手价 269 元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版