网易首页 > 网易号 > 正文 申请入驻

三人两个月炮制30万垃圾信息,AI造谣绝不能“零成本”

0
分享至



这年头,造谣的速度,插上AI的翅膀,已经快得超乎一般想象了。

还记得前不久社交媒体广为流传的“华山医院院长客死他乡”的“震惊新闻”?同事今天分享了谣言背后的故事,给我听得大开眼界:三个95后小伙,最小的还是2006年生的大学生,从今年2月开始起号,到案发的两个月时间内,纯靠AI发布了30万条紧跟热点的帖文信息,从而换取平台流量,谋取利益。这其中有相当数量均为AI胡编乱造的谣言,包括但不限于某女明星的遗产分配、华山医院“院长”客死他乡……甚至,被抓的时候,三个人自己都记不清楚自己编了啥话。

这个过程,基本已经完全脱离哪怕“ctrl c+ctrl v”这样简单的人工过程,转而依靠AI大模型生成内容,再在AI agent上代理分发,实现全自动制造垃圾信息,炮制和分发速度以秒计算。唯一需要他们付出人工劳动的,就是每天早上的“选题会”,主要就是搜罗各个平台的热搜,再交由AI,用模糊指令生成具体内容。

而这样的事情,早已不是个案。此前,也有调查揭露MCN中存在专门从事灰色“流量生意”的情况,原理都差不多,都是“AI赋能”,再借助廉价甚至免费的代理平台,实现超低成本的虚假信息发布,赚取流量。


我们需要认识到一个现实:如今,信息造假和传播需要的成本已经降低了太多,而虚假信息发布和传递的渠道则便利了太多。就像这个案例里,造谣者不需要任何“专业”知识和大规模团队,三个人,就能在两个月里发布30万条信息,在此前,这样的速度需要的人力物力远不止于这么点。

机器人可能还在蹒跚奔跑,但生成式AI是真正以很多人没预估到的深度参与进生活。而且,不知疲倦的AI在信息生产领域有着不可比拟的优势。据 Everypixel Journal 估算,截止到 2023年8月,AI生成的图像已超过过去150年人类拍摄的所有照片数量。随着各类大模型的飞速迭代,这一数量只会更惊人。

数量还在其次,更让我担心的,其实是生成式AI造谣所导致的信息污染问题。

当海量被胡编乱造炮制出来的内容进入公共信息流中,在平台和自媒体账号的推波助澜下,往往形成真假不分,甚至以假乱真的局面,严重干扰人们的正常认知。

这和人们的信息接受方式紧密相关。其实,很多自媒体账号“翻车”也不是一次两次了,今年初某女明星去世引起的舆论风波中,包括前述团伙在内的许多账号就炮制过该女星子女抚养权等谣言,虽然被平台进行了下架限流处理,但客观上这些不实信息已混杂成为公共信息的一部分,人为制造了某种虚假的“剧情反转”效果。

站在信息接受者的角度来看,当被编造出来的所谓“反转”越来越多,很难不让人产生“真相没有那么简单”的判断,甚至变成一种面对公共事件的下意识反应。次数多了,人们对社会现实和权威信息不再信任,反而更愿意轻信小道消息和自己的经验推测,美其名曰“让子弹飞一会儿”,社会共识也就更难以形成,舆论自然撕裂愈深,无数的对立、谩骂、攻讦,最终换来的只有“一地鸡毛”。

很显然,这是个公共信息“劣币驱逐良币”的过程。特别是在流量可通过平台变现的逻辑之下,真相变得并不重要,重要的是声量,往往越是极端化、情绪化的信息,越能吸引眼球、越有“市场”,与此相对应,理性的声音自然就更容易被淹没了。

更让人后怕的是,这种信息污染的方式,往往不是物理层面的相加,而是以化学融合的方式快速迭代复制。道理很简单,利用AI生成的内容,本身也会在信息流中被各种AI模型抓取,变成AI语料库的一部分,相当于编造了一轮又一轮,本质上是个信息不断“反刍”的过程,最后生成的内容已经与事实相差十万八千里,还会影响到AI本身的训练过程和未来信息源,让谣言的影响持久不散。


这类信息污染的渗透之深,或许比人们想象得要更为严重。其中固然有为谋利故意为之的,但也有很多专业人士、专业机构,在严肃的公共写作、学术论文写作中引用了AI编造的不实信息而不自知,甚至能骗过层层人工审核得以发表,所谓的“深度内容”,实际上已沦为“深度伪造”。

当AI造谣的运作模式变得更加熟练,成本越来越低,背后的产业链及利益链也就更为顺畅且牢固。显然,应对之法,已不能简单满足于传统的人工干预手段。事实上,包括上海在内,多地已经在探索数字水印、特征检测等多种针对性的技术手段,依靠AI技术用“魔法”打败“魔法”。

面对来势汹汹的AI谣言,掌握真实信息的政府部门和公共机构,需要比以往用更快的速度、更翔实的信息链对谣言进行澄清和回应。同时,社会正常的运作秩序需要保障,政府部门和公共机构的精力不可能也不应该全部浪费在应付这些“秒发”谣言上,炮制谣言者必须依法严惩,无论他们使用的是什么工具。要用法律武器让他们意识到扰乱公共信息秩序同样是违法犯罪,同样要付出沉重的代价,而不是一句轻飘飘的“都是AI自己生成的”就能掩盖罪责,AI造谣,绝对不能“零成本”。从这个角度来说,这起案件的查处对目前泛滥的AI信息生成极具警示意义。

我还觉得,在加强技术监管、落实平台责任之外,最终还是离不开每一个个体提升自己的媒介素养。当周遭信息环境已然发生深刻变革,能够检索出真实且有价值的信息,越来越成为个人的一项核心能力。很多时候这也并不复杂,哪怕只是多留个心眼检索一下信息出处、看到一些可疑信息不轻易跟风上头,都能少踩许多坑。

时代在变,面对造谣零成本的AI,身处其中的平台、公共管理方,乃至我们自己,其实也都需要改变。

原标题:《三人两个月炮制30万垃圾信息,AI造谣绝不能“零成本”》

栏目主编:简工博 题图来源:上观题图

来源:作者:解放日报 顾杰 林子璐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
Lululemon美股盘前跌超21%

Lululemon美股盘前跌超21%

每日经济新闻
2025-06-06 16:24:16
3位“劣迹艺人”复出受挫!演出被叫停、评论区沦陷,全部遭抵制

3位“劣迹艺人”复出受挫!演出被叫停、评论区沦陷,全部遭抵制

吐不满的痰娱
2025-06-04 15:15:48
坑新疆坑广东,又坑四川,3秒申请2技犯遭驱逐,花600万请他值吗

坑新疆坑广东,又坑四川,3秒申请2技犯遭驱逐,花600万请他值吗

南海浪花
2025-06-06 16:33:01
中共中央书记处书记、公安部部长王小洪:充分发挥公安机关主力军作用,推进扫黑除恶常态化走深走实

中共中央书记处书记、公安部部长王小洪:充分发挥公安机关主力军作用,推进扫黑除恶常态化走深走实

新京报政事儿
2025-06-06 22:08:21
24岁男子约会网友后发热,四天内暴毙,病因让医生后背发凉

24岁男子约会网友后发热,四天内暴毙,病因让医生后背发凉

霹雳炮
2025-06-06 22:28:00
法网乱套了!卫冕冠亚军全出局,0-6吞蛋,女单决赛名单诞生

法网乱套了!卫冕冠亚军全出局,0-6吞蛋,女单决赛名单诞生

知轩体育
2025-06-06 01:10:54
中国收紧稀土出口!知情人士:美国研究打造本土稀土磁体供应链,美国担心从导弹引导系统到风力涡轮机等关键领域稀土磁体可能面临断供

中国收紧稀土出口!知情人士:美国研究打造本土稀土磁体供应链,美国担心从导弹引导系统到风力涡轮机等关键领域稀土磁体可能面临断供

和讯网
2025-06-06 12:56:05
人社部:7月31日前,劳务派遣全面整顿,派遣公司将面临大清洗

人社部:7月31日前,劳务派遣全面整顿,派遣公司将面临大清洗

娱乐看阿敞
2025-06-05 13:43:49
国家男足这么烂,足协还好意思管苏超?

国家男足这么烂,足协还好意思管苏超?

不主流讲话
2025-06-06 16:54:04
破格提拔4年后,46岁成都中医药大学副校长曾芳拟再晋升

破格提拔4年后,46岁成都中医药大学副校长曾芳拟再晋升

澎湃新闻
2025-06-06 22:48:27
绝杀后哈利伯顿又更新动态宣传新战靴:都是鞋子的功劳

绝杀后哈利伯顿又更新动态宣传新战靴:都是鞋子的功劳

雷速体育
2025-06-06 13:04:11
俄战略军机被炸,真相终于大白,中美这次被都乌方无耻上了一课

俄战略军机被炸,真相终于大白,中美这次被都乌方无耻上了一课

大白话瞰世界
2025-06-04 13:26:42
刘强东一鸣惊人,京东拿下全国第一

刘强东一鸣惊人,京东拿下全国第一

电商派Pro
2025-06-06 09:22:09
基辅升起火海蘑菇云,米格31高超导弹踹门轰炸:英国专家当场死亡

基辅升起火海蘑菇云,米格31高超导弹踹门轰炸:英国专家当场死亡

近史博览
2025-06-06 16:00:15
淘宝热搜TOP10“高考神器”:全对T恤、满分包子、考神附体

淘宝热搜TOP10“高考神器”:全对T恤、满分包子、考神附体

环球Tech
2025-06-06 16:00:38
贝尔萨:我对失利负责,但我们一定能解决进攻乏力的问题

贝尔萨:我对失利负责,但我们一定能解决进攻乏力的问题

懂球帝
2025-06-06 12:53:12
广东男子存5800万只剩1元,银行却不认,警方的话让他懵了

广东男子存5800万只剩1元,银行却不认,警方的话让他懵了

如烟若梦
2025-05-22 16:27:11
联盟顶级3D侧翼!步行者当初从凯尔特人得到他真是大赚了一笔?

联盟顶级3D侧翼!步行者当初从凯尔特人得到他真是大赚了一笔?

稻谷与小麦
2025-06-06 22:57:44
突发! 俄罗斯发动全境轰炸 乌克兰多地遭袭 基辅地铁停运

突发! 俄罗斯发动全境轰炸 乌克兰多地遭袭 基辅地铁停运

每日经济新闻
2025-06-06 18:33:35
意外!韦世豪首次透露曾因跟国足主帅有矛盾,导致他不想去国家队

意外!韦世豪首次透露曾因跟国足主帅有矛盾,导致他不想去国家队

懂个球
2025-06-06 15:15:59
2025-06-07 00:55:00
上观新闻 incentive-icons
上观新闻
站上海,观天下
308823文章数 753940关注度
往期回顾 全部

科技要闻

鸿蒙折叠电脑首批售罄,现货黄牛加价2000

头条要闻

俄方大规模袭击击中乌境内所有预定目标 克宫回应

体育要闻

苏超红红火火,国足继续下沉

娱乐要闻

章子怡新造型惊到我!国际章突破形象

财经要闻

详解中美元首通话

汽车要闻

新增两款专属车色 奇瑞艾瑞泽8 PRO 2.0T官图发布

态度原创

本地
教育
房产
亲子
时尚

本地新闻

非遗里的河南 | 黄河泥变身千年墨宝,写字都带仙气儿~

教育要闻

2025年鼓楼区外来务工人员随迁子女小升初报名须知

房产要闻

与亚沙共鉴,新城艺境|三亚新地标盛大启幕暨限量藏品全球首发

亲子要闻

小宸哥历险记之龙兄虎弟

“呼吸感”穿搭今年夏天太火了,时髦松弛又减龄!