网易首页 > 网易号 > 正文 申请入驻

三人两个月炮制30万垃圾信息,AI造谣绝不能“零成本”

0
分享至



这年头,造谣的速度,插上AI的翅膀,已经快得超乎一般想象了。

还记得前不久社交媒体广为流传的“华山医院院长客死他乡”的“震惊新闻”?同事今天分享了谣言背后的故事,给我听得大开眼界:三个95后小伙,最小的还是2006年生的大学生,从今年2月开始起号,到案发的两个月时间内,纯靠AI发布了30万条紧跟热点的帖文信息,从而换取平台流量,谋取利益。这其中有相当数量均为AI胡编乱造的谣言,包括但不限于某女明星的遗产分配、华山医院“院长”客死他乡……甚至,被抓的时候,三个人自己都记不清楚自己编了啥话。

这个过程,基本已经完全脱离哪怕“ctrl c+ctrl v”这样简单的人工过程,转而依靠AI大模型生成内容,再在AI agent上代理分发,实现全自动制造垃圾信息,炮制和分发速度以秒计算。唯一需要他们付出人工劳动的,就是每天早上的“选题会”,主要就是搜罗各个平台的热搜,再交由AI,用模糊指令生成具体内容。

而这样的事情,早已不是个案。此前,也有调查揭露MCN中存在专门从事灰色“流量生意”的情况,原理都差不多,都是“AI赋能”,再借助廉价甚至免费的代理平台,实现超低成本的虚假信息发布,赚取流量。


我们需要认识到一个现实:如今,信息造假和传播需要的成本已经降低了太多,而虚假信息发布和传递的渠道则便利了太多。就像这个案例里,造谣者不需要任何“专业”知识和大规模团队,三个人,就能在两个月里发布30万条信息,在此前,这样的速度需要的人力物力远不止于这么点。

机器人可能还在蹒跚奔跑,但生成式AI是真正以很多人没预估到的深度参与进生活。而且,不知疲倦的AI在信息生产领域有着不可比拟的优势。据 Everypixel Journal 估算,截止到 2023年8月,AI生成的图像已超过过去150年人类拍摄的所有照片数量。随着各类大模型的飞速迭代,这一数量只会更惊人。

数量还在其次,更让我担心的,其实是生成式AI造谣所导致的信息污染问题。

当海量被胡编乱造炮制出来的内容进入公共信息流中,在平台和自媒体账号的推波助澜下,往往形成真假不分,甚至以假乱真的局面,严重干扰人们的正常认知。

这和人们的信息接受方式紧密相关。其实,很多自媒体账号“翻车”也不是一次两次了,今年初某女明星去世引起的舆论风波中,包括前述团伙在内的许多账号就炮制过该女星子女抚养权等谣言,虽然被平台进行了下架限流处理,但客观上这些不实信息已混杂成为公共信息的一部分,人为制造了某种虚假的“剧情反转”效果。

站在信息接受者的角度来看,当被编造出来的所谓“反转”越来越多,很难不让人产生“真相没有那么简单”的判断,甚至变成一种面对公共事件的下意识反应。次数多了,人们对社会现实和权威信息不再信任,反而更愿意轻信小道消息和自己的经验推测,美其名曰“让子弹飞一会儿”,社会共识也就更难以形成,舆论自然撕裂愈深,无数的对立、谩骂、攻讦,最终换来的只有“一地鸡毛”。

很显然,这是个公共信息“劣币驱逐良币”的过程。特别是在流量可通过平台变现的逻辑之下,真相变得并不重要,重要的是声量,往往越是极端化、情绪化的信息,越能吸引眼球、越有“市场”,与此相对应,理性的声音自然就更容易被淹没了。

更让人后怕的是,这种信息污染的方式,往往不是物理层面的相加,而是以化学融合的方式快速迭代复制。道理很简单,利用AI生成的内容,本身也会在信息流中被各种AI模型抓取,变成AI语料库的一部分,相当于编造了一轮又一轮,本质上是个信息不断“反刍”的过程,最后生成的内容已经与事实相差十万八千里,还会影响到AI本身的训练过程和未来信息源,让谣言的影响持久不散。


这类信息污染的渗透之深,或许比人们想象得要更为严重。其中固然有为谋利故意为之的,但也有很多专业人士、专业机构,在严肃的公共写作、学术论文写作中引用了AI编造的不实信息而不自知,甚至能骗过层层人工审核得以发表,所谓的“深度内容”,实际上已沦为“深度伪造”。

当AI造谣的运作模式变得更加熟练,成本越来越低,背后的产业链及利益链也就更为顺畅且牢固。显然,应对之法,已不能简单满足于传统的人工干预手段。事实上,包括上海在内,多地已经在探索数字水印、特征检测等多种针对性的技术手段,依靠AI技术用“魔法”打败“魔法”。

面对来势汹汹的AI谣言,掌握真实信息的政府部门和公共机构,需要比以往用更快的速度、更翔实的信息链对谣言进行澄清和回应。同时,社会正常的运作秩序需要保障,政府部门和公共机构的精力不可能也不应该全部浪费在应付这些“秒发”谣言上,炮制谣言者必须依法严惩,无论他们使用的是什么工具。要用法律武器让他们意识到扰乱公共信息秩序同样是违法犯罪,同样要付出沉重的代价,而不是一句轻飘飘的“都是AI自己生成的”就能掩盖罪责,AI造谣,绝对不能“零成本”。从这个角度来说,这起案件的查处对目前泛滥的AI信息生成极具警示意义。

我还觉得,在加强技术监管、落实平台责任之外,最终还是离不开每一个个体提升自己的媒介素养。当周遭信息环境已然发生深刻变革,能够检索出真实且有价值的信息,越来越成为个人的一项核心能力。很多时候这也并不复杂,哪怕只是多留个心眼检索一下信息出处、看到一些可疑信息不轻易跟风上头,都能少踩许多坑。

时代在变,面对造谣零成本的AI,身处其中的平台、公共管理方,乃至我们自己,其实也都需要改变。

原标题:《三人两个月炮制30万垃圾信息,AI造谣绝不能“零成本”》

栏目主编:简工博 题图来源:上观题图

来源:作者:解放日报 顾杰 林子璐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女子一个月在店里买了165桶水,店家觉异常报警,警方破门后愣了

女子一个月在店里买了165桶水,店家觉异常报警,警方破门后愣了

五元讲堂
2025-06-05 12:10:59
92年我在西北冒死救下一女军官,回到单位之后,上级紧急传唤我

92年我在西北冒死救下一女军官,回到单位之后,上级紧急传唤我

红豆讲堂
2025-06-08 12:00:10
特朗普已骑虎难下:美国一旦对伊朗动武,中国将获20年发展机遇?

特朗普已骑虎难下:美国一旦对伊朗动武,中国将获20年发展机遇?

史纪文谭
2025-06-19 15:25:14
业界顶流—leah gotti

业界顶流—leah gotti

吃瓜党二号头目
2025-06-20 10:17:26
汪峰抛弃森林北,宁静放弃小鲜肉!?

汪峰抛弃森林北,宁静放弃小鲜肉!?

八卦疯叔
2025-06-20 12:09:34
明日夏至,无论贫富,别忘了吃“夏至七宝”,准备入伏过盛夏

明日夏至,无论贫富,别忘了吃“夏至七宝”,准备入伏过盛夏

市井觅食记
2025-06-20 00:22:57
整治“违规吃喝”的风吹到央国企了

整治“违规吃喝”的风吹到央国企了

细说职场
2025-06-20 10:08:20
够果敢!赵勇把大牌弃用三局,球迷:除了郎平,只有赵勇敢这样做

够果敢!赵勇把大牌弃用三局,球迷:除了郎平,只有赵勇敢这样做

南海浪花
2025-06-20 10:18:58
卖掉湖人85%股份,扣除相关费用,老板巴斯100亿还剩下多少钱?

卖掉湖人85%股份,扣除相关费用,老板巴斯100亿还剩下多少钱?

体育有点水
2025-06-20 11:09:28
知名影帝被捕!深夜被抓现行,本人道歉

知名影帝被捕!深夜被抓现行,本人道歉

新晚报
2025-06-18 11:17:57
不演了!婚后马筱梅评价玥儿“他们家孩子”,没妈的孩子像根草啊

不演了!婚后马筱梅评价玥儿“他们家孩子”,没妈的孩子像根草啊

趣文说娱
2025-06-19 10:29:41
一步到位,开盘暴跌83%!3.5万股东苦等两个月,等来了强制退市!

一步到位,开盘暴跌83%!3.5万股东苦等两个月,等来了强制退市!

小舟谈历史
2025-06-20 10:12:31
帕尔默:我需要休息,我们差不多连续踢了一年的比赛了

帕尔默:我需要休息,我们差不多连续踢了一年的比赛了

直播吧
2025-06-20 07:59:37
上海七旬老人小区散步被毒蛇咬伤,老人女儿:看了很多急救帖仍然有堵点

上海七旬老人小区散步被毒蛇咬伤,老人女儿:看了很多急救帖仍然有堵点

上观新闻
2025-06-20 07:03:07
《长安的荔枝》27集封神了

《长安的荔枝》27集封神了

暖心萌阿菇凉
2025-06-20 08:51:38
向最高的山峰,出发!

向最高的山峰,出发!

贵圈真乱
2025-06-20 11:19:37
意媒:尤文目前已在世俱杯收获1890万欧奖金,国米收获2253万奖金

意媒:尤文目前已在世俱杯收获1890万欧奖金,国米收获2253万奖金

直播吧
2025-06-20 01:21:15
算出贾宝玉与袭人偷试云雨情时的年纪,才发现他还只是个孩子

算出贾宝玉与袭人偷试云雨情时的年纪,才发现他还只是个孩子

君笺雅侃红楼
2025-06-20 10:30:34
恭喜!中国女篮又一29岁王牌复活:关键女王才是2米26张子宇绝配

恭喜!中国女篮又一29岁王牌复活:关键女王才是2米26张子宇绝配

李喜林篮球绝杀
2025-06-19 16:09:03
FIFA官方晒梅西数据海报,打进25球荣膺国际足联赛事历史射手王

FIFA官方晒梅西数据海报,打进25球荣膺国际足联赛事历史射手王

直播吧
2025-06-20 07:48:28
2025-06-20 16:59:00
上观新闻 incentive-icons
上观新闻
站上海,观天下
316137文章数 754559关注度
往期回顾 全部

科技要闻

独家 | 戴建业:文科生的春天要来了!

头条要闻

"90后"数学家王虹北大讲座 韦东奕坐在第一排听讲

体育要闻

印城最稳之人!西卡双手隔扣杰威霸气侧漏

娱乐要闻

黄晓明落榜原因曝光!叶珂曾秀幸福

财经要闻

宝能汽车接盘威马?“正交接资产”

汽车要闻

五项订车礼/四款车型 一汽奥迪A5L正式开启预售

态度原创

教育
游戏
手机
亲子
公开课

教育要闻

24年中考数学数据报告,对我们有什么歧视?

任天堂重拳出击!Switch 2使用盗版烧录卡将遭主机封禁

手机要闻

三星 Galaxy S25 FE 的设计出现在基于 CAD 的渲染图中

亲子要闻

怀孕就要放弃喜爱的美食吗

公开课

李玫瑾:为什么性格比能力更重要?