网易首页 > 网易号 > 正文 申请入驻

「不是,而是」:AI写作留给文字世界的特洛伊木马

0
分享至


本文来自微信公众号: 显影笔记 ,作者:MengZhi,原文标题:《「不是,而是」:AI写作留给文字世界的特洛伊木马》

上个月24日,投资人Druckenmiller在《华尔街日报》发表了一篇对于美国财政部债务回购政策的评论文章,反复使用的"不是,而是"让读者嗅到了AI写作的讯号。随后,Druckenmiller被迫承认使用了AI工具。承载了审慎思考的句式被AI占用,而人类编辑的把控在失效。一个新的问题出现:谁来为内容的可信度负责?

01

一个正在被察觉的AI写作“诡计”

最近,我开始在写作中有意识的避免使用“不是…而是…”的句式,甚至还减少了文章中的破折号。这两个形式正在快速成为AI写作的标识。根据巴伦周刊报道,过去2年,“不是,而是”的句式,在美国大型企业文件中的使用频率忽然翻倍增长,已达到历年的4倍以上。

上个月24日,投资人Stanley Druckenmiller发布在《华尔街日报》Opinion版面的署名文章,可谓对这一数据变化的亲身演绎,开篇即塞进了3次否定排比与并列句,也让读者察觉出AI写作痕迹。


“没有流拍,没有交易商资产负债表挤兑,没有强制平仓,没有任何类似2020年3月美债或2022年9月英国国债那种真正功能失调的情形,那种情形才配得上官方出手。波动得到了控制,交易井然有序——不是故障,而是机器在完成它的工作。”

学者Claudia Sahm使用检测工具Pangram分析,显示这篇内容为100%的AI写作。随后,Stanley Druckenmiller不得已承认使用了AI工具,但否认完全由AI代笔。

熟悉的句式结构被AI“挪用”,读者对于写作的信任也在坍塌,连表达者想要主张的观点也在失焦。就像诺兰电影《奥德赛》中的剧情,当特洛伊遭遇了“木马计”以后,每一次陆地居民看到“海上来的人”,感受到的是恐慌。

02

同一种句式,AI的写法为何让人不适?

“不是,而是”,是人类太过熟悉的表达。它通常服务于上下文全局,先否定一个默认的共识、一项误解,再给出一个判断、一项事实,展现了“一破一立”的叙事智慧。

这样的表达方式,承载了与信任相关的演说、社论、报告,成为了人类的集体记忆。其中,就包括了美国前总统肯尼迪1962年的“阿波罗登月计划”演讲。

这篇长达15分钟的演讲中,“不是,而是”的句式只被使用了1次,成为全篇点睛之笔——我们选择登月,不是因为它容易,而是因为它艰难。这句话高度凝聚了“迎难而上”的精神,驳斥了“安于现状”的幻想,让普通百姓也听懂了举国力支持登月探索的意义。

如今,AI Chatbot 10秒不到即可生成5次“不是,而是”。语气似人非人,无差别使用,仿佛是永动机器的产物。甚至,它不关心在前文刚刚说过什么,不了解现实世界中是否有误解需要推翻,有时候还会虚设一个不存在的反驳目标。

03

“不是,而是”背后的技术原理和商业权衡

在AI生成的内容中,“不是,而是”句式使用的方式五花八门,尚无一个放之四海而皆准的成因答案。但是,从模型的训练数据、训练机制,到生成机制来看,不难展开推测——

1.训练数据:“不是,而是”一直存在于优质内容范例中,作为递进式的洞察引导,比如前面提到的肯尼迪的“登月计划”演讲。对于大语言模型(LLM)来说,在最初的训练数据中即开始大量接触这一“句式”。

2.训练机制:AI对于这一句式的过度使用,则可能来自于后训练阶段的RLHF(基于人类反馈的强化学习)。石溪大学研究AI写作的计算机科学助理教授Tuhin Chakrabarty就对《大西洋周刊》表达过类似观点。

首先,这种结构层次分明、语气笃定的表达,很可能从一开始就赢得了人类标注者的高分评价。到了RLHF阶段,通常会使用一个代表人类偏好的“奖励模型”作为评审,对策略模型进行训练。当“奖励模型”进一步认可了“不是,而是”,就会强化LLM的相关表达,甚至可能被Reward Hacking。

3.生成机制:LLM的内容生成,本质是在做“下一个词的预测”。它结构完整、语义畅通,但无法保证每一句话出现在文章中恰到好处的位置,每一种句式以最适当的频率出现。于是,就出现了AI写下无数个“不是,而是”,而缺乏适当“呼吸与留白”,进一步造成了阅读体验的不适。

此外,在模型厂商的战略能力布局层面,Coding才是核心战场,写作从来不是产品重心。今年年初,Sam Altman回应GPT-5写作质量下滑的问题时表示:OpenAI把5.2版本的绝大部分精力放在了使其具备超强智力、推理、编程和工程的能力上。

04

这是一个产品技术问题,还是信任问题?

技术原因不难推演。值得思考的是,这座“特洛伊木马”应该被放行吗——那些不经披露、未经验证的AI写作,一次又一次冲击内容信任的行为。

因此,这也绝对不仅仅是一个“技术和产品够不够完美”、或者“如何做好Harness”的问题,它指向了「AI治理」。

2026年以来,以长文写作为主要载体的互联网社区,正在采取限制,避免AI冲击平台的信任根基:Substack、Quora上线了AI内容检测功能;Linkedin在8月份上线了对于“疑似AI创作”的举报,停用了AI写作优化功能。回顾近几年,这几大平台都在一定程度上遇到了“AI Slop(垃圾内容)”的困扰。

在围绕公共利益相关的内容主题,8月2日,欧盟《人工智能法案》第50条透明度规则正式生效。它在具体要求中提到,“其部署者须披露该文本系经人工智能生成或操纵”。

“不是,而是”句式的泛滥,用阅读体验上的“刺痛”,让我们有机会重新审视效率“野心”之下,人与AI的能力边界,思考在公开写作中,发布者需要承担的披露与内容责任。

管理AI所带来的内容信任冲击,行动才刚刚开始。也许就像1940年,英国在二战中取得阿拉曼战役大捷后,丘吉尔在演讲中所说的:这不是结束,这甚至不是结束的开始,但这毕竟是开始的结束。Now this is not the end.It is not even the beginning of the end.But it is,perhaps,the end of the beginning.

显影笔记

围绕人与技术,关注那些永恒不变的主题。追踪生成式人工智能时代的技术信任、人机合作边界;探索现象和叙事之下,那些尚待「显影」的逻辑。

封面图:The Procession of the Trojan Horse into Troy,Giovanni Domenico Tiepolo。

参考资料:

·It’s not just one thing—it’s another thing,TechCrunch

·Billionaire Stanley Druckenmiller’s WSJ Op-Ed Criticizing Bessent Was Written With AI,NOTUS

·The Most Famous AI Writing Tic Is Also the Most Mysterious,The Atlantic

·LinkedIn adds a button to report AI-generated‘slop’,TechCrunch

·Article 50:Transparency obligations for providers and deployers of certain AI systems

本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 tougao@huxiu.com。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4890032.html?f=wyxwapp

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新政出台:买公寓的打工人,遇上被背刺最狠的一次!

新政出台:买公寓的打工人,遇上被背刺最狠的一次!

城事堂
2026-09-10 09:50:30
委内瑞拉给了中国一个说法。 
委内瑞拉把650亿桶石油控制权交给美国后,终于给最大债主中国交底了

委内瑞拉给了中国一个说法。 委内瑞拉把650亿桶石油控制权交给美国后,终于给最大债主中国交底了

扶苏聊历史
2026-09-10 16:42:29
朱明林已任上海普陀区委副书记

朱明林已任上海普陀区委副书记

澎湃新闻
2026-09-10 19:36:27
郭德纲又一后果来了!中央广播电视台“云听”下架了郭德纲的所有作品!这一次,评论区都在批评郭德纲

郭德纲又一后果来了!中央广播电视台“云听”下架了郭德纲的所有作品!这一次,评论区都在批评郭德纲

谭谈社会
2026-09-10 22:44:10
私吞上亿善款真相终于大白?官方正式宣布,54岁韩红身份迎来转变

私吞上亿善款真相终于大白?官方正式宣布,54岁韩红身份迎来转变

乌克兰小静
2026-09-10 09:09:45
诬告4岁幼童摸臀:“小仙女”开小号硬刚,说留学后继续更新vlog

诬告4岁幼童摸臀:“小仙女”开小号硬刚,说留学后继续更新vlog

穿透
2026-09-10 14:43:13
随着埃因霍温1-1、罗马1-1,欧冠最新积分榜出炉:皇马继续排第10

随着埃因霍温1-1、罗马1-1,欧冠最新积分榜出炉:皇马继续排第10

侧身凌空斩
2026-09-11 02:42:15
“高考数学132分,入学考试12分”,大学回应

“高考数学132分,入学考试12分”,大学回应

第一财经资讯
2026-09-10 11:04:09
刘翔,教科书式公关

刘翔,教科书式公关

贩财局
2026-09-10 13:41:33
太揪心了!离出口仅160米,2名工人被泥石流封在隧道9天,靠喝泥坑水活了下来

太揪心了!离出口仅160米,2名工人被泥石流封在隧道9天,靠喝泥坑水活了下来

可达鸭面面观
2026-09-10 11:44:35
冼奕辉因病医治无效逝世,年仅57岁

冼奕辉因病医治无效逝世,年仅57岁

上观新闻
2026-09-10 16:46:54
欧冠疯狂一夜:拜仁制造惨案,曼联4球大胜,朗斯逆袭绝杀,科莫队史首胜

欧冠疯狂一夜:拜仁制造惨案,曼联4球大胜,朗斯逆袭绝杀,科莫队史首胜

足球狗说
2026-09-11 05:18:35
欧冠3-2神剧情:91分钟绝平 93分钟绝杀 法甲亚军两度落后神奇大逆转

欧冠3-2神剧情:91分钟绝平 93分钟绝杀 法甲亚军两度落后神奇大逆转

狍子歪解体坛
2026-09-11 06:10:54
“摸臀” 女网红社死,安徽母校评论区被冲烂,留学梦可能有变数

“摸臀” 女网红社死,安徽母校评论区被冲烂,留学梦可能有变数

四斤
2026-09-09 15:22:29
网传中国农大一学生因不当言论被开除,网友不服……

网传中国农大一学生因不当言论被开除,网友不服……

慧翔百科
2026-09-10 17:21:21
比诈骗更黑暗的秘密!泰军控制9个月后,柬埔寨奥斯马园区再次曝光:157栋建筑里有一间手术室

比诈骗更黑暗的秘密!泰军控制9个月后,柬埔寨奥斯马园区再次曝光:157栋建筑里有一间手术室

暹罗飞鸟
2026-09-10 02:17:15
英格兰公开赛8强产生4席,吴宜泽爆大冷,丁俊晖周跃龙双龙合璧

英格兰公开赛8强产生4席,吴宜泽爆大冷,丁俊晖周跃龙双龙合璧

天涯远行人
2026-09-11 04:23:48
美国跟法国“杠上了”

美国跟法国“杠上了”

环球时报国际
2026-09-10 16:28:40
人民日报发声!已经不是简单道歉的事,多名律师支持男童一方起诉

人民日报发声!已经不是简单道歉的事,多名律师支持男童一方起诉

放开他让wo来
2026-09-10 10:43:36
3分钟2球!4-0大胜!时隔1003天重返欧冠 9.2亿豪门开门红

3分钟2球!4-0大胜!时隔1003天重返欧冠 9.2亿豪门开门红

狍子歪解体坛
2026-09-11 04:53:40
2026-09-11 06:27:00
虎嗅APP incentive-icons
虎嗅APP
个性化商业资讯与观点交流平台
27743文章数 688062关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

特朗普:如果伊朗拥核 我会对最高领袖说"能为您效劳吗"

头条要闻

特朗普:如果伊朗拥核 我会对最高领袖说"能为您效劳吗"

体育要闻

16岁的国产小库里,还有多少功课要做

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

标配全线控底盘 全新一代智己LS6预售20.99万起

态度原创

本地
艺术
亲子
时尚
数码

本地新闻

拼假 13 天国内长线路线合集

艺术要闻

他偷走70箱清宫文物:却在逃亡路上将国宝赠人、丢弃...

亲子要闻

宝蓝和家人一起去游乐场打水仗,过山车还有恐龙乐园玩的很开心~

“蛇精”围攻,葫芦爷爷求饶

数码要闻

驳斥“运营2.16亿台间谍电视”指控 LG官方声明数据合规并强调用户隐私保护

无障碍浏览 进入关怀版