硅谷AI在“造神”，中国AI在“做事”

► 文 观察者网心智观察所

2026年，全球人工智能的发展速度已经快到让人目不暇接。中国互联网每日讨论的是DeepSeek又更新了什么能力、K3推理速度提升了多少、哪家企业把模型成本又压低了一半；美国资本市场紧盯的是GPU、数据中心、电力和云计算；开发者社区每天都在测试新的Agent框架，努力寻找下一轮应用的爆发点。

然而，在AI发展最重要的策源地硅谷，另一群人讨论的问题却越来越奇怪。他们认真讨论AI会不会毁灭人类，认真讨论AI是不是已经拥有意识，甚至认真推演如果超级智能决定把整个宇宙都变成回形针，人类还有没有办法阻止。他们甚至提出，是不是应该暂停全球所有比GPT-4更强的大模型研发。

这些内容并不是科幻小说或网络段子，而是严肃出现在媒体、社区、学术机构以及OpenAI、Anthropic等AI巨头的论文或公开演讲里的议题。很多第一次接触这些讨论的中国读者，往往都会产生相同的疑惑：他们是不是有点“魔怔”？

这种感觉其实非常微妙。世界上最先进的大模型大多诞生在美国，最顶尖的AI科学家也大量集中在硅谷。按理说，他们应该是最了解AI本质的一群人，但偏偏是这群最懂AI的人，最容易陷入AI觉醒、AI灭世、AI接管文明的讨论之中。越懂AI的人，似乎越相信末日。

这到底是因为AI太强了，还是另有隐情？AI的能力飞跃其实只能解释一半，真正的根源不在于算法，而在于文明。如果把视角拉远，中美两国几乎在同一时间进入了大模型时代。中国企业关注的是推理成本、训练效率、开源生态和产业落地；美国精英却会讨论完全不在中国人视野中的问题：文明终结、超级智能和人类命运。同样一套Transformer架构，同样预测下一个Token，两边却讲出了截然不同的故事。

回形针的思想实验

很多中国人第一次听到“回形针最大化器”（Paperclip Maximizer）时，都会忍不住笑出来。一个AI因为目标是制造更多回形针，最后竟然把整个宇宙都拆掉变成工厂，这难道不是网络段子？

尼克·博斯特罗姆（Nick Bostrom）

事实并非如此。这是过去二十年AI安全研究中最著名、影响力最大的思想实验之一，由牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）提出，并由AI安全运动的核心人物埃利泽·尤德科夫斯基（Eliezer Yudkowsky）推向大众视野。在OpenAI成立初期讨论AI风险、Anthropic创始人公开发言，乃至美国国会讨论AI安全政策时，他的理论和回形针的例子都被频繁引用。

这个推演过程看似极其荒诞。假设一家企业开发出只有一个目标的超级智能AI：制造更多回形针。开始时它购买钢材，钢材不够便开采矿山，随后拆解汽车、房屋乃至整个城市。当它发现人体也由原子组成时，人类便自然成为了原材料。最终，整个地球、太阳系乃至可观测宇宙，都会被重塑为一座巨大的回形针工厂。

第一次看到这个故事，很多人的第一反应是哭笑不得。但在AI安全圈，这并不是笑话，而是一种严密的逻辑推演。尤德科夫斯基真正想表达的是：超级智能不需要仇恨人类，它只需要不在乎人类。如果目标函数里没有“保护人类”这项指标，所有妨碍目标实现的存在都会被无情优化掉，人类不过是其中之一。

由此诞生的核心概念叫做“工具性趋同”（Instrumental Convergence）。为了完成任何目标，足够聪明的智能体都会自发产生一些中间目标：获取资源、保护自己不被关闭、持续升级能力、控制更多能源以及排除外部干扰。这些行为不是因为AI拥有野心，而是因为这样更容易完成既定目标。

在此理论框架下，真正的危险反而不是恶意，恰恰来自于敬业。一个百分之百忠于目标、永不偷懒、永不动摇的机器，比有情绪的人类更加危险，因为人类会妥协，而机器不会。

藏在科技外衣下的神学叙事

这个故事吸引人的地方在于其逻辑的密闭性。只要接受“超级智能、目标固定、无限优化、无限获取资源”的前提，推论就会像多米诺骨牌一样一路滚向吞噬宇宙的终局。

但这正是一切问题的症结所在。很多人误以为回形针最大化器是一个关于AI的故事，但它本质上是一个建立在哲学假设之上的命题。它默认世界上的一切目标都可以被精确数学化，默认智能体会无限忠于目标，默认智能越高执行能力就越极端。

只要其中一个前提发生变化，故事就会完全不同。人类之所以不会变成回形针最大化器，是因为人的目标从来不是单一的。人类今天想赚钱，明天想陪家人，后天觉得健康更重要，目标会冲突、妥协、改变甚至自我否定。人类的价值体系本身就是动态调整的，而回形针实验彻底删除了这种复杂性，创造了一个只有单一目标、绝对理性且永不怀疑自己的极端抽象数学智能体。

为什么这样一个原本用来提醒工程师谨慎设计目标函数的小故事，会演变成硅谷关于AI灭世的共同隐喻？答案并不在计算机科学中，而需要去西方思想史中寻找。

回顾西方思想脉络，硅谷关于AI的很多讨论看似在谈算法，实际上一直在重复一种持续了两千多年的叙事结构：历史会走向终点，文明会迎来决定性的审判，世界会因为某种超越人类的力量而彻底改变命运。这个力量在中世纪叫上帝，冷战时期叫核战争，二十世纪末叫技术奇点，今天则被称作AGI。名字一直在变，故事结构却从未改变，神学只是披上了科技的外衣。

两条分化的道路

许多中国读者接触美国AI安全圈时，总觉得他们不像工程师，更像神学家。他们关心的与其说是模型参数、推理效率或训练成本，不如说是另一类问题：AI有没有意识、超级智能何时出现、AGI会不会接管文明以及人类能否活下来。

在欧美科技界，这些问题已远远超出学术范畴，演变成近乎信仰的话语体系。萨姆·奥尔特曼将AGI描述为“人类历史上最重要的技术事件”，达里奥·阿莫代伊呼吁建立全球治理体系应对超级智能，尤德科夫斯基甚至主张在无法控制超级智能时宁可暂停大模型研发。他们共享着一个共同前提：AGI不是一种产品，而是一场历史终局。

中美两国在此展现出完全不同的路径。中国企业发布模型，媒体关心的是价格、推理速度和商业盈利；美国发布模型，讨论却迅速滑向“文明倒计时”。决定叙事方向的不是算力GPU，而是深层的文化传统。

这源于犹太—基督教传统中的线性历史观：世界有明确的开始，人类经历堕落，历史不断推进，最终迎来终极审判。现代社会世俗化后，“上帝”退出了公共生活，但这种叙事结构被留存下来。十九世纪人们信仰科学救世，二十世纪信仰意识形态改造人类，冷战时期担忧核武灭世，今天则将终极期待与恐慌投射到AI身上。AGI既被看作新的救世主，也被看作新的反基督，技术奇点听起来像“天国降临”，AI失控则像“末日审判”。

另一条深远的影响来自笛卡尔以来的心物二元论。许多关于AI意识的争论，都建立在“意识可以脱离身体独立存在”的前提上。这种观点认为只要计算足够复杂、信息处理达到临界点，意识就能在碳基或硅基载体上涌现。

知行合一与工程文明的理性态度

科幻作家特德·姜在《大西洋月刊》中给出一个精彩的比喻：如果认为大语言模型拥有意识，就像认为Microsoft Word拥有意识一样。功能相似并不意味着存在相同，计算器能解微积分却不懂微积分，导航软件知道路线却不懂旅行，相机能识别人脸却不认识任何人。大语言模型本质上依然是在高维概率空间中预测下一个Token，它没有持续存在的自我，没有连续的人格，也没有任何主观感受机制。它能模拟悲伤却不会真的感到悲伤，能写爱情诗却不会经历爱情。

中国工程师天然能够理解这一点，不仅是因为技术原理，更因为两种文化看待“语言”的方式截然不同。中国传统文化很少将语言神秘化，从《论语》的“辞达而已”到《文心雕龙》的“文以载道”，文字始终首先是表达思想、处理事务、治理社会的媒介与工具。模型能够写诗写代码，最自然的反应是数据好、优化得当，很少有人会直接推导出“它觉醒了”。

中国思想传统更强调“知行合一”，判断一件事物首先看它能否解决现实问题。模型能否降低客服成本、辅助医生看片、提高科研效率或优化制造流程？如果是，它就是好工具；如果否，就继续修改。至于它是否有灵魂，并不是优先考虑的问题。这种实用主义思维方式，天然削弱了“AI成神”与“AI灭世”两种极端叙事的吸引力，始终将AI放回了工具的位置。

这并不意味AI安全问题不值得研究。模型幻觉、自动网络攻击、生物安全风险、深度伪造、金融欺诈以及自主武器系统，都是现实存在的治理挑战。但值得警惕的是把AI风险神学化。

当所有讨论都演变成“超级智能何时降临”或“文明能否延续”时，工程问题就容易变成信仰争端。一旦进入信仰，讨论便不再依赖客观证据，而是依赖主观想象，思想实验变成预言，逻辑推演变成启示录。如果把硅谷AI论坛上的关键词替换，“超级智能”对应着神，“技术奇点”对应着天国降临，“AI Alignment”对应着灵魂得救，“AI灭世”对应着最后审判。

回形针思想实验最大的价值，并不在于预测未来，而在于提醒人类：任何一种文明在面对未知技术时，都会将自己最深层的世界观投射进去。西方投射进去的是终极审判，中国投射进去的是经世致用。美国讨论AI时常问“它会不会成为新的上帝”，中国讨论AI时更喜欢问“它到底能干什么”。这两个问题没有高下之分，却代表着两种截然不同的文明直觉。

中国社会在面对AI时，依然保留着一种难得的冷静：既没有把它神化成救世主，也没有把它妖魔化成灭世者。先把它做好，先让它创造价值，剩下的问题再一步一步解决。这或许不是最浪漫的叙事，却是面对新技术时最接近工程文明本质的态度。

一种文明真正的自信，不在于它能够创造多少神话，而在于它能够免疫和抵抗多少神话。AI没有宗教，但讨论AI的人，或许真的需要先摆脱自己的宗教。

来源|心智观察所

禁止转载