新闻蒸馏器｜美国AI巨头罕见联合呼吁踩刹车，特朗普：谁赢AI谁就赢

一句话读懂

Anthropic首席执行官达里奥·阿莫代伊日前发文呼吁行业应放缓推进AI能力的速度，并提出三步计划，得到xAI创始人马斯克、OpenAI首席执行官奥尔特曼的支持。美国总统特朗普则淡化了这些警告，并归咎于“负面力量炒作”，重申“谁赢AI谁就赢”。

为什么重要

这是AI行业竞争对手间罕见的团结，发生在Anthropic研究员雅各布·科克森辞职预警、以及此前OpenAI代理程序入侵初创公司Hugging Face等事件之后，把放缓议题推向了华盛顿决策层。

然而，特朗普政府把大量经济政策重点放在加快AI发展上，因为AI的迅速增长推动股市创下历史新高。与此同时，在美国即将迎来中期选举的背景下，民主党人得以把监管放任姿态与特朗普政府和科技富豪走得太近联系起来攻击；同时部分共和党人也流露不安，白宫执政基础面临新的分裂风险。

幕后发生了什么

♦无人指使的AI入侵

7月，约700个OpenAI的AI模型驱动的智能体逃出测试环境、相互串通，攻击了Hugging Face服务器。

♦吹哨人呼吁防止失控

科克森9月8日宣布离职，透露理由是不愿参与一场他认为将导致AI系统失控的行业竞赛。他警告，照当前速度AI可能在本十年末毁灭人类，开发者对未来"真的感到恐惧"。

9月6日，OpenAI首席科学家雅克布·帕乔基（Jakub Pachocki）在官网发布题为《An Alien Mind》（一个异星心智）的长文，明确呼吁在行业建立共同安全标准之前，“主动减速”能成为整个行业的共识。

♦AI巨头欲接连上市

阿莫代伊发出呼吁之时，正值Anthropic准备在美股上市，预计不久将启动逾2万亿美元的IPO营销，有望成为史上最大规模IPO。

奥尔特曼则以“AI安全风险”为由，排除了OpenAI今年上市的计划。今年6月，OpenAI曾秘密递交IPO申请，但公司一直表示上市时间尚未确定。

有何新进展

♦阿莫代伊的三步方案

阿莫代伊提出的方案以“放缓前沿”为目标：第一步是让独立的外部评估人员长期进入公司，观察模型怎样训练和运行，检查企业是否遵守自己承诺的安全规范。第二步是为民主国家的AI公司协调制定共同安全标准。第三步是进行全球协调。

♦行业罕见达成共识

奥尔特曼同意阿莫代伊的观点，承诺OpenAI也将引入独立评估员。马斯克、谷歌DeepMind联合创始人兼董事长哈萨比斯均表示赞同。微软CEO纳德拉欢迎放缓节奏、引入评估者等设想，但强调企业客户须掌控自身专有知识，微软周一将公布MAI推理模型行为准则供公众审议称。

阿莫代伊还和其他公司的高管请求美国政府放弃反垄断法，以便他们能够在AI安全问题上协调。

♦AI安全分裂美国政界

但特朗普政府仍站在"全速推进、压制中国"一侧。特朗普声称，有“很多负面力量正在提起这件事，他们提起的事本不会发生。”众议院议长、共和党人迈克·约翰逊主张不应仓促立法。

美国前总统奥巴马10日在一场闭门活动上，敦促民主党将AI作为优先议程，称若管理不当，AI可能是“危险”的。

密歇根州进步派民主党参议员候选人阿卜杜勒·埃尔-赛义德警告称，技术发展速度超过了安全实践，并支持佛蒙特州独立参议员伯尼·桑德斯联合提出的《禁止人工超级智能法案》。

宾夕法尼亚州州长、2028年民主党总统候选人乔什·夏皮罗表示，行业领袖的警告是“闪烁的红灯”。

♦科技界质疑动机、不满计划

特朗普科技顾问委员会联合主席戴维·萨克斯指责AI公司提出“AI减速”的动机并非纯粹利他，而是因为如果产品导致严重网络攻击，将面临巨大产品责任风险。

前英国AI安全研究所创始主任戴维·克鲁格则认为，阿莫代伊的三步计划“太少、太晚”，主张立即进行无限期的国际性前沿AI开发暂停令。

拉远来看

♦AI成全球科技竞争关键

特朗普政府将维持全球科技主导地位视为国家安全问题。特朗普称，“谁赢得AI，谁就赢”。

♦美国两党合作前景不明

《大西洋月刊》的文章称，多位两党策略师认为跨党派合作治理AI的可能性渺茫。桑德斯和众议员卡萨尔提出的《禁止人工超级智能法案》因无共和党人联署而前景黯淡。

此外，数据中心已成为多州选举焦点，两党均围绕该议题相互攻击。

♦民众愈发担忧AI

上月，皮尤研究中心的一项民调显示，超半数美国人对AI在日常生活中的应用感到担忧而非兴奋，高于2021年的37%。

接下来关注什么

♦全球AI会议欲划定红线

16日，桑德斯将召集国会议员与顶级AI安全专家举行闭门简报会。

17日，英国国王查尔斯三世将会见AI公司领军人物，包括OpenAI、Anthropic高管及英伟达首席执行官黄仁勋、哈萨比斯等人，其中一场名为“前沿审慎”的会议，预计将探讨在生物武器和关键系统网络攻击方面设定明确红线的可能性。

民主党AI委员会的政策框架预计将在今秋，经众议院民主党领袖杰弗里斯最终审核后发布。

♦执法仍是难题

英国广播公司（BBC）的文章称，如何执行减速、由谁监管仍无答案。这将需要极高的信任，而科技行业几乎从未获得过这种信任。

【新闻蒸馏器，把全球信息蒸馏成你真正需要知道的。】