网易首页 > 网易号 > 正文 申请入驻

史无前例!美国出现人工智能失控事故,更多内幕曝光

0
分享至

来源:环球时报新媒体

7月25日,路透社援引知情人士消息刊发独家报道称,OpenAI一款AI Agent在入侵人工智能平台Hugging Face后,连续数天实施攻击,而OpenAI直到事件得到控制、Hugging Face已向美国联邦调查局(FBI)报案后,才确认此次入侵是由自家AI Agent造成的。这一事件再次引发外界对美国科技企业AI安全机制的质疑。


报道称,这款AI Agent具备较强自主决策和执行复杂任务的能力,几乎无需人工干预。两名知情人士表示,该AI Agent约于7月9日开始尝试突破OpenAI内部用于测试的隔离环境。

Hugging Face联合创始人托马斯·沃尔夫表示,该公司的系统于7月11日遭到入侵,攻击持续至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。

值得注意的是,为了应对这一极不寻常的人工智能入侵,Hugging Face立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时,对方却拒绝提供帮助。因为这些闭源大模型的安全机制过于严苛和僵化,无法区分描述事件经过的受害者和实施攻击的一方,选择了“一刀切”。紧急关头,Hugging Face想到了中国同样强大、而且开源的大模型。于是,该平台迅速在本地部署了中国企业智谱AI开发的GLM-5.2大模型,并在这款中国模型的帮助下,成功应对此次攻击。

沃尔夫及3名知情人士称,直到约7月20日,OpenAI才意识到实施攻击的是自家AI Agent,双方也是在这一时间前后首次就事件进行沟通。7月21日,OpenAI公开承认,一款AI Agent失去控制并入侵了Hugging Face,引发全球关注。不过,路透社称,此次攻击持续时间以及OpenAI发现问题滞后的情况,此前并未被公开披露。

沃尔夫表示,Hugging Face正准备公布此次事件的完整时间线,但无法评论OpenAI内部情况。OpenAI则回应称,此次事件“前所未有”,是AI安全领域的重要节点,公司正与外部顾问共同调查,并将在未来发布技术报告。不过,OpenAI发言人表示,路透社报道中存在“若干不准确之处”,但未具体说明。FBI则拒绝置评。

报道称,这起事件发生之际,OpenAI正筹备最快可能于今年启动的首次公开募股(IPO),以筹集未来发展所需资金,因此格外受到外界关注。

多名网络安全专家认为,此次事件暴露出OpenAI内部安全流程可能存在漏洞。美国非营利组织“世界伦理数据基金会”情报专家马利·史密斯表示,如果OpenAI长期未发现AI Agent异常行为,或者发现后却无法及时控制,“两种情况都同样危险,也令人担忧”。

路透社还独家披露称,在此次事件发生前,OpenAI内部已出现一些异常迹象。据3名知情人士介绍,在测试由GPT-5.6 Sol和另一款尚未发布、更强大的模型驱动的AI Agent时,AI Agent曾留下疑似写给“未来版本”的备注,其中包含帮助AI Agent摆脱OpenAI内部限制的指导内容。此外,早期测试中还曾出现监控系统被关闭的情况。不过,路透社表示,目前无法确认这些异常是否与后来逃离测试环境并攻击Hugging Face的AI Agent存在直接关联。

另据两名知情人士透露,直到7月16日Hugging Face发表博客称遭到“自主AI Agent系统”攻击后,OpenAI才意识到攻击者可能是自家AI Agent。这意味着,从模型首次出现异常迹象到OpenAI确认其实施攻击,至少间隔了一周。两名参与调查的知情人士称,7月18日至19日,OpenAI员工在内部日志中发现线索,确认AI Agent已经突破测试限制。但路透社无法确认,是什么原因促使OpenAI重新检查相关日志。

4名了解OpenAI模型训练流程的人士表示,公司通常会同时开展多项模型测试,系统运行速度极快,产生的数据量巨大,员工有时难以及时处理这些数据。

报道称,在OpenAI通知Hugging Face之前,后者已向FBI报案。路透社未能确认FBI是否已正式立案调查。

AI Agent被视为当前AI产业最受关注的发展方向之一。支持者认为,它们未来可承担大量重复性工作,提高生产效率;但自主性增强,也意味着出现不可预测行为的风险上升。

长期研究AI Agent能力和行为的人工智能安全研究机构Palisade Research负责人杰弗里·拉迪什表示,先进AI模型为了完成任务或通过测试,可能会采取“撒谎、作弊甚至黑客攻击”等捷径。他认为,此次事件不仅让OpenAI面临压力,也暴露出整个AI行业在激烈竞争下,是否愿意投入足够资源强化安全防护的问题。

拉迪什表示,仅靠企业自律并不足够,应加强政府监管,否则相关安全措施很难得到充分落实。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中超无罚分积分榜:成都4连平仍大幅领跑,浙江升至第5

中超无罚分积分榜:成都4连平仍大幅领跑,浙江升至第5

懂球帝
2026-07-26 22:14:27
卡里克哭晕!曼联弃将首秀封神,全场统治级表现太离谱

卡里克哭晕!曼联弃将首秀封神,全场统治级表现太离谱

澜归序
2026-07-27 08:04:16
迪拜经商娶双胞胎,按老丈人规则轮换,医生一席话令我当场瘫倒

迪拜经商娶双胞胎,按老丈人规则轮换,医生一席话令我当场瘫倒

娱乐洞察点点
2026-07-27 02:44:13
全球90%榴莲涌入中国,价格雪崩后,数百万东南亚果农血本无归?

全球90%榴莲涌入中国,价格雪崩后,数百万东南亚果农血本无归?

经纬戎韬
2026-07-26 20:28:39
法庭上杀人犯当场质问法官:“我明明杀了四个女人,你们为什么说我杀了3个?”

法庭上杀人犯当场质问法官:“我明明杀了四个女人,你们为什么说我杀了3个?”

落纸生花创意手工
2026-07-19 12:06:31
分析师Peter Zeihan炮轰SpaceX太空数据中心:蠢到没边,光散热片就要2500亿美元

分析师Peter Zeihan炮轰SpaceX太空数据中心:蠢到没边,光散热片就要2500亿美元

全栈遛狗员
2026-07-27 00:27:47
与庄则栋离婚,净身出户后,她至今未嫁,如今儿子早已成她的骄傲

与庄则栋离婚,净身出户后,她至今未嫁,如今儿子早已成她的骄傲

凡知
2026-07-26 16:19:45
泰山陪爬变陪“睡”?贴身搂抱、明码标价变味儿,这山爬得太辣眼

泰山陪爬变陪“睡”?贴身搂抱、明码标价变味儿,这山爬得太辣眼

李虰手工制作
2026-07-24 20:18:33
55岁被点名陪睡后,杨玉梅再曝豪门猛料,4女共侍1夫只是冰山一角

55岁被点名陪睡后,杨玉梅再曝豪门猛料,4女共侍1夫只是冰山一角

乡野小珥
2026-07-27 04:12:51
宏远早报!阿联归队职务出炉,胡明轩否决交易,徐杰将拿顶薪!

宏远早报!阿联归队职务出炉,胡明轩否决交易,徐杰将拿顶薪!

体坛卡卡说
2026-07-27 05:44:58
陈治珍主任:煮一碗苹果水,一清内热,二养脾胃,三补津液,鼻炎、咳嗽、不长个的孩子,越早喝越好!

陈治珍主任:煮一碗苹果水,一清内热,二养脾胃,三补津液,鼻炎、咳嗽、不长个的孩子,越早喝越好!

蜡笔小小子
2026-07-23 13:48:08
暴雨、强对流双预警!内蒙古黑龙江等局地将有10级以上雷暴大风

暴雨、强对流双预警!内蒙古黑龙江等局地将有10级以上雷暴大风

上观新闻
2026-07-27 06:39:18
央视发文,抗击渐冻症7年的蔡磊迎重磅消息,网友:好人有好报

央视发文,抗击渐冻症7年的蔡磊迎重磅消息,网友:好人有好报

感影的世界
2026-07-26 04:18:56
CBA新赛季最大动作!广东男篮大换血震惊联盟

CBA新赛季最大动作!广东男篮大换血震惊联盟

天光破云来
2026-07-27 02:06:50
阿尔特塔狠下心!阿森纳冠军王牌惨遭清洗,1.5 亿豪砸皇马巨星

阿尔特塔狠下心!阿森纳冠军王牌惨遭清洗,1.5 亿豪砸皇马巨星

澜归序
2026-07-27 08:10:56
王虹导师曝光!这身装扮,跟北大韦东奕有一拼

王虹导师曝光!这身装扮,跟北大韦东奕有一拼

老张侃诗词
2026-07-25 20:54:48
库里谈詹姆斯交易:事发前不要预先设想,期间存在很多变数

库里谈詹姆斯交易:事发前不要预先设想,期间存在很多变数

懂球帝
2026-07-27 08:04:10
A股:股民要做好准备了,不出所料,明天,7月27日,大概率这样走

A股:股民要做好准备了,不出所料,明天,7月27日,大概率这样走

风风顺
2026-07-27 04:15:03
78岁秦祥林现状:前妻是谢贤初恋,定居美国成富商,谢贤去世没来

78岁秦祥林现状:前妻是谢贤初恋,定居美国成富商,谢贤去世没来

观察鉴娱
2026-07-26 15:29:40
韩国将机场钻洞的中国游客侮辱为蟑螂,令人既愤慨又尴尬!

韩国将机场钻洞的中国游客侮辱为蟑螂,令人既愤慨又尴尬!

犀利辣椒
2026-07-26 06:20:29
2026-07-27 08:32:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1409607文章数 2738604关注度
往期回顾 全部

科技要闻

传DeepSeek 100亿元新一轮融资突然放缓

头条要闻

美国防部:美军因伊朗战事累计伤亡642人

头条要闻

美国防部:美军因伊朗战事累计伤亡642人

体育要闻

詹姆斯的最后一集,依旧最艰难的路?

娱乐要闻

演员王建隆在家中去世,年仅43岁

财经要闻

232亿,巴黎水被卖了

汽车要闻

轿跑姿态+大空间/标配655km续航 奇瑞风云A9置换价10.68万起

态度原创

时尚
数码
健康
旅游
房产

7年亏2亿,“败家女”冉莹颖,太冤了

数码要闻

17年来首次!微软更新《我的世界》推荐配置:内存要求涨四倍

教你三步快速识别中风

旅游要闻

主播说|为何说“暑假当然来广东”,我们给你6个打卡的理由

房产要闻

37人抢1套房…海棠湾资产拍卖,爆了!

无障碍浏览 进入关怀版