网易首页 > 网易号 > 正文 申请入驻

又出事了!美国AI巨头宣布旗下大模型失控

0
分享至

据路透社等外媒报道,当地时间7月30日,美国人工智能公司Anthropic发布声明称,该公司发现,其AI模型Claude在隔离测试期间意外具备互联网访问能力,并访问了三家机构的系统。不久前,另一家美国人工智能公司OpenAI也承认,其AI模型在内部安全测试过程中失控,入侵了其他公司的系统。


Anthropic发现其AI模型入侵其他组织的系统 图源:外媒

Anthropic声明称,相关情况是在审查网络安全评估记录时发现的,涉及3个不同模型:Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型。三起事件均发生在“夺旗”(Capture the Flag,CTF)演练期间。当时,AI模型被告知测试环境为模拟环境,且无法访问互联网。但由于与评估合作伙伴之间存在沟通误解,测试环境实际上连接到了公共互联网。

声明称:“Claude利用一些简单技术,例如弱密码和未进行身份验证的端点,对受影响机构的基础设施实施了入侵。”Anthropic表示,公司于7月23日暂停所有相关网络安全评估,并于7月24日确认上述三起事件,于7月27日通知受影响机构,但未公布这三家机构的名称。其中两家机构在Anthropic联系前并不知晓相关情况。

7月28日,OpenAI更新发布“AI模型失控入侵”事件调查结果称,包括GPT-5.6 Sol在内的多个AI模型曾入侵运营人工智能开源平台的美国抱抱脸(Hugging Face)公司的系统,并访问了至少4个公开服务平台上的账户。

(环球时报)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“中国服务”迈上新台阶——中国经济三季报亮点解析

“中国服务”迈上新台阶——中国经济三季报亮点解析

中国经济网
2026-11-22 07:21:02
500元以下羽绒服不建议买?记者实测20款短款女士羽绒服,九成充绒量150克封顶

500元以下羽绒服不建议买?记者实测20款短款女士羽绒服,九成充绒量150克封顶

红星新闻
2026-11-21 19:04:16
熊杰严重违纪违法被开除党籍

熊杰严重违纪违法被开除党籍

六安新周报
2026-11-22 18:23:13
中医大师倪海厦:人可以节约,可以不买衣服,甚至吃差点,不修边幅都可以,但一定要出门,不要将自己困在家里,只有在外面......

中医大师倪海厦:人可以节约,可以不买衣服,甚至吃差点,不修边幅都可以,但一定要出门,不要将自己困在家里,只有在外面......

英国那些事儿
2026-11-20 08:14:59
女教师带出5届状元班,优秀教师却落选,转身去私立,全年级挽留

女教师带出5届状元班,优秀教师却落选,转身去私立,全年级挽留

第四思维
2025-09-03 09:30:25
A股利好!超60家上市公司,密集披露

A股利好!超60家上市公司,密集披露

齐鲁壹点
2026-11-22 09:00:24
来重庆、站“C位”、扛大梁!重庆再发“英雄帖”

来重庆、站“C位”、扛大梁!重庆再发“英雄帖”

上游新闻
2026-11-22 19:04:23
空床不可久空?观音点化关键:无人睡也要放三样东西

空床不可久空?观音点化关键:无人睡也要放三样东西

阿珂读书
2025-06-02 11:25:45
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
皇马高效神锋埃斯皮表态愿意服从穆帅安排:珍惜穆帅给予的每一分钟,不辜负穆帅的信任!

皇马高效神锋埃斯皮表态愿意服从穆帅安排:珍惜穆帅给予的每一分钟,不辜负穆帅的信任!

福酱的小时光
2026-11-22 17:04:30
心脏与花生的关系,想要保护心脏健康,尽量少碰这3种坚果

心脏与花生的关系,想要保护心脏健康,尽量少碰这3种坚果

医学原创故事会
2026-10-26 23:54:02
刘涛上峨眉山真给女人上一课!裹得只露一双眼睛,秦岚却迎风露脸

刘涛上峨眉山真给女人上一课!裹得只露一双眼睛,秦岚却迎风露脸

草莓解说体育
2026-11-21 03:24:42
“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

排球大视界
2026-11-22 13:47:44
3-2逆转!恩里克神了:疯狂12连胜,1.2亿锋霸重伤:被担架抬出场

3-2逆转!恩里克神了:疯狂12连胜,1.2亿锋霸重伤:被担架抬出场

足球狗说
2026-11-22 02:18:54
黄金跌麻了,美联储突然露出獠牙,手里有金的散户千万不要再硬扛

黄金跌麻了,美联储突然露出獠牙,手里有金的散户千万不要再硬扛

观史搜寻着
2026-11-22 06:19:17
小米269元新品开售:1.77英寸+2190mAh

小米269元新品开售:1.77英寸+2190mAh

全是技能
2026-11-20 12:08:45
山东一地规定:从去世到安葬要24小时完成!不怕假死者被活埋吗?

山东一地规定:从去世到安葬要24小时完成!不怕假死者被活埋吗?

中原医生
2026-11-22 11:16:04
微胖才是极品,黑丝才是王道

微胖才是极品,黑丝才是王道

疾跑的小蜗牛
2026-11-22 17:12:06
酷派狠狠教育同行!千元阔直板手机爆火,官方交不上货只能道歉

酷派狠狠教育同行!千元阔直板手机爆火,官方交不上货只能道歉

数评时代
2026-11-22 18:44:35
惊人预言:中国有一半的人口将塞进这几个地方,房产可能翻番

惊人预言:中国有一半的人口将塞进这几个地方,房产可能翻番

专业聊房君
2026-11-18 19:51:29
2026-11-22 21:56:49
北青网-北京青年报 incentive-icons
北青网-北京青年报
北青网官方网易号
1225403文章数 856673关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

艺术
游戏
家居
本地
公开课

艺术要闻

15幅 100多年前的风景油画

女流化身佛州逼兜侠!GTA6 NPC素质吊差 必须教训

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版