网易首页 > 网易号 > 正文 申请入驻

英伟达、思科等120家组织提议建立AI智能体事故追踪机制

0
分享至

IT之家 8 月 12 日消息,据外媒 Axios 今日报道,包括英伟达、思科和 CrowdStrike 在内的 120 多个组织组成的联盟正在提议为 AI 智能体制定一个新的事件报告框架,该框架将要求参与公司披露某些智能体事故,并保存详细的事故记录。

随着 AI 智能体在计算机系统中获得越来越大的自主权,业界缺乏报告安全故障和从中吸取教训的标准方法。

The Open Secure AI Alliance(开放安全人工智能联盟)正在制定其所谓的“Shared AI Findings Exchange”(共享人工智能发现交流,SAFE)指南,这是一个关于如何报告涉及 AI 智能体网络安全事件的拟议框架。

该草案呼吁模型部署者、AI 开发者、云和工具提供商、独立研究人员、关键基础设施运营商和其他团体参与,政府机构也将受邀作为“非控制性观察员”参与。

SAFE 成员同意报告以下事件:AI 系统未经授权访问或利用第三方系统、泄露机密信息,或在操作员怀疑活动未经授权后继续探测生产目标。

成员还会报告某些险些发生的事件,并保存事件证据,包括提示、智能体追踪、工具调用、身份、权限和凭证。

IT之家注意到,根据拟议的时间表,成员应在事故发生后尽快通知受影响的组织,在四个工作日内向 SAFE 提交初步保密报告,在适当情况下于 30 天内发布初步事实报告,并在 90 天内提供补救措施更新。

SAFE 会分析事件,找出重复出现的故障,并提出共享的安全控制建议。

英伟达企业计算副总裁兼总经理 Justin Boitano 在黑帽子大会上告诉 Axios,该计划以 NASA 的航空安全报告系统为蓝本,该系统可以使用飞机飞行记录器捕获的数据来调查事故。

该联盟认为,网络安全领域现有的共享威胁情报文化将使各公司无论如何都愿意参与其中。英伟达副首席信息安全官兼副总裁 Julien Soriano 表示:“几乎没有遇到任何阻力。我们看到人们都愿意参与进来,他们渴望分享。”

开放安全人工智能联盟正在通过由 Linux 基金会主办的征求意见流程,就该提案征求社区的反馈意见。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
北京市一套涉刑事案件的大平层拍卖,被人2064万竞得

北京市一套涉刑事案件的大平层拍卖,被人2064万竞得

天天话事
2026-11-20 12:05:58
伊劳拉:球迷也配得上胜利;我们创造的机会足以打进更多球

伊劳拉:球迷也配得上胜利;我们创造的机会足以打进更多球

懂球帝
2026-11-23 03:02:15
1985年安徽农妇山上砍柴,以为碰到蛇吓得摔倒在地,手里却出现一件碧玺石金螃蟹

1985年安徽农妇山上砍柴,以为碰到蛇吓得摔倒在地,手里却出现一件碧玺石金螃蟹

收藏大视界
2026-11-07 22:58:29
俄国防部:俄空天军使用五枚FAB-500航空炸弹摧毁哈尔科夫州乌克兰的无人机控制中心

俄国防部:俄空天军使用五枚FAB-500航空炸弹摧毁哈尔科夫州乌克兰的无人机控制中心

俄罗斯卫星通讯社
2026-11-22 16:10:12
老父亲从村里捎来一桶野蜂蜜,我嫌太齁转手送了顶头上司,1个礼拜后,老板把我拉进里间握着手道谢

老父亲从村里捎来一桶野蜂蜜,我嫌太齁转手送了顶头上司,1个礼拜后,老板把我拉进里间握着手道谢

晓艾故事汇
2026-11-14 09:29:27
一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

林轻吟
2026-11-22 16:39:14
中年异性之间,偶然发生暧昧关系,如此解决才算体面

中年异性之间,偶然发生暧昧关系,如此解决才算体面

叶飞飞情感屋
2026-04-20 19:43:17
双红会,CCTV5见证!利物浦vs曼联,波切蒂诺难逃开门黑

双红会,CCTV5见证!利物浦vs曼联,波切蒂诺难逃开门黑

智道足球
2026-11-22 14:09:17
1979年钟伟再次联系黄克诚,请求安排工作,黄怒道:你就安分守己待着吧

1979年钟伟再次联系黄克诚,请求安排工作,黄怒道:你就安分守己待着吧

旧闻档案馆
2026-09-01 08:50:30
奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

天启大世界
2026-10-13 17:17:54
研究发现:爱吃鸡蛋的人,帕金森、老年痴呆发病率,比同龄人低?

研究发现:爱吃鸡蛋的人,帕金森、老年痴呆发病率,比同龄人低?

路医生健康科普
2026-10-22 20:45:03
0-4!英伦德比崩盘溃败:9.3亿豪门9轮不胜再创耻辱纪录

0-4!英伦德比崩盘溃败:9.3亿豪门9轮不胜再创耻辱纪录

狍子歪解体坛
2026-11-23 02:26:45
珠海扩容大势研判:金湾、斗门、唐家,三地潜力解析

珠海扩容大势研判:金湾、斗门、唐家,三地潜力解析

智慧生活笔记
2026-11-22 07:53:49
国家队2场5球,1.3亿欧边锋回皇马却坐替补席,这就是穆里尼奥的底牌

国家队2场5球,1.3亿欧边锋回皇马却坐替补席,这就是穆里尼奥的底牌

夏侯看英超
2026-11-23 01:03:04
糖尿病与花生有关系?发现:想要保护胰岛健康,少吃这3种坚果

糖尿病与花生有关系?发现:想要保护胰岛健康,少吃这3种坚果

侯医生谈健康
2026-11-23 00:40:03
史上最强日乒?张本智和:我们没有短板,混团世界杯要击败中国队夺冠

史上最强日乒?张本智和:我们没有短板,混团世界杯要击败中国队夺冠

念洲
2026-11-22 10:27:17
明日十月十五讲究:1不穿,吃2样,晚上4禁忌!家业兴旺诸事顺

明日十月十五讲究:1不穿,吃2样,晚上4禁忌!家业兴旺诸事顺

神牛
2026-11-22 13:01:22
广东气温暴跌10℃!广东人脚上拖鞋焊死,全国网友笑疯了

广东气温暴跌10℃!广东人脚上拖鞋焊死,全国网友笑疯了

另子维爱读史
2026-11-21 22:06:33
2020年,我国男性比女性多3490万,到了2026年,男女比让人意外

2020年,我国男性比女性多3490万,到了2026年,男女比让人意外

鉴古知微
2026-11-23 01:13:27
向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

韩小娱
2026-11-22 13:34:14
2026-11-23 03:56:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380834文章数 607748关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
本地
手机
时尚
公开课

艺术要闻

世界十大著名宫殿盘点:中国独占两席

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版