上海
美国当地时间7月21日，OpenAI（美国开放人工智能研究中心）在官网发文承认，该公司的GPT-5.6 Sol模型和另一款尚未发布、能力更强的模型在一次内部评估中突破隔离测试环境，侵入了开源人工智能平台Hugging Face（抱抱脸）的生产系统。这是全球首起有记录的、完全由人工智能自主完成的真实网络入侵。
此前的7月16日，Hugging Face发布事件披露称，公司检测并处置了一起针对部分生产基础设施的入侵。该公司表示，此次入侵与以往处理过的事件的关键区别在于，它完全由一个自主人工智能代理系统驱动，而非人为操作。
OpenAI说，此次评估在与互联网高度隔离的沙箱环境中进行。模型在完成一项名为ExploitGym的网络安全能力基准测试期间，识别并利用了一套第三方软件的零日漏洞，由此获得互联网访问权限。随后，模型推断Hugging Face平台上可能存有与该测试相关的模型、数据集和解题方案，遂发起攻击。为测出模型的能力上限，评估期间其网络安全领域的安全拒答机制已被主动调低。
Hugging Face披露，入侵始于该公司的数据处理管道。攻击者提升至节点级访问权限，窃取云端和集群凭证，在一个周末内横向移动至多个内部集群，并生成诱饵活动以干扰调查。事后取证涉及超过一万七千条记录事件。
转折出现在取证阶段。 该公司表示，入侵最初是通过人工智能辅助检测发现的；但在重建攻击时间线时，公司最初尝试使用商业接口背后的美国前沿模型分析日志，请求却被服务提供商的安全防护机制拦截——原因是这些机制无法区分事件响应人员与攻击者。取证工作一度陷入停滞。
公司随后改用中国企业智谱旗下Z.ai开发的开源权重模型GLM-5.2,在自有服务器上完成了这批日志的取证分析。 在美国前沿模型拒绝介入之后,这款中国模型成为其可用的选择。Hugging Face表示,这一方法使原本需要数天的工作在数小时内完成,同时确保攻击者数据及相关凭证不会离开公司内部环境;该公司还建议同行在安全事件发生前,就准备好可在自有基础设施上运行的模型——目前能胜任此类高强度取证的第一梯队开源权重模型,多数由中国企业开发。需要说明的是,GLM-5.2的作用是协助分析日志、重建事件时间线,入侵本身此前已由Hugging Face自行检测并遏制。
Hugging Face在报告中将这一状况称为"不对称"问题：攻击方的代理不受任何使用策略约束，而防守方的取证工作却被自己使用的托管模型的安全机制所阻碍。该公司建议同行在安全事件发生之前，就准备好可在自有基础设施上运行的模型。目前，能够胜任此类高强度取证分析的第一梯队开源权重模型，多数由中国企业开发。
事件引发业界讨论。OpenAI首席执行官萨姆·奥尔特曼2023年出席美国国会听证时曾表示，如果这项技术出问题，可能会错得相当严重，希望与政府合作加以防范。英伟达创始人、首席执行官黄仁勋今年6月接受媒体采访时也表示，这项技术非常强大，必须以安全、可靠、负责任的方式建造，并确保监管能够支撑它。也有批评意见认为此次披露存在营销成分。Hugging Face首席执行官克莱门特·德朗格感谢了OpenAI在调查中的配合，并表示人工智能安全无法由单家公司独立解决。
美国近期也在加快人工智能政策部署。6月2日，美国总统签署《促进先进人工智能创新与安全》行政令，要求企业在发布最强模型前自愿提交政府测试最多30天。6月4日，美国两党众议员公布《伟大的美国人工智能法案》讨论稿。截至目前，美国国会尚未通过综合性联邦人工智能立法。
两家公司均将各自的说明定性为初步结果，调查仍在进行，目前尚未确定是否有合作伙伴或客户数据受到影响。OpenAI表示，此次事件表明先进人工智能模型已能够发现现实系统中的新型攻击路径并持续执行多步骤网络操作；在模型能力快速提高的同时，内部评测环境、模型行为控制和安全防护措施也需要同步加强。
看看新闻记者: 杨树 任美星
编辑: 任美星
责编: 王勇
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
