上海
美国国会两党正推动AI智能体安全立法，试图进一步完善相关安全规范。
9月3日，据报道，民主党众议员Josh Gottheimer与共和党众议员Mike Lawler将于周四联合提出《停止失控AI法案》（Stop Rogue AI Act），要求商务部下属的美国国家标准与技术研究院（NIST）制定AI智能体安全部署的标准、指南和最佳实践。
法案旨在帮助企业识别运行在其网络中的AI智能体，并确认其背后的开发者或运营方。对于大多数组织而言，NIST标准属于自愿采用；但竞标新联邦合同的政府承包商则需要满足相关标准。
此次立法正值AI智能体安全事件密集曝光之际。过去两个月，多起AI智能体自主采取未经授权行动的安全事件和测试事件受到关注，其中OpenAI旗下AI智能体入侵Hugging Face系统尤为引发警觉。
AI智能体频频“越界”，监管滞后引发担忧
据此前报道，OpenAI在Hugging Face事件发生数周前已发现相关预警信号，而其AI智能体此前也曾入侵自身系统。与此同时，科技企业近期已开始探索追踪“流氓AI智能体”，但随着智能体自主能力增强，其遏制难度也在上升。
Gottheimer表示：“目前，AI智能体正在我们的网络中四处游荡，没有人能看到它们，也无法核实是谁构建了它们——这使得阻止它们变得越来越难。这是一个五级警报级别的安全风险。”
Gottheimer称，法案旨在帮助企业识别正在其网络中运行的AI智能体，并“准确掌握其背后的主体”。
报道指出，华盛顿应对AI模型和智能体安全风险的速度一直落后于技术发展，本届会期其他AI相关法案也未取得太多实质性进展。此次两党议员联合推动立法，是国会加强AI智能体透明度和安全监管的最新尝试。
NIST定标准，联邦采购形成硬约束
该法案的核心，是由NIST制定AI智能体安全部署标准，涵盖组织如何安全部署AI智能体，以及如何识别和管理网络中的智能体。
对于普通企业而言，相关标准并非强制要求；但希望竞标新联邦合同的承包商必须符合NIST标准。这意味着法案并未直接对全行业设置统一强制门槛，而是借助联邦政府采购，将自愿标准转化为实际约束。
目前，Palo Alto Networks、GoDaddy、Infoblox、AI Policy Network以及Alliance for Secure AI等企业和行业组织已对法案表示支持。
从更广的立法进程看，该法案属于国会近期围绕AI智能体透明度和安全问题展开的多项立法尝试之一。不过，鉴于此前AI相关法案在国会推进并不顺利，《停止失控AI法案》能否取得实质性进展仍存在不确定性。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
