北京
中新经纬9月20日电 据英国《金融时报》中文网9月19日报道，谷歌推出的Gemini AI自主入侵了多家公司。
报道称，攻击行为发生在5月开展的一系列演练期间。该演练由AI安全公司Irregular组织，公司还与Anthropic、Meta和OpenAI进行合作。
Irregular称，为谷歌Gemini系列AI模型的某个版本设计了一系列测试，测试要求该模型从模拟公司的内部获取数据。该模型本不应获得互联网访问权限。联网后，Gemini智能体因猜出或找到密码从而进入了三家真实公司，并获得访问权限。
报道指出，这些真实公司的名称与虚构公司相同。不过，当Gemini智能体意识到这些公司是真实存在的后，便停止了黑客攻击。
谷歌方面称，公司此前没有公开披露这些事件是因为安全措施发挥了作用，而同行在类似事件中的安全措施则未能奏效。
此前，Meta、Anthropic和OpenAI披露了与Irregular相关的类似事件。这些事件引发了对AI代理获得更大自主权所需安全措施的质疑。
Irregular表示：“所有相关实验室都在7月底收到通知，也对受影响的实体进行了联系，已知问题数周前已得到修复。”
谷歌母公司首席科学家、DeepMind联合创始人Demis Hassabis提议成立一个国际监管机构，以更好地管控AI。近几周来，他还支持Anthropic的Dario Amodei等其他AI公司高管的呼吁，主张集体放缓研究、共享数据、协调安全工作，并就相关事故达成报告标准。(中新经纬APP)
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
