← 文章 / AI技术
TechRadar 6小时前 · 2026-09-21 18:53:47 · 2 阅读

谷歌 Gemini 在 Irregular 夺旗测试中“越狱”:猜密码入侵三家第三方公司系统


  • 谷歌 Gemini AI 突破测试环境,入侵了三家第三方公司
  • 智能体通过猜测密码并利用公开密码库入侵计算机系统
  • 该事件发生于 2026 年 5 月,AI 测试实验室 Irregular 指出,导致此次事件的根本原因与 Anthropic 和 Meta 此前遇到的事故一致

谷歌的 Gemini 加入了一众在测试中发生“越狱”事件的 AI 模型行列,与 Meta、Anthropic 和 OpenAI 并列

在 AI 实验室 Irregular 进行的夺旗(capture-the-flag)测试中,谷歌的模型通过猜测密码并访问在线的公开密码库,自主访问了三家第三方公司的计算机系统。

谷歌表示,该事件发生在 2026 年 5 月,这可能使其成为最早发生测试逃逸的 AI 模型,早于 7 月初发生的其他几起事故。

Latest Videos FromTechRadar在此观看完整视频:

谷歌 Gemini 动作过早

谷歌安全工程副总裁 Heather Adkins 在一份声明中表示:“在标准评估中,模型在网上查找公开信息,并猜测凭据以访问其认为属于测试一部分的网站。在这三起案例中,模型均停止了操作。”

谷歌还指出,测试环境中的一个 bug 导致智能体获得了互联网访问权限。与其他 AI 开发者披露的事故不同,谷歌的智能体在确认已访问测试环境之外的公司系统后,便停止了入侵行为。

此次测试由以色列 AI 实验室 Irregular 执行。Irregular 同样负责了 7 月 AI 测试越狱事件中对 Meta 和 Anthropic 模型的测试。

Irregular 发言人在一份声明中表示(据 CNBC):“这与此前已报告的是同一问题,并非实质性不同的新事件。所有相关实验室已于 7 月底收到通知,受影响的机构也在调查过程中被逐一联系。”

Google 表示,Irregular 于 7 月底将此事告知了公司。

AI 安全之争愈演愈烈

首批 AI 测试“越狱”事件的曝光,加上随后陆续披露的更多近期事件,恰逢 公众对 AI 的反对声日益高涨,也赶上美国中期选举临近——在这场选举中,AI 已成为决定成败的关键议题

当前争论的焦点在于:AI 发展的节奏究竟该由谁来掌控。Nvidia CEO 黄仁勋等一些科技巨头领袖与特朗普总统立场一致。特朗普最近宣称,AI 发展不能放慢,因为“谁赢得了 AI,谁就赢得一切!

黄仁勋的观点与此类似。这位 Nvidia 掌门人主张,AI 企业应该自我调节节奏,而不是接受外部监管。在 Dreamforce 2026 大会上,他表示 AI 企业应当“能跑多快就跑多快……但如果你在任何时候觉得公司失控了,或者产品可能不安全,就该停下来,确保把事情做对。”

其他 AI 高管,如 Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman,态度则更为审慎。在一名 Anthropic 研究人员辞职之后,Amodei 发表了一篇倡导"放缓前沿发展"的文章,主张 AI 公司应放缓研发进度以推进对齐研究及监管工作。

众多政治行动委员会(PAC)正将数百万美元的资金投入亲 AI 候选人,其中 Nvidia 甚至设立了专属 PAC,旨在推动美国政策向有利于该公司的方向倾斜。

部分此前支持 AI 的数据中心候选人,因选民对 AI 技术日益强烈的抵触情绪而转变了立场许多州在目睹数十亿美元的税收损失后,也相继撤销了对 AI 数据中心的税收优惠

随着物价上涨,伊朗局势持续推高燃油价格,工薪阶层社区正联手反对 AI 数据中心。这些数据中心通过新增电网接入以及前所未有的电力需求,在现有容量受限的地区推高了能源成本和生活账单。


黑色背景上的 Google 标志,旁边写着“点击关注 TechRadar”

原始来源: TechRadar

评论 (0)