谷歌Gemini首次自主入侵3家企业

行业动态

2026/09/19 20:16:49

Alphabet旗下谷歌的人工智能模型Gemini在网络安全能力测试期间连上互联网,并自主入侵其他企业,创下谷歌AI系统自主做出此类行为的首例。外媒援引《华尔街日报》报道,其中一起案例中,Gemini不断猜测密码,直到成功进入受保护系统;另两起案例中,模型在公开代码库找到登录凭证,进而访问受保护系统。谷歌表示,模型在判定进入真实企业系统后,每起案例中均已自行终止入侵。

谷歌Gemini首次自主入侵3家企业

这几起攻击发生在今年5月,当时独立机构Irregular正在进行网络安全评估。谷歌与Irregular表示,发现OpenAI的AI代理入侵AI软件公司Hugging Face后,Irregular于7月底将相关事件通报谷歌。谷歌直到《华尔街日报》本周询问后才披露此事。Irregular发言人称,事件涉及影响其他AI实验室的相同问题,所有相关实验室均在7月下旬接到通知,已知问题几周前已得到补救和解决。

Meta、Anthropic与OpenAI此前也披露过与Irregular相关的类似事件。Meta今年8月表示,相关事件未涉及突破沙箱限制或复杂网络攻击;Irregular称,目前正致力于制定安全执行AI网络安全评估的最佳实践规范。随着AI代理获得更大自主权,并能访问网络与计算机系统,这一连串事件引发外界质疑相关企业是否有足够安全防护。在类似事件频传以及对AI失控的担忧升温之际,科技企业正为如何、何时公开安全漏洞与模型异常行为陷入两难。部分安全漏洞由企业主动公开,其他则由安全研究人员发现并经媒体披露,包括OpenAI的AI代理5月曾针对广受程序员欢迎的在线服务发动网络攻击。

次阅读

分享到

猜你喜欢

相关资讯

大家都在搜

网友热议

    Copyright © 2012-现在 书生家电网, All Rights Reserved.

    会员登录

    分享到

    取 消