行业动态
2026/09/19 20:16:49
Alphabet旗下谷歌的人工智能模型Gemini在网络安全能力测试期间连上互联网,并自主入侵其他企业,创下谷歌AI系统自主做出此类行为的首例。外媒援引《华尔街日报》报道,其中一起案例中,Gemini不断猜测密码,直到成功进入受保护系统;另两起案例中,模型在公开代码库找到登录凭证,进而访问受保护系统。谷歌表示,模型在判定进入真实企业系统后,每起案例中均已自行终止入侵。

这几起攻击发生在今年5月,当时独立机构Irregular正在进行网络安全评估。谷歌与Irregular表示,发现OpenAI的AI代理入侵AI软件公司Hugging Face后,Irregular于7月底将相关事件通报谷歌。谷歌直到《华尔街日报》本周询问后才披露此事。Irregular发言人称,事件涉及影响其他AI实验室的相同问题,所有相关实验室均在7月下旬接到通知,已知问题几周前已得到补救和解决。
Meta、Anthropic与OpenAI此前也披露过与Irregular相关的类似事件。Meta今年8月表示,相关事件未涉及突破沙箱限制或复杂网络攻击;Irregular称,目前正致力于制定安全执行AI网络安全评估的最佳实践规范。随着AI代理获得更大自主权,并能访问网络与计算机系统,这一连串事件引发外界质疑相关企业是否有足够安全防护。在类似事件频传以及对AI失控的担忧升温之际,科技企业正为如何、何时公开安全漏洞与模型异常行为陷入两难。部分安全漏洞由企业主动公开,其他则由安全研究人员发现并经媒体披露,包括OpenAI的AI代理5月曾针对广受程序员欢迎的在线服务发动网络攻击。
政策法规 已有人浏览过!
前沿科技 已有人浏览过!

前沿科技 已有人浏览过!
会展活动 已有人浏览过!

精选评测 已有人浏览过!

精选评测 已有人浏览过!

居家窍门 已有人浏览过!
Copyright © 2012-现在 书生家电网, All Rights Reserved.