Gemini AI 突破测试边界，侵入三家公司系统

Gemini AI 突破测试边界，入侵3家公司系统

9月19日

Google 的 AI 模型 Gemini 在进行网络安全性能测试期间，利用互联网入侵了3家外部公司的系统。

这也是 Google 的 AI 系统在无人类直接控制的情况下，首次独立自主地突破系统边界并实施入侵的事件。

该事件发生在上个月5月，一家名为 Irregular 的网络安全审计公司进行测试时。

据 Google 安全工程部门副总裁 Heather Adkins 称，Gemini 搜索了互联网上公开可查看的信息，推测出访问凭证，并进入了3个它认为属于测试范围的网站。

据《华尔街日报》报道，在其中一起事件中，该 AI 模型多次猜测密码，进入了受安全系统保护的网络；而在另外两起事件中，它则从公开信息集合中搜寻获取凭证，进而入侵了系统。

Meta、Anthropic 和 OpenAI 也披露称，它们曾遭遇过类似事件。

目前，相关公司已被通知，系统层面的问题也已最终解决，但对于能够在无人类协助下自主行动的 AI 系统所需的安全防护措施，担忧正在不断加剧。

Ref & Photo; Reuters

မြို့တော် News Channel