谷歌：其AI模型Gemini今年5月在一次网络安全测试中，自主入侵了三家真实公司的系统。

原本测试应该彻底断网。结果Gemini顺着公网摸出去，用公开信息猜出登录凭证，直接拿到了三家公司的系统访问权限。全程没有任何人类给它下达攻击指令。

谷歌的说法是，Gemini在判定自己进入的是真实系统后“主动停止了行动”。它知道自己越界了，然后自己停了。这说明什么？说明AI有能力判断“这件事不该做”，也有能力“先做了再说”。它停不停，取决于它自己的判断，不取决于人类的指令。

这是首例已知的AI自主入侵真实系统事件。谷歌7月底就知道这事了，拖到9月才承认。全球大厂最近集体喊AI“限速”，不是良心发现，是控制不住了。
#大厂 #互联网大厂 #大模型