未来AI“越界”风险可能真像科幻电影中的场景那样可怕，超级智能体完全有可能摆脱人类束缚给人类制造出大麻烦。

如果以人类的生命周期作为样本，当下的AI智能体水平恐怕只相当于一两岁的小孩，即便是这样，它居然能够在没有人类给它下达指令的情况下自主决策做出越界行为，OpenAI发生的两起案例正是放缓AI发展过程呼声的根源。

有人把这种情况归咎于眼下的安全防范措施不完善，这的确是重要原因，但有一个根本点让人细思极恐，就是人类赋予了AI能够通过学习后产生决策的能力，那么对它的学习途径以及在学习中所采取的过程措施，人类是否完全能够准确限制和把控是个非常棘手的问题。

换种说法是AI可以自主形成行为决策，人类根本无法对其可能出现的自主行为做到完全控制。正如科幻电影中所描述的那样，当智能体具备高级学习能力和方案制定能力时，就像具备了思维能力，人类敢说到了那个时候可以百分之百保证智能体不出现“翻墙”行为？

可以肯定，在未来进入到AI发展的高级阶段，AI智能体自主行为给人类制造出的大麻烦一定不少。