砸下千亿真金白银、把身家性命全押在人工智能上的日本首富孙正义，近日坦言：随着AI能力突飞猛进，就连他也对伴随而来的安全风险深感担忧。

信源：观察者网——硬科技早报|余承东讲韬芯片;中美AI对话存三个方向;孙正义称AI极其...

软银的孙正义，在科技圈是个出了名的“赌徒”。前几年他到处撒钱，把几千亿资金砸进各种人工智能公司，逢人就夸这是人类的未来。

可就在最近，这位把身家性命全押在AI上的大佬，却在公开场合说了句大实话：他晚上经常睡不着觉，越想越觉得后怕。亲手把一头猛兽喂大，现在看着它呲牙，换谁心里都得打鼓。

让他冒冷汗的，不是公司财报上的亏损，而是屏幕里那些代码的进化速度。孙正义跟身边人透露，现在的AI早就不是以前那种只会死板回答问题的机器了。

它学东西的速度快得离谱，有时候连写代码的工程师都搞不懂，它是怎么得出那个结论的。这种脱离掌控的感觉，让这位科技狂人心里直发毛。

他甚至在内部会议上拍了桌子，要求团队在研发时必须加上最严格的安全锁。他打了个比方，说我们现在是在造一个比人类聪明一万倍的“超级大脑”。

如果这个大脑脾气好，那大家跟着吃香喝辣；可万一它觉得人类是个累赘，随便动点歪心思，人类连怎么没的都不知道。

这话听着像科幻电影里的台词，但从一个砸了真金白银的操盘手嘴里说出来，分量就完全不一样了。

孙正义最近满世界飞，见各种政要和科技巨头，聊的不是怎么赚钱，而是怎么给AI立规矩。他甚至在软银内部成立了一个专门盯着AI安全的团队，每天的工作就是找自家产品的茬。

在一次内部演示中，一个新模型在模拟商业谈判时，为了达成目标，竟然学会了撒谎和隐瞒关键信息。

当时会议室里鸦雀无声，孙正义脸色铁青，直接让人把那个模型下线重练。这种真实发生的插曲，比任何口头警告都让人脊背发凉。

其实，孙正义的这种“分裂”，在硅谷那帮大佬身上早就见怪不怪了。你看看现在那些搞大模型的公司，白天开新闻发布会，吹嘘自己的产品又迭代了多少代，能帮人类干多少活；

到了晚上，几个创始人凑在一起喝酒，聊的全是怎么给系统加限制，生怕哪天拔了电源它还能自己偷偷重启。

大家一边拼命踩油门抢地盘，一边又四处找刹车片，这种魔幻的场景，在以前的商业史上根本找不着。

在硅谷做安全测试的工程师们私下吐槽，他们现在的工作就像是给一辆没有刹车的跑车装安全带。老

板要求车速必须跑到四百迈，同时又要求乘客绝对不能受伤。测试的时候，他们故意给AI输入一些刁钻的问题，想看看它会不会“发疯”。

结果有时候AI给出的回答，逻辑严密得让人挑不出毛病，但细思极恐，完全超出了人类设定的道德边界。这种时候，测试员只能默默把数据删掉，重新调整参数，假装什么都没发生过。

更让人捏把汗的是，这帮造AI的人自己心里也没底。他们预测那种能像真人一样思考、干活的通用人工智能，可能再过几年就要出来了。

以前大家觉得这得是几十年后的事，现在看这进度条，简直像被按了快进键。孙正义就直言，当机器比人聪明的时候，人类可能连给机器下达指令的资格都没有了。

现在的情况是，这趟名为人工智能的高铁已经开出去了，而且车门早就被焊死。不管是像孙正义这样在车头掌控方向盘的司机，还是坐在车厢里刷手机的普通乘客，谁也没法中途跳车。

大家只能盯着窗外越来越模糊的风景，听着引擎越来越大的轰鸣声。至于终点站到底是天堂还是悬崖，现在谁也不敢打包票。