AI灭绝人类概率超10% 说这话的人不是科幻作家，不是末日论者。是Anthropic在职的对齐科学主管Evan Hubinger——全球最顶尖AI实验室里，专门负责让AI“听话”的那个人。

他的原话是：“我们确实真切地相信AI有可能杀死所有人类！我个人认为，未来十年内发生这种情况的概率大于10%。 ”

更恐怖的是他紧接着的那句话：“针对超级智能，我们目前根本没有解决安全对齐的方案，而且显然也没有步入能够解决的正轨。”

这话从一个造模型的人嘴里说出来，分量完全不一样。造炸弹的人告诉你炸弹会炸，和旁观者喊危险，是两回事。

事件的导火索，是27岁的研究员Jacob Coxon前一天刚辞职，公开警告Anthropic和OpenAI正在“拿我们的生命赌博”，竞相开发能够自我改进的超级智能，最快明年底局面就可能失控。

而Hubinger没有公关，没有辟谣。他直接站出来说：他说得对。

微博上这个话题阅读量已经冲到10.9万，界面新闻等5家媒体跟进。大家真正被震住的点不在于“10%”这个数字本身——AI教父Hinton早就说过10%到20%。真正让人后背发凉的是：说这话的人，正在造那个东西。

你在民航和核电站干过就知道，任何单一技术如果“导致物种灭绝的概率超过10%”，在航空领域是绝对不允许上线的。客机坠毁的容忍概率被严格限制在千万分之一以内。

但AI行业的容忍概率是——十分之一。而且还在加速。

为什么不停？因为Anthropic正在筹备规模空前的IPO，估值向千亿美元逼近。支撑这个估值的唯一逻辑，是证明自己比OpenAI和谷歌跑得更快。安全研发从“立身之本”变成了“绊脚石”。

Hubinger的坦白，本质上是技术理想主义被资本碾压后的一声悲鸣。但他还是把话说了出来——因为一个明知有十分之一概率毁灭人类、却依然踩着油门往前冲的行业，至少应该让车上的人知道，司机自己都在害怕。