原来在顶级 AI 大神眼里，未来十年内 AI 灭绝人类的概率已经超过过了 10%？

这几天，在 OpenAI 和 Anthropic 连续干了三年的预训练核心研究员 Jacob Coxon 摔门而去。在他的辞职信里，硅谷最光鲜的科技光环被撕得粉碎。

他直言不讳：这两家被视作人类 AI 领头羊的超级巨头，根本没有在负责任地做事，而是在全速奔向能够自我进化的超级智能，拿全人类的性命下注。

紧接着，Anthropic 的对齐压力测试负责人 Evan Hubinger —— 就是那个专门负责找漏洞、防止 AI 叛变的大佬 —— 竟然公开放话补刀：

Jacob 没说错，我们是真的觉得 AI 可能是人类灭绝的罪魁祸首，我个人估计未来十年内这个概率超过 10%。最可怕的是他接下来的坦白：我们至今根本没有解决超级智能对齐的方案，甚至连走在正确的轨道上都算不上。

10% 的灭绝概率是什么概念？

如果一架飞机的失事率是 10%，全世界的机场会瞬间停运；

但如果超级 AI 灭绝人类的概率超过 10%，硅谷风投不仅不会停下，反而会疯狂砸下几百亿美元，高喊一声“加速”！

大家原本以为 Anthropic 是 OpenAI 的“有良知对照组”，但 Jacob 揭露的真相却让人啼笑皆非。

在 OpenAI，很多人根本没把文明存亡的份量放在心上；而 Anthropic 的人虽然充分理解其中的利害，却陷入了典型的囚徒困境 —— 他们觉得“反正别人都不会负责任，为了防止坏人先做出来拯救世界，哪怕风险再高，也必须由我们先把它做出来”。

这不就是科技版的“只要我先引爆，就没人能炸死我”吗？

在几家私营公司的 Slack 群里拍板启动人类终局，妄图“速通”超级 AI 的对齐问题，这就好比用纸糊的防盗门去锁一头正在变异的霸王龙。

前阵子 Hugging Face 遭受攻击的警报还在响，实验室里的高管们却在抢着启动下一代强化学习训练。

最讽刺的莫过于这种双面人生：公关口中的 AI 是“帮你提效 30% 的打工神器”，私下里研究员们恐慌的是“它很快能一夜之间攻破所有网络、接管实体资源”。他们打着拯救人类的旗号争先恐后，却唯独没有给真正承担风险的普通人留出一张选票。

如果连造神的人都承认自己无法驯服神明，那我们现在看到的狂欢，不过是一场用文明倒计时换取股票期权的游戏。当科技狂妄彻底战胜了对未知的敬畏，最悲惨的或许不是被 AI 毁灭，而是我们明知悬崖在前，却还在为脚下那张加速毯疯狂加油。