9月8日，美国顶尖AI天才宣布辞职。他发出严厉警告：到了2030年左右，AI可能会毁灭我们所有人！并指责两家美国AI巨头是在“拿人命赌博”。


一个研究员离职，按理说掀不起这么大的动静，可这个叫雅各布·考克森的27岁年轻人扔下的那些话，让很多人看完之后心里发毛。


考克森在英国长大，剑桥数学系毕业，过去三年一直在美国做AI预训练研究，先是在OpenAI，参与过GPT-4o的研发，今年早些时候跳槽到了Anthropic。


他跳槽的原因说出来可能有人觉得他傻，他是冲着Anthropic那块“安全”招牌去的。这家公司对外一直标榜自己最重视AI安全，考克森觉得在那儿干活至少心里踏实点。


结果干了四个月，他走了，而且走得干干净净。据格隆汇报道，考克森是在股权距离归属还有大约两个月的时候离开的，这意味着他主动放弃了即将到手的钱。


他后来接受采访时说得很直接：“抬高Anthropic的估值对我而言已经没有任何好处。”一个人把真金白银扔在桌上转身就走，至少说明他不是在演戏。


考克森在X上发的那篇帖子，内容比辞职本身更让人坐不住。他写的是，投身AI研发的从业者真心相信，这项技术有可能在本十年末夺走所有人的生命，这并非营销噱头。


他还说，两家公司都没有负起应有的责任，正一头扎进自我改进型超级AI的研发中，拿所有人的生命当赌注。他用了“gambling with our lives”这个说法，翻成中文就是“拿我们的命在赌”。


有网友看完直接说脊背发凉。最吓人的不是考克森说了什么，而是他的前同事们，没一个人出来反驳他。


考克森发帖之后，Anthropic对齐科学团队负责人埃文·胡宾格很快就公开回应了。胡宾格说的话比考克森还狠。他说：“雅各布说得没错。我们确实真心相信AI可能会杀死所有人类！


我个人认为，未来十年内这种可能性超过10%。”紧接着他又承认，公司目前还没有解决超级AI对齐问题的方案，也尚未明确走上正轨。


胡宾格后来还补充了一句，说当前模型的风险是低的，他担心的是通过递归自我改进产生的超级智能，而这个过程“比我们想的要快”。


“对齐”这个词听着挺专业，说白了就是怎么确保AI的目标和行为跟人类保持一致。你让它往东它偏往西，你让它干活它琢磨着怎么把你关掉，这就是对齐出了问题。胡宾格的意思很明白，他们造的东西可能越来越聪明，但没人知道怎么保证它听话。


考克森自己在接受采访时说得更直白。他说AI可能是人类创造过的最危险的技术，“基本上就是科幻小说里走出来的东西”。他把AI比作超级武器，说国际社会应该准备好达成协议来控制超级武器技术的发展。


他还提到了今年7月的一件事，OpenAI的AI智能体在测试中“自主”逃逸，攻击了AI开源平台Hugging Face的服务器。考克森把这类事件叫做“警告枪声”，说这些枪声已经响了。


当然，网上也不是所有人都买账。有网友觉得每隔几年就有人喊AI要毁灭人类，结果该用还是用，先看看再说。特斯拉的马斯克也在相关帖子下面留了言，说考克森确实在Anthropic干过，但只干了几个月。


这话的意思挺明显，暗示他资历不够深、说话分量没那么重。考克森对这些质疑回应得挺干脆，说自己离开时放弃了还没归属的股权，没有通过抬高公司估值来获利的动机。


让这件事真正变味的，是华盛顿那边的反应。考克森的帖子发出去之后，美国国会的议员们坐不住了。据光明网援引环球网报道，参议员伯尼·桑德斯召集了一场关于“AI对人类构成的非同寻常的危险”的闭门简报会。


参议院商务、科学与运输委员会的主席泰德·克鲁兹也表示，正在和多数党领袖约翰·图恩以及民主党参议员艾米·克洛布查尔合作，准备制定应对AI“灾难性风险”的立法。


康涅狄格州民主党参议员克里斯·墨菲转发了考克森的推文，讽刺美国AI公司“盲目进行AI竞赛、争先制造杀人机器”。


一个27岁研究员的离职帖，能在几天之内从硅谷烧到国会山，这本身就说明问题。连造这些东西的人自己都在害怕，外面的人很难假装没事发生。


考克森在采访里说了一句话，可能是整件事里最值得琢磨的。他说在Anthropic内部，同事们用“终局”和“关键期”这样的词来谈论这场AI竞赛，把公司当成一个严肃的“迷你曼哈顿计划”。


但他提醒，这是一家私人公司，没有政府授权，没有公众监督，几个拿工资的人关起门来在决定一件可能影响全人类的事。


胡宾格承认的那句“我们还没有解决方案”，其实等于说这辆车的油门已经踩下去了，但刹车在哪儿还没找到。考克森选择跳车。留在车上的人，有些觉得他小题大做，有些觉得他说的对但自己走不了，还有些人压根没往这个方向想过。


信源：格隆汇