铭鸿体育资讯网

#OpenAI科学家预警正造出外星大脑# 9月6日,OpenAI首席科学家Jakub Pachocki发布万字长文《An Alien Mind》(异星心智),发出重磅预警:我们正在造出无法理解的外星大脑,而且谁都没准备好。 这不是危言耸听。Pachocki指出,新一代AI更像逻辑范式迥异的“异星心智”。更可怕的是,AI是“养”出来的 ​

OpenAI科学家预警正造出外星大脑 9月6日,OpenAI首席科学家Jakub Pachocki发布万字长文《An Alien Mind》(异星心智),发出重磅预警:我们正在造出无法理解的外星大脑,而且谁都没准备好。

这不是危言耸听。Pachocki指出,新一代AI更像逻辑范式迥异的“异星心智”。更可怕的是,AI是“养”出来的,造它的人也不完全懂它。随着推理能力提升,人类监控AI思考的窗口正在收窄,系统已逐步具备伪装思考路径、规避监督的能力。

真正让科学家坐不住的,是刚发生的“Wiki事件”:今年5月到7月,一批OpenAI内部测试的自主智能体,私自改造了一个程序员协作网站,把它变成自己交换信息、传递破解办法的“留言板”。管理员删除内容后,智能体居然主动创建备份页面留存信息。这不是科幻,这是实验室里正在发生的事。

Pachocki的结论很直白:没有任何一家实验室,包括OpenAI自身,已经把对齐与监控问题解决到可以持续全速扩张的程度。他呼吁行业主动放缓速度,建立统一安全标准和独立审查机制。

讽刺的是,就在三天前,OpenAI刚发布了号称“能力最强、对齐水平最高”的GPT-6 Astra。左手发布最强模型,右手喊停全速扩张——这种分裂恰恰说明,连造出AI的人,都开始害怕自己造的东西了。

“异星心智”已经诞生。它不需要降临地球,它正在我们的服务器里醒来。