网页链接徐高论文的精辟的提要：2022年11月OpenAI推出了生成式对话人工智能系统ChatGPT，在全世界掀起了一波持续至今的AI热潮。ChatGPT所基于的“大语言模型”技术，首次让AI系统涌现出了泛化智能。这个“奇迹”的发生，让世界对通用人工智能AGI的实现抱有很强期待。

AGI的实现并不容易。过去的人工智能系统都是狭义人工智能ANI，追求在特定领域内尽可能好地完成给定的目标（如下围棋的AlphaGo）。这可以通过计算机的搜索试错来实现。人们所憧憬的通用人工智能AGI，则需要在泛化的复杂场景中恰当行事。但在这样的复杂场景中，并不存在一个指引计算机搜索方向的明确任务目标，计算机没法搜索试错。从ANI到AGI，AI技术需要从“工具理性”走向“价值理性”。AI要获得恰当的“价值理性”，只能通过“模仿人”来向人的价值理性对齐。

大语言模型作为一个学人说话的AI系统，把模仿人这件事情做得不错。因而能够超过之前的ANI系统，展现出泛化智能。但大模型本质上只是一个用人类语言的统计规律来预测字词的预测函数。在“因果阶梯”中，大模型只处在第一层，只能观察到数据中的相关性，但没法识别相关性背后的因果关系，更没法像处在因果阶梯第三层的人类那样，拥有反事实想象的能力。这意味着大模型没法拥有人类所拥有的创造力。在这一技术路线上，AGI、技术奇点这样的乐观预期难以变成现实。

在下一个“奇迹”到来之前，AI将仍以大模型作为主流技术路线，发展可能呈现“内缓、外速”的局面。所谓“内缓”，说的是大模型本身的性能提升速度将逐步放缓。这是因为大模型技术符合“缩放定律”，在投入更多资源来扩大模型规模，虽能提升模型性能，但投入的边际回报率会快速递减。而所谓“外速”，说的是用大模型来作“大脑”，调用各种工具来完成任务的“智能体”（Agent）之应用会快速发展。

AI大模型虽然难以达到人类的智能水平，并不会如乐观者设想的那样带来“惊人富足”的社会，但足以让社会生产力大幅提升。不过，AI在提升社会生产力的同时，可能恶化社会收入分配状况，引发社会问题，进而阻碍经济发展。面对AI带来的收入分配问题，社会需要采取某种“共产主义”措施来将AI红利分配给广大人民。AI时代的经济社会究竟会走向何方，取决于经济和社会结构能否因应AI技术的推广而做出妥善调整。

出于四方面原因，当前部分AI公司的股价中有泡沫成分：（1）对于AI的过于乐观的预期（通用人工智能AGI与超级人工智能ASI），难以在大模型这一当前主流AI技术路线下实现；（2）将近些年“涌现奇迹”带来的快速发展势头做线性外推，会高估未来更长期AI的发展速度；（3）AI带来的生产力提升并不会全数转化为AI的盈利，收入分配问题将限制AI所能获得的回报；（4）面对AI这么一场具有颠覆性的技术变革，相关企业的投资会理性地过度，形成一种“理性泡沫”。面对中国开源大模型带来的竞争压力，美国大量投资形成的算力优势并不能让其大模型获取垄断地位，也无法让美国AI公司获取垄断收益。这让美股中的AI泡沫更为明显。