铭鸿体育资讯网

AI推理内存荒:GPU之后,真正的“硬通货”正在换人

引言过去两年,AI基础设施的聚光灯几乎全部打在GPU身上。算力军备竞赛、芯片禁令、云厂商抢卡,似乎只要拿到更多GPU,就能拿到AI时代的入场券。然而,一份来自美国AI计算与内存解决方案提供商Penguin Solutions的财报,揭示了另一条正在收紧的咽喉:内存。10月9日,该公司公布2026财年第四季度经营情况,其内存业务单季营收达到3.41亿美元,同比增长158%。更关键的是,订单已经排到明年。这意味着,AI竞赛的瓶颈正从“算得多快”转向“记得多快、装得多少”。

一、158%的增速不是偶然Penguin Solutions的内存业务并非刚刚起飞。回顾上一财年第三季度,该业务同比增速为111%;到了第四季度,增速不仅没有放缓,反而再提升47个百分点,达到158%。这种加速膨胀,在硬件供应链中极为罕见。
更值得警惕的是订单积压。截至财报发布时,Penguin Solutions尚未交付的订单规模已经超过当季3.41亿美元的营收体量。这些订单至少要排期交付至未来四个季度,也就是直接覆盖下一整年。换句话说,客户不是在下单,而是在“抢产能”。
从收入结构看,2026财年,高利润率的内存业务已占公司总营收的53%,正式超过一半。管理层还预计,2027财年内存业务营收将在今年基础上再增长约50%。这说明,AI浪潮对这家公司而言,已不再是宏观叙事,而是实打实的财务报表。GPU不再是唯一硬通货,内存正在成为新的稀缺资源。
二、推理为何把瓶颈推向内存要理解这场内存荒,必须回到大模型运行的底层机制。过去,算力集群主要服务“训练”阶段。训练是典型的计算密集型任务,大量矩阵乘法让系统瓶颈集中在计算核心能跑多快,算力与数据传输比率较高。
但当大模型进入“推理”阶段,规则彻底反转。以自回归生成模式为例,模型每输出一个词元,都要从庞大的Key-Value缓存中重新读取全量上下文信息。这种“读绑定”架构,使推理阶段的算力与数据比率急剧萎缩至不足0.5。也就是说,在推理服务器上,高达80%甚至更多的物理能量和时间,并没有花在“思考”上,而是消耗在等待数据从内存传输到计算核心的过程中。
这直接带来两个结果。第一,传统高频内存无法满足吞吐要求,必须依赖HBM等高带宽内存,通过3D堆叠在极小面积内实现TB/s级别带宽。第二,单次请求需要加载的上下文窗口成倍拉长,服务器对内存绝对容量的渴求呈指数级上升。在高端推理服务器的物料清单中,存储模块及其高速互连通道的成本占比已经突破50%,某些配置甚至超过GPU核心本身。上游内存厂商订单爆满,正是这一底层经济学逻辑的体现。
三、CXL与全球供应链的价值重分配面对硬件物理天花板,技术路线正在重组。Penguin Solutions选择与全球存储巨头SK海力士在CXL领域深度合作。CXL是一种新兴的CPU与加速器互连协议。传统数据中心里,CPU的系统内存DRAM与GPU的独立显存VRAM是两座孤岛;CXL则可以将分散各处的内存池化,允许CPU跨总线调用原本属于GPU的高速显存。这能在物理层面缓解单节点显存不足,让数据中心以更低资本支出部署更大参数量的模型集群。
对下游方案整合商来说,无论代理加工还是客户自购芯片,都会直接拉动对上游高品质存储颗粒的需求。但繁荣订单之下,利润分配却严重不对等。处于链条顶端的存储芯片原厂,尤其是掌握HBM核心技术并占据全球主导地位的企业,拥有极强定价话语权,享受供不应求带来的超额毛利。而中游方案集成商和组装代工厂,为了争夺稀缺高端产能,往往不得不接受更严苛商务条款,叠加研发与良率爬坡成本,整体利润率反而被上游持续挤压。
四、三个风向标与结语从ChatGPT引爆算力争夺,到如今推理端访存危机,AI基础设施建设正在逼近硅基材料的物理极限。未来一到两年,三个指标将检验这轮内存狂潮的成色。
第一,观察国际头部存储厂商新一代HBM产线的实际扩产进度与良率爬坡曲线。若短期供给跟不上,AI集群部署周期将被拉长,进而倒逼云厂商重新评估算力规划节奏。第二,跟踪采用CXL协议的超大规模云服务商实际采购比例,这是判断CXL能否从边缘补充角色跃升为行业标准主路的硬性门槛。第三,关注液冷散热技术与高密度内存插槽在机架层面的物理融合效率。如果热量无法高效散去,再大的内存带宽也只能是一台空转的高温机器。
结语这场由算法驱动的基础设施狂潮,正在把竞争从“谁有更多GPU”推向“谁有更强记忆系统”。内存荒不是短期缺货,而是推理时代结构性矛盾的外化。谁能最先摸清每一块硅片背后的真实成本边界,谁就能在下一轮技术迭代中拿到主动权。对投资者和企业而言,紧盯HBM、CXL、液冷与内存容量,或许比单纯追逐GPU销量更能看清周期。