铭鸿体育资讯网

OpenAI 放出首款自研推理芯片 Jalapeño 的测试成绩:专为大模型推理

OpenAI 放出首款自研推理芯片 Jalapeño 的测试成绩:专为大模型推理重载设计,新架构同时拉高吞吐、压低延迟,并在多模型测试中效率超越英伟达 GB200、GB300 系统。Altman 在 X 上只留一句“我们造了颗很快的芯片”。需明确的是,Jalapeño 不用于训练下一代 GPT,只优化“模型上线后回答问题”的推理环节——训练解决“学会能力”,推理解决“答得快且省”。(机器之心)