今天晚上,DeepSeek把自家的推理框架DeepInfer整体开源了。大模型、TileLang编译工具、推理算子库之后,轮到中间这层了。(据IT之家) 开源的还有一套deepseek-recipe编解码组件,跟官方API的处理逻辑对齐。社区自己部署,出来的东西和官方接口一个样。 官方说得很直白:模
今天晚上,DeepSeek把自家的推理框架DeepInfer整体开源了。大模型、TileLang编译工具、推理算子库之后,轮到中间这层了。(据IT之家)
开源的还有一套deepseek-recipe编解码组件,跟官方API的处理逻辑对齐。社区自己部署,出来的东西和官方接口一个样。
官方说得很直白:模