400多MB的翻译模型跑在国产卡上，国产DCU的适配速度有点出乎意料。
刚刚，海光DCU又完成了对腾讯混元Hy-MT2翻译模型的适配，仔细看，这次有两个不太一样的点。
第一，Hy-MT2主打的是轻量化。1.8B版本量化后只有440MB，能在手机上跑本地推理，推理速度比前代快1.5倍。这种模型的价值不在于参数多猛，而在于能落地——翻译APP、智能耳机、车载助手，这些场景才是真正的用户触点。
第二，海光这边依托的DAS/DTK软件栈，已经集成了vLLM、SGLang这些主流推理框架。这意味着开发者不需要做底层适配，拿到卡就能跑。其实去年海光就已经适配了混元Hy3 preview、智谱、商汤等一系列大模型，从“大而全”到“小而精”，海光的生态覆盖正在补全最后一块拼图。
对于企业来说，这有两个直接的好处。首先是成本——不用再长期购买商业翻译API，尤其是高频调用场景，省下来的钱非常可观。其次是灵活性——模型可以部署在端侧，既保护用户隐私，又不受网络环境影响
我的判断是：国产算力正在从一个“备选项”变成一个“可选项”，而像Hy-MT2这样的轻量化模型，恰恰是加速这一进程的催化剂。当硬件厂商和模型厂商都把“好用”摆在第一位时，生态才真正成熟。