近日，据The Information报道，字节跳动创始人张一鸣在内部交流中谈及AI大模型研发方向。他表示，模型研发需要坚持长期主义，公司愿意为了长期目标牺牲部分短期利益，不会依靠蒸馏技术获取短期优势。

“蒸馏”技术（Knowledge Distillation），就是让小模型向大模型“学习”。开发者利用大模型生成的结果作为参考，训练自己的模型，让小模型以更低成本获得接近大模型的部分能力。

据悉，字节跳动内部已加强对开源模型蒸馏行为的管理，并通过API检测等方式进行限制。张一鸣认为，蒸馏会干扰真正意义上的长期技术突破。