端侧AI好不好用，和NPU有很大关系。这次骁龙峰会上，Qualcomm Hexagon NPU引入了Element Accelerator和更大的共享内存系统，让模型状态、上下文信息和KV-cache都存得更靠近加速器。它还支持混合专家模型，每次生成一个词元只需激活约30亿个被路由选中的参数，基于INT4的模型预填充性能最高提升50%。在这套硬件帮助下，手机上的生成式AI会响应更快、更流畅。