端云协同推理

一种部署策略，轻量级任务由设备端小模型处理以保障隐私和低延迟，复杂任务路由至云端大模型以获得更强算力与知识覆盖。