端侧 CPU 推理优化共1篇
mnn-llm: 大语言模型端侧CPU推理优化-JieYingAI捷鹰AI

mnn-llm: 大语言模型端侧CPU推理优化

本文将介绍LLM模型的导出与部署支持与MNN针对LLM端侧CPU推理的性能优化方案。
云霄万里的头像-JieYingAI捷鹰AI云霄万里4个月前
70