演讲主题

端侧大模型部署：存储系统面临的挑战和优化实践

未来的手机将是AI手机，端侧大模型的部署是支撑AI手机的关键能力。本次分享，将从存储系统的视角，分析和拆解大模型落地过程中面临的问题和vivo的解决方案。内容包含Linux内核文件系统、内存、Block IO和存储介质的基础能力支撑，以及上层应用结合模型特点、开发难易和资源限制，如何更好的使用系统的能力。最后，谈一下对存储系统未来演进的看法。 大纲： 1.手机为什么要做大模型端侧化 2.大模型部署面临的痛点问题 3.针对上述痛点问题系统的解决方案 4.对未来的存储系统发展的展望