张银奎

格蠹 Xedge.ai 创始人,知名系统内核专家

格蠹科技(Xedge.ai)创始人,专注AI边缘计算。资深软硬件架构师,拥有13年 Intel 工作经历,10年 GPU 深度优化技术积累。对机器学习、操作系统内核、驱动程序、虚拟化技术、软件调优有深入研究。毕业于上海交通大学,著有《软件调试》、《格蠹汇编》。

演讲主题

深度神经网络推理的深度优化实践

围绕深度优化深度神经网络推理过程这个主题,本演讲将介绍开发一个专门用于边缘端的DNN推理引擎的实践,分享缩短模型加载时间、提高推理速度、降低内存开销、平衡大小核等的方法。