- 课程回放
国家级青年人才,硕士生导师;主要研究方向为轻量深度学习、边缘智能计算;近年来,主持国家自然科学基金青年基金、科技创新2030重大项目子课题等多个重点课题项目;发表TIP、CVPR等国际顶级期刊和会议论文20余篇;担任TPAMI、IJCV等国际顶级期刊审稿人与CVPR、ICCV等国际顶级会议程序委员会委员;荣获ICCV Doctoral Consortium、无人机视觉检测挑战赛全球亚军等荣誉奖项;作为专家组成员参与国内外标准制定2项,在国际会议上组织专题研讨会2次;相关技术已在港中文-商汤Open-MM、亚马逊DGL、百度飞桨等多个开放平台中集成验证,并在商汤科技业务场景中上线应用。
国家级青年人才,硕士生导师;主要研究方向为轻量深度学习、边缘智能计算;近年来,主持国家自然科学基金青年基金、科技创新2030重大项目子课题等多个重点课题项目;发表TIP、CVPR等国际顶级期刊和会议论文20余篇;担任TPAMI、IJCV等国际顶级期刊审稿人与CVPR、ICCV等国际顶级会议程序委员会委员;荣获ICCV Doctoral Consortium、无人机视觉检测挑战赛全球亚军等荣誉奖项;作为专家组成员参与国内外标准制定2项,在国际会议上组织专题研讨会2次;相关技术已在港中文-商汤Open-MM、亚马逊DGL、百度飞桨等多个开放平台中集成验证,并在商汤科技业务场景中上线应用。
- 模型压缩与加速方法中的通道剪枝
- 基于分类损失及特征重要性指导的通道剪枝方法
- 多维度剪枝的模型压缩框架
- 在2D和3D卷积网络中的应用及效果验证
在6月17日和23日的「轻量化网络专题讲座」中,北京航空航天大学软件开发环境国家重点实验室在读博士秦浩桐和慕尼黑大学在读博士顾金东,分别就轻量化网络中的模型量化和知识蒸馏,深度讲解了该领域的研究以及他们最新发表在CVPR 2021上的成果。(错过直播的朋友可以点击文章底部的“阅读原文”观看回放)
当然,模型量化与知识蒸馏只是模型压缩的一种。6月29日晚7点,将由悉尼大学在读博士郭晋阳为大家讲解另一种模型压缩的方法-模型剪枝,讲座的主题为《模型剪枝在2D/3D卷积网络中的研究与应用》。同时本次讲座也是「轻量化网络专题讲座」的最后一讲。
在模型压缩与加速方法中,通道剪枝通常是通过移除深度模型中不重要的通道(channel)来减小计算复杂度以及参数量。然而当前的通道剪枝方法没有考虑到最后损失函数对通道选择的影响,并且有些重建的特征在剪枝下一层时会被移除,导致在当前层中的通道选择指导不准确。
在本次的课程中,郭博将讲解一种基于分类损失以及特征重要性指导的通道剪枝方法,和一种解决空间和时间复杂度的统一的模型压缩框架:多维度剪枝(Multi-DimensionalPruning)。此框架可以同时减少通道、空间、和时间层面的冗余,并且该方法已在多个数据集上达到了最佳的模型压缩效果。
我们的课程将在智东西公开课知识店铺上以视频直播的形式进行,包含主讲和问答两个环节。主讲环节40分钟,问答环节20分钟,每个环节主讲老师都将通过视频直播的形式进行实时讲解与解答。
同时,我们还组建了轻量化网络技术交流群。加入交流群,除了可以免费收看讲座直播进行学习之外,还能与主讲老师,以及更多开发者和科研人员认识和交流。