绑定手机号
获取验证码
确认绑定
提问
0/255
提问
订阅开课提醒需关注服务号
回答成功
知道了
扫码关注智东西公开课服务号登录
请使用微信扫描二维码
扫描二维码分享给微信好友
您已订阅成功,有新课程,我们将第一时间提醒您。
知道了
发送提问成功
回答可在
“我的——我的提问”中查看
知道了
失败
欢迎来智东西
关注我们
智东西
车东西
芯东西
智东西公开课
模型剪枝在2D/3D卷积网络中的研究与应用
模型优化部署讲座 2021/06/29 19:00:00
课程讲师
郭晋阳 悉尼大学在读博士

研究兴趣包括模型压缩与加速,通道剪枝。他曾在CVPR/AAAI/IEEE T-CSVT等会议期刊上发表相关研究成果。

郭晋阳
悉尼大学在读博士

研究兴趣包括模型压缩与加速,通道剪枝。他曾在CVPR/AAAI/IEEE T-CSVT等会议期刊上发表相关研究成果。

课程提纲
  • 模型压缩与加速方法中的通道剪枝
  • 基于分类损失及特征重要性指导的通道剪枝方法
  • 多维度剪枝的模型压缩框架
  • 在2D和3D卷积网络中的应用及效果验证
课程简介

在6月17日和23日的「轻量化网络专题讲座」中,北京航空航天大学软件开发环境国家重点实验室在读博士秦浩桐和慕尼黑大学在读博士顾金东,分别就轻量化网络中的模型量化和知识蒸馏,深度讲解了该领域的研究以及他们最新发表在CVPR 2021上的成果。(错过直播的朋友可以点击文章底部的“阅读原文”观看回放)

当然,模型量化与知识蒸馏只是模型压缩的一种。6月29日晚7点,将由悉尼大学在读博士郭晋阳为大家讲解另一种模型压缩的方法-模型剪枝,讲座的主题为《模型剪枝在2D/3D卷积网络中的研究与应用》。同时本次讲座也是「轻量化网络专题讲座」的最后一讲。

在模型压缩与加速方法中,通道剪枝通常是通过移除深度模型中不重要的通道(channel)来减小计算复杂度以及参数量。然而当前的通道剪枝方法没有考虑到最后损失函数对通道选择的影响,并且有些重建的特征在剪枝下一层时会被移除,导致在当前层中的通道选择指导不准确。

在本次的课程中,郭博将讲解一种基于分类损失以及特征重要性指导的通道剪枝方法,和一种解决空间和时间复杂度的统一的模型压缩框架:多维度剪枝(Multi-DimensionalPruning)。此框架可以同时减少通道、空间、和时间层面的冗余,并且该方法已在多个数据集上达到了最佳的模型压缩效果。

我们的课程将在智东西公开课知识店铺上以视频直播的形式进行,包含主讲和问答两个环节。主讲环节40分钟,问答环节20分钟,每个环节主讲老师都将通过视频直播的形式进行实时讲解与解答。

同时,我们还组建了轻量化网络技术交流群。加入交流群,除了可以免费收看讲座直播进行学习之外,还能与主讲老师,以及更多开发者和科研人员认识和交流。

精彩问答
提问
提问
目前还没有问题,可以点击右侧的“提问按钮”提问
更多问题...