- 课程回放
- 手部三维重建的主要思想
- 相机空间中的手部三维重建实现
- 面向移动端的轻量级手部重建方法
- 在快手App中的应用及未来探索
「AI新青年讲座」,聚焦世界顶尖AI研究机构/大学科研新青年的最新研.第一季特邀MIT、牛津、港科大、山大、快手Y-Tech、美团等AI研究机构/大学的八位AI新青年,主讲三维视觉和模型优化部署&TinyML两大领域最新成果。
在1月6日,模型优化部署&TinyML版块第一讲已经完结,美团无人车配送部的算法专家余昌黔,就主题《面向人体姿态估计的轻量级高分辨率网络Lite-HRNet》进行了直播讲解。
3月28日晚7点,快手Y-tech团队算法研究陈星宇将参与到「AI新青年讲座」第一季、三维视觉版块的直播讲解中,这也是三维视觉版块的第一讲。
陈星宇博士毕业于中国科学院自动化研究所,主要研究领域包括了人体三维重建、面向XR的目标感知与虚拟交互,在计算机顶级会议期刊上发表学术论文10余篇。本次讲座中,他将主讲《移动端单目三维重建的实现及应用》。
最近,虚拟人技术在学术界和工业界受到了广泛的关注,其中基于单目RGB图像的3D人体动作捕捉技术正日益成熟。相比于人脸和人体而言,手部动作更加复杂,是人体三维重建的难点。
而针对虚拟交互任务,快手Y-Tech团队的陈星宇等人对手部三维重建进行了研究,称为hand mesh recovery。mesh包含pose和shape两层含义。人体本身是一种很强的先验条件,在这种条件下,2D-to-3D任务是一个十分有价值的研究方向,其核心问题不再是进行某种3D测量,而是建立图像特征与几何形状以及人体运动学之间的关系。同时,由于生活中少有multi-view image或者3D sensor,2D-to-3D任务有较强的应用价值。
因此在CVPR 2021中,他们提出了一种利用语义聚合与多维度配准实现相机空间的手部三维重建的方法camera-space mesh recovery(CMR)。该方法通过探究2D先验对3D mesh 和3D root重建的影响及其原因,尝试设计了更好的2D先验。同时针对高层语义关系对3D任务的先验意义,提出了一种语义聚合方法来探究不同的2D先验对3D mesh重建的作用。最后陈博害在FreiHAND、RHD以及Human3.6M数据及上进行了对比实验,CMR均取了较好的性能。
论文地址:https://arxiv.org/pdf/2103.02845.pdf
开源代码:https://github.com/SeanChenxy/HandMesh
在本次讲座中,陈星宇博士将介绍典型的手部三维重建的思想,并从相机空间中的手部三维重建、移动端的轻量级手部重建两方面重点讲解快手Y-tech团队在移动端轻量化手部三维重建方向的工作,最后也将分享手部三维重建在快手App中的应用及未来探索。
本讲直播包含主讲和问答两个环节,其中主讲40分钟,问答20分钟。同时,我们还组建了学习群,并邀请见着陈星宇博士进群,欢迎大家申请!
