绑定手机号
获取验证码
确认绑定
提问
0/255
提问
订阅开课提醒需关注服务号
回答成功
知道了
扫码关注智猩猩服务号登录
请使用微信扫描二维码
扫描二维码分享给微信好友
您已订阅成功,有新课程,我们将第一时间提醒您。
知道了
发送提问成功
回答可在
“我的——我的提问”中查看
知道了
失败
欢迎来智东西
关注我们
智东西
车东西
芯东西
智猩猩
移动端单目三维重建的实现及应用
智猩猩AI新青年讲座 2022/02/28 19:00:00
课程讲师
陈星宇 小冰公司 算法研究员

2020年毕业于中国科学院自动化研究所,现任,研究方向为3D human representation。在CVPR、IJRR等视觉/机器人领域刊物上发表论文20余篇。

陈星宇
小冰公司 算法研究员

2020年毕业于中国科学院自动化研究所,现任,研究方向为3D human representation。在CVPR、IJRR等视觉/机器人领域刊物上发表论文20余篇。

课程提纲
  • 手部三维重建的主要思想
  • 相机空间中的手部三维重建实现
  • 面向移动端的轻量级手部重建方法
  • 在快手App中的应用及未来探索
课程简介

「AI新青年讲座」,聚焦世界顶尖AI研究机构/大学科研新青年的最新研.第一季特邀MIT、牛津、港科大、山大、快手Y-Tech、美团等AI研究机构/大学的八位AI新青年,主讲三维视觉和模型优化部署&TinyML两大领域最新成果。

在1月6日,模型优化部署&TinyML版块第一讲已经完结,美团无人车配送部的算法专家余昌黔,就主题《面向人体姿态估计的轻量级高分辨率网络Lite-HRNet》进行了直播讲解。

3月28日晚7点,快手Y-tech团队算法研究陈星宇将参与到「AI新青年讲座」第一季、三维视觉版块的直播讲解中,这也是三维视觉版块的第一讲。

陈星宇博士毕业于中国科学院自动化研究所,主要研究领域包括了人体三维重建、面向XR的目标感知与虚拟交互,在计算机顶级会议期刊上发表学术论文10余篇。本次讲座中,他将主讲《移动端单目三维重建的实现及应用》。

最近,虚拟人技术在学术界和工业界受到了广泛的关注,其中基于单目RGB图像的3D人体动作捕捉技术正日益成熟。相比于人脸和人体而言,手部动作更加复杂,是人体三维重建的难点。

而针对虚拟交互任务,快手Y-Tech团队的陈星宇等人对手部三维重建进行了研究,称为hand mesh recovery。mesh包含pose和shape两层含义。人体本身是一种很强的先验条件,在这种条件下,2D-to-3D任务是一个十分有价值的研究方向,其核心问题不再是进行某种3D测量,而是建立图像特征与几何形状以及人体运动学之间的关系。同时,由于生活中少有multi-view image或者3D sensor,2D-to-3D任务有较强的应用价值。

因此在CVPR 2021中,他们提出了一种利用语义聚合与多维度配准实现相机空间的手部三维重建的方法camera-space mesh recovery(CMR)。该方法通过探究2D先验对3D mesh 和3D root重建的影响及其原因,尝试设计了更好的2D先验。同时针对高层语义关系对3D任务的先验意义,提出了一种语义聚合方法来探究不同的2D先验对3D mesh重建的作用。最后陈博害在FreiHAND、RHD以及Human3.6M数据及上进行了对比实验,CMR均取了较好的性能。

论文地址:https://arxiv.org/pdf/2103.02845.pdf

开源代码:https://github.com/SeanChenxy/HandMesh

在本次讲座中,陈星宇博士将介绍典型的手部三维重建的思想,并从相机空间中的手部三维重建、移动端的轻量级手部重建两方面重点讲解快手Y-tech团队在移动端轻量化手部三维重建方向的工作,最后也将分享手部三维重建在快手App中的应用及未来探索。

本讲直播包含主讲和问答两个环节,其中主讲40分钟,问答20分钟。同时,我们还组建了学习群,并邀请见着陈星宇博士进群,欢迎大家申请!

精彩问答
提问
提问
目前还没有问题,可以点击右侧的“提问按钮”提问
更多问题...