绑定手机号
获取验证码
确认绑定
提问
0/255
提问
订阅开课提醒需关注服务号
×
首页
直播
合辑
专场
智东西
回答成功
知道了
扫码关注智东西公开课服务号登录
请使用微信扫描二维码
扫描二维码分享给微信好友
您已订阅成功,有新课程,我们将第一时间提醒您。
知道了
发送提问成功
回答可在
“我的——我的提问”中查看
知道了
失败
欢迎来智东西
登录
免费注册
关注我们
智东西
车东西
芯东西
智东西公开课
智东西
车东西
芯东西
公开课
公开课官网
公开课小程序
GTIC/GACS
预告
合辑
专场
下载
提问
|
回答
提问
分享到:
问题出自:
利用GPU虚拟化技术搭建易用可扩展的深度学习环境
满足同样的需求,GPU虚拟化方案和使用物理GPU阵列,性能上有多大差异?价格上有多大差异?
2020-06-02 10:10:09
全部回答内容
登录之后查看
登录
NVIDIA GPU虚拟化高级解决方案架构师张洁: 由于vGPU在阵列集群的方案里有些功能的缺失,像刚才提到的PTP或是NVLink的支持上,相比物理GPU阵列来说,performance上会有一些...
回答
相关问答
GPU的显存读写带宽也是按照相同的方式切割吗?会不会提高效率?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 可以理解为GPU资源的切割,显存是按照独享的方式,例如GPU有24G,各12G,带宽是共享切割的模式。效率要看具体的应用场景,如果利用率不高,跑一...
阅读全文 〉
虚拟化版本的license 收费吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 虚拟化一共有三个版本的license,如果是要构建人工智能版本的license,是工作站的版本,在教育行业也有专门的版本,可以支持计算,但都是收费...
阅读全文 〉
请问vGPU能做到计算资源的线性分配(小数分配,0.5这种)和有效隔离吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 如果把一个vGPU定义为1的话,把它切为2份就是0.5的资源,这两个0.5的资源是有隔离性的。...
阅读全文 〉
请问多虚不支持NVIDIAlink,那单GPU切成多个可以支持NVIDIAlink吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前的版本暂不支持NVLink,但NVLink的GPU可以做虚拟化,只是不能提供NVLink的能力...
阅读全文 〉
虚拟化分出的显存能根据用户上传的任务动态分配吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 基于目前的虚拟化解决方案,暂时不提供显存的动态分配。...
阅读全文 〉
CUDA也是分用户切割的吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 不是按用户去切割的,是按时间片去切割。...
阅读全文 〉
除了人工智能教室之外,还有其他部署案例和解决方案吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 虚拟化已经是很多用户在数据中心管理的标配,除了典型的人工智能教室,还有一些其他的场景,比如用户用vGPU配合虚拟桌面做设计的解决方案,去替换传统的...
阅读全文 〉
不能以0.3、0.7这种方式分配的原因在哪里,因为确实不同的客户需要不同的算力。
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 跟我们的资源调度器有关,资源调度器暂时不支持这种调度模式,所以没办法提供非均分的形式。在很多场景里面已经发现了这种诉求,所以已经把诉求反馈给产品团...
阅读全文 〉
目前GPU虚拟化技术在腾讯云、阿里云、百度云、AWS部署的情况如何?有哪些典型案例可以分享一下?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前这些大的CSP,或多或少都在利用GPU虚拟化技术;典型的公有云提供商就是阿里云,阿里云在三月的时候提供基于Tesla P4 vGPU,不仅仅可...
阅读全文 〉
当多块物理卡整合为一块虚卡时,资源是怎么分配的?能简单讲解一下吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 把多块物理GPU通过虚拟化手段分配给一个虚拟机,不是一个虚卡,用户在虚拟机里面看到的还是多块GPU卡,跟在物理机里面使用多块GPU卡类似。...
阅读全文 〉
与K8s什么关系?能不能部署在Docker中运行?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: K8s是做容器调度的,如果一个容器运行在vGPU上,就可以通过K8s去调度容器,和vGPU产生关系。...
阅读全文 〉
GPU的虚拟化,目前有没有标准协议,包括数据交换和任务调度?与openCL什么关系?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 实现GPU虚拟化有多种方式,不同厂商的方式各不相同,但从目前用户体验、功能和效果来看,英伟达的vGPU是目前用户接受度最高的;OpenCL是一个开...
阅读全文 〉
在云平台中,如何有效的管理GPU阵列?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 第一是说在虚拟化平台里面虚拟化,可以让资源切割的颗粒度更细致,在云平台里可以满足更多不同用户的需求,第二个是说在云平台里面支持不同的GPU管理,可...
阅读全文 〉
虚拟GPU相比物理GPU有哪些限制?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前讲的是面向人工智能的vGPU能力,vGPU和物理GPU相比,尤其是和Tesla物理GPU相比,首先他是不支持ECC的,第二个是不支持NVLin...
阅读全文 〉
虚拟化技术搭建的深度学习平台和单机版的深度学习平台,在性价比上有多大的区别?比方要建一个深度学习的培训教室。用虚拟化和用单机版的方式,从性能和价格以及商业模式上比,分别各有什么特点?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 这个区别主要是在管理模式和管理效率上,传统的模式让资源没有办法很好的复用,管理和更新相对会比较复杂;虚拟化平台可以复用,可以既做教学又做科研,可以...
阅读全文 〉
虚拟化技术搭建的平台,对游戏的兼容性问题怎么解决?因为目前很多游戏不支持虚拟机。
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 这是两个层面的问题,第一个是说有些游戏是明确不允许运行在虚拟化环境里面的,这个可能不是虚拟化厂商可以解决的事情,第二个是对虚拟化,我们的驱动如何更...
阅读全文 〉
如果是希望GPU显存核算率为共享资源分配单位,如何实现GPU虚拟化技术?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 现有的GPU虚拟化技术是通过显存独享和算力共享的方式来实现,如果是希望GPU显存核算率为共享资源分配单位,可能需要再从架构方面能支持才可以,现有的...
阅读全文 〉
GPU用虚拟化大规模部署集群上会有哪些问题?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 首先GPU虚拟化在大规模部署上有些功能是缺失的,比如说RTMA的功能或PTP的功能,如果对算力、吞吐、通讯的延迟要求非常高,目前版本GPU虚拟化没...
阅读全文 〉