绑定手机号
获取验证码
确认绑定
提问
0/255
提问
订阅开课提醒需关注服务号
×
首页
直播
合辑
专场
智东西
回答成功
知道了
扫码关注智猩猩服务号登录
请使用微信扫描二维码
扫描二维码分享给微信好友
您已订阅成功,有新课程,我们将第一时间提醒您。
知道了
发送提问成功
回答可在
“我的——我的提问”中查看
知道了
失败
欢迎来智东西
登录
免费注册
关注我们
智东西
车东西
芯东西
智猩猩
智东西
车东西
芯东西
智猩猩
智猩猩
智猩猩官网
智猩猩小程序
线下大会
预告
公开课
讲座
专场
提问
|
回答
提问
分享到:
问题出自:
利用GPU虚拟化技术搭建易用可扩展的深度学习环境
虚拟化版本的license 收费吗?
2020-06-02 10:10:09
全部回答内容
登录之后查看
登录
NVIDIA GPU虚拟化高级解决方案架构师张洁: 虚拟化一共有三个版本的license,如果是要构建人工智能版本的license,是工作站的版本,在教育行业也有专门的版本,可以支持计算,但都是收费...
回答
相关问答
GPU的显存读写带宽也是按照相同的方式切割吗?会不会提高效率?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 可以理解为GPU资源的切割,显存是按照独享的方式,例如GPU有24G,各12G,带宽是共享切割的模式。效率要看具体的应用场景,如果利用率不高,跑一...
阅读全文 〉
请问vGPU能做到计算资源的线性分配(小数分配,0.5这种)和有效隔离吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 如果把一个vGPU定义为1的话,把它切为2份就是0.5的资源,这两个0.5的资源是有隔离性的。...
阅读全文 〉
请问多虚不支持NVIDIAlink,那单GPU切成多个可以支持NVIDIAlink吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前的版本暂不支持NVLink,但NVLink的GPU可以做虚拟化,只是不能提供NVLink的能力...
阅读全文 〉
虚拟化分出的显存能根据用户上传的任务动态分配吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 基于目前的虚拟化解决方案,暂时不提供显存的动态分配。...
阅读全文 〉
CUDA也是分用户切割的吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 不是按用户去切割的,是按时间片去切割。...
阅读全文 〉
除了人工智能教室之外,还有其他部署案例和解决方案吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 虚拟化已经是很多用户在数据中心管理的标配,除了典型的人工智能教室,还有一些其他的场景,比如用户用vGPU配合虚拟桌面做设计的解决方案,去替换传统的...
阅读全文 〉
不能以0.3、0.7这种方式分配的原因在哪里,因为确实不同的客户需要不同的算力。
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 跟我们的资源调度器有关,资源调度器暂时不支持这种调度模式,所以没办法提供非均分的形式。在很多场景里面已经发现了这种诉求,所以已经把诉求反馈给产品团...
阅读全文 〉
目前GPU虚拟化技术在腾讯云、阿里云、百度云、AWS部署的情况如何?有哪些典型案例可以分享一下?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前这些大的CSP,或多或少都在利用GPU虚拟化技术;典型的公有云提供商就是阿里云,阿里云在三月的时候提供基于Tesla P4 vGPU,不仅仅可...
阅读全文 〉
当多块物理卡整合为一块虚卡时,资源是怎么分配的?能简单讲解一下吗?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 把多块物理GPU通过虚拟化手段分配给一个虚拟机,不是一个虚卡,用户在虚拟机里面看到的还是多块GPU卡,跟在物理机里面使用多块GPU卡类似。...
阅读全文 〉
与K8s什么关系?能不能部署在Docker中运行?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: K8s是做容器调度的,如果一个容器运行在vGPU上,就可以通过K8s去调度容器,和vGPU产生关系。...
阅读全文 〉
GPU的虚拟化,目前有没有标准协议,包括数据交换和任务调度?与openCL什么关系?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 实现GPU虚拟化有多种方式,不同厂商的方式各不相同,但从目前用户体验、功能和效果来看,英伟达的vGPU是目前用户接受度最高的;OpenCL是一个开...
阅读全文 〉
在云平台中,如何有效的管理GPU阵列?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 第一是说在虚拟化平台里面虚拟化,可以让资源切割的颗粒度更细致,在云平台里可以满足更多不同用户的需求,第二个是说在云平台里面支持不同的GPU管理,可...
阅读全文 〉
虚拟GPU相比物理GPU有哪些限制?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前讲的是面向人工智能的vGPU能力,vGPU和物理GPU相比,尤其是和Tesla物理GPU相比,首先他是不支持ECC的,第二个是不支持NVLin...
阅读全文 〉
满足同样的需求,GPU虚拟化方案和使用物理GPU阵列,性能上有多大差异?价格上有多大差异?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 由于vGPU在阵列集群的方案里有些功能的缺失,像刚才提到的PTP或是NVLink的支持上,相比物理GPU阵列来说,performance上会有一些...
阅读全文 〉
虚拟化技术搭建的深度学习平台和单机版的深度学习平台,在性价比上有多大的区别?比方要建一个深度学习的培训教室。用虚拟化和用单机版的方式,从性能和价格以及商业模式上比,分别各有什么特点?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 这个区别主要是在管理模式和管理效率上,传统的模式让资源没有办法很好的复用,管理和更新相对会比较复杂;虚拟化平台可以复用,可以既做教学又做科研,可以...
阅读全文 〉
虚拟化技术搭建的平台,对游戏的兼容性问题怎么解决?因为目前很多游戏不支持虚拟机。
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 这是两个层面的问题,第一个是说有些游戏是明确不允许运行在虚拟化环境里面的,这个可能不是虚拟化厂商可以解决的事情,第二个是对虚拟化,我们的驱动如何更...
阅读全文 〉
如果是希望GPU显存核算率为共享资源分配单位,如何实现GPU虚拟化技术?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 现有的GPU虚拟化技术是通过显存独享和算力共享的方式来实现,如果是希望GPU显存核算率为共享资源分配单位,可能需要再从架构方面能支持才可以,现有的...
阅读全文 〉
GPU用虚拟化大规模部署集群上会有哪些问题?
2020-06-02 10:10:09
NVIDIA GPU虚拟化高级解决方案架构师张洁: 首先GPU虚拟化在大规模部署上有些功能是缺失的,比如说RTMA的功能或PTP的功能,如果对算力、吞吐、通讯的延迟要求非常高,目前版本GPU虚拟化没...
阅读全文 〉