绑定手机号
确认绑定
-
如果是希望GPU显存核算率为共享资源分配单位，如何实现GPU虚拟化技术？2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 现有的GPU虚拟化技术是通过显存独享和算力共享的方式来实现，如果是希望GPU显存核算率为共享资源分配单位，可能需要再从架构方面能支持才可以，现有的...全部回答内容
登录之后查看登录回答
相关问答
-
GPU的显存读写带宽也是按照相同的方式切割吗？会不会提高效率？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 可以理解为GPU资源的切割，显存是按照独享的方式，例如GPU有24G，各12G，带宽是共享切割的模式。效率要看具体的应用场景，如果利用率不高，跑一... 阅读全文 〉
-
虚拟化版本的license 收费吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 虚拟化一共有三个版本的license，如果是要构建人工智能版本的license，是工作站的版本，在教育行业也有专门的版本，可以支持计算，但都是收费... 阅读全文 〉
-
请问vGPU能做到计算资源的线性分配(小数分配，0.5这种)和有效隔离吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 如果把一个vGPU定义为1的话，把它切为2份就是0.5的资源，这两个0.5的资源是有隔离性的。... 阅读全文 〉
-
请问多虚不支持NVIDIAlink，那单GPU切成多个可以支持NVIDIAlink吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前的版本暂不支持NVLink，但NVLink的GPU可以做虚拟化，只是不能提供NVLink的能力... 阅读全文 〉
-
虚拟化分出的显存能根据用户上传的任务动态分配吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 基于目前的虚拟化解决方案，暂时不提供显存的动态分配。... 阅读全文 〉
-
CUDA也是分用户切割的吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 不是按用户去切割的，是按时间片去切割。... 阅读全文 〉
-
除了人工智能教室之外，还有其他部署案例和解决方案吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 虚拟化已经是很多用户在数据中心管理的标配，除了典型的人工智能教室，还有一些其他的场景，比如用户用vGPU配合虚拟桌面做设计的解决方案，去替换传统的... 阅读全文 〉
-
不能以0.3、0.7这种方式分配的原因在哪里，因为确实不同的客户需要不同的算力。
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 跟我们的资源调度器有关，资源调度器暂时不支持这种调度模式，所以没办法提供非均分的形式。在很多场景里面已经发现了这种诉求，所以已经把诉求反馈给产品团... 阅读全文 〉
-
目前GPU虚拟化技术在腾讯云、阿里云、百度云、AWS部署的情况如何？有哪些典型案例可以分享一下？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前这些大的CSP，或多或少都在利用GPU虚拟化技术；典型的公有云提供商就是阿里云，阿里云在三月的时候提供基于Tesla P4 vGPU，不仅仅可... 阅读全文 〉
-
当多块物理卡整合为一块虚卡时，资源是怎么分配的？能简单讲解一下吗？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 把多块物理GPU通过虚拟化手段分配给一个虚拟机，不是一个虚卡，用户在虚拟机里面看到的还是多块GPU卡，跟在物理机里面使用多块GPU卡类似。... 阅读全文 〉
-
与K8s什么关系？能不能部署在Docker中运行？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: K8s是做容器调度的，如果一个容器运行在vGPU上，就可以通过K8s去调度容器，和vGPU产生关系。... 阅读全文 〉
-
GPU的虚拟化，目前有没有标准协议，包括数据交换和任务调度？与openCL什么关系？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 实现GPU虚拟化有多种方式，不同厂商的方式各不相同，但从目前用户体验、功能和效果来看，英伟达的vGPU是目前用户接受度最高的；OpenCL是一个开... 阅读全文 〉
-
在云平台中，如何有效的管理GPU阵列？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 第一是说在虚拟化平台里面虚拟化，可以让资源切割的颗粒度更细致，在云平台里可以满足更多不同用户的需求，第二个是说在云平台里面支持不同的GPU管理，可... 阅读全文 〉
-
虚拟GPU相比物理GPU有哪些限制？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 目前讲的是面向人工智能的vGPU能力，vGPU和物理GPU相比，尤其是和Tesla物理GPU相比，首先他是不支持ECC的，第二个是不支持NVLin... 阅读全文 〉
-
满足同样的需求，GPU虚拟化方案和使用物理GPU阵列，性能上有多大差异？价格上有多大差异？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 由于vGPU在阵列集群的方案里有些功能的缺失，像刚才提到的PTP或是NVLink的支持上，相比物理GPU阵列来说，performance上会有一些... 阅读全文 〉
-
虚拟化技术搭建的深度学习平台和单机版的深度学习平台，在性价比上有多大的区别？比方要建一个深度学习的培训教室。用虚拟化和用单机版的方式，从性能和价格以及商业模式上比，分别各有什么特点？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 这个区别主要是在管理模式和管理效率上，传统的模式让资源没有办法很好的复用，管理和更新相对会比较复杂；虚拟化平台可以复用，可以既做教学又做科研，可以... 阅读全文 〉
-
虚拟化技术搭建的平台，对游戏的兼容性问题怎么解决？因为目前很多游戏不支持虚拟机。
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 这是两个层面的问题，第一个是说有些游戏是明确不允许运行在虚拟化环境里面的，这个可能不是虚拟化厂商可以解决的事情，第二个是对虚拟化，我们的驱动如何更... 阅读全文 〉
-
GPU用虚拟化大规模部署集群上会有哪些问题？
2020-06-02 10:10:09NVIDIA GPU虚拟化高级解决方案架构师张洁: 首先GPU虚拟化在大规模部署上有些功能是缺失的，比如说RTMA的功能或PTP的功能，如果对算力、吞吐、通讯的延迟要求非常高，目前版本GPU虚拟化没... 阅读全文 〉