gpu池化是基于物理机直接池化还是在gpu虚拟化的基础上进行池化?二者优缺点对比?有没有一些指导性原则?
收起1、此问题应该是指这2者是否引入虚拟化平台的吧。
2、 常见的NVIDIA GPU虚拟化技术方案有:NVIDIA GRID(vGPU),NVIDIA MPS,阿里的cGPU和腾讯开源的vCUDA。其中,在k8s容器上常用的为vCUDA和cGPU方案。
3、GPU虚拟化的基础上池化的方式通常是GPU物理服务器+基于K8S的容器管理平台,此方式的GPU虚拟化可以用NVIDIA的 vGPU device plugin 或者腾讯vCUDA和阿里cGPU 。
4、物理机直接池化的方式,通常是要求虚拟化平台能够透传GPU卡到虚拟机中,然后VMWARE的 Bitfusion产品把 GPU 资源集中起来,组成 GPU 资源池 。