江苏龙网

  1. 首页 > 生活 > >

GPU支持虚拟化吗云主机只有CPU/mem/存储指标，无gpu咋在云上支持神经网络等机器学习

就前面2个疑问，大概说下我的了解，下面描述利益相关，希望可以帮助到你。1、cpu和gpu提供的计算能力针对不同方面的计算，应属于不同的资源，目前多家云计算厂商也分别提供支持gpu机型，ucloud上面提供了针对云主机和物理机的gpu机型，云主机目前还是使用gpu设备透传的方式，将物理机的gpu core透传到云主机，云主机在系统内部能够直接独占单个或多个gpu core。物理云主机就更简单，直接占用整块GPU，具体细节可以到这里查看：UCloud - 专业云计算服务商目前gpu虚拟化方面，主要采用nvida或者intel的方案，用软件调度的方式在云主机和物理机之间提供一个中间的mediated device来模拟gpu给云主机内部使用，这种方案目前也慢慢趋向成熟，后面应该可以看到各家厂商对外提供该类型的产品。GPU支持虚拟化吗云主机只有CPU/mem/存储指标，无gpu咋在云上支持神经网络等机器学习
【GPU支持虚拟化吗云主机只有CPU/mem/存储指标，无gpu咋在云上支持神经网络等机器学习】
2、可以实现的，租用多台GPU云主机或者GPU物理机就可以。
■网友
哈哈，我们现在做的事情都是直接出租带gpu的物理机啦！一台性能强悍的物理机服务器加两块主流的gpu卡，你想怎么用都可以，当然表面上价格肯定会比租用虚拟机贵一点了，但是我们主要面向深度学习这种领域，当用户在线预测，l离线训练请求到达一定规模后我们性能，成本的优势就会显现出来啦！回到楼主的问题，gpu是可以虚拟化的，我们有另外一个团队在做这个事，估计再过几个月能出产品了吧！
■网友
GPU支持得好的，我只能说hyperv和vmware，已经一年没有关注kvm，不知道进展如何，其他基本处于游戏机状态吧
■网友
仅试着回答GPU虚拟化的问题。答案是肯定的，GPU有虚拟化。GPU虚拟化有几种不同的实现方式，且都有所区别，个人觉得可以分三类：- 基于软件调度的，虚拟机里看到的都是由hypervisor层模拟出的GPU，由hypervisor调度各guest对的GPU行为，再统一对物理GPU进行访问操作。- 基于硬件调度的，SR-IOV标准里，定义了GPU除了可以有physical function(PF)，还有virtual function(VF)，hypervisor把VF直接暴露给guest，guest操作VF可以像操作真的GPU一样。- 混合。之所以说混合，是因为guest里确实看到的是物理GPU，且能够利用pass-through直接对GPU进行访问，但由于多个guest的存在，hypervisor需要调度不同访问，完成context switch（既可以是guest的software state context，也可以是GPU的hardware context）。GPU cloud computing? 有的呀：GPU Cloud Computing Service Providers
■网友
nvidia很早就有支持虚拟化的GPU了，大概是11年，主要用于图形化处理的桌面云，不过价格还是很高，而且一般能虚拟出来的数量比较少，好像不超过8个


    推荐阅读


    上一篇：曼彻斯特大学，爱丁堡大学和麻省理工学院的计算机系

    下一篇：OpenGL中将数据从CPU传送到GPU的方式有哪几种