江苏龙网

  1. 首页 > 资讯 > 科技 > >

GPU英伟达终于成为下一个万亿芯片市场掌舵者( 二 )


刚才我们提到 ， 在数据中心的环境下 ， 执行大规模线上机器学习任务 ， 需要多机多卡同时运行 ， 参见很多国内外大学成立的超级计算项目 ， 以及全国上亿人可能在同时使用的各种平台（淘宝、百度、抖音等等）的智能化搜索与个性化推荐 。
因此 ， 如何有效分配这些“多机多卡”的算力 ， 是云计算工程师们特有的关注点：
“你会发现 ， A100新增了一个叫MIG的功能 。 根据描述 ， 这个功能允许在单个A100上做资源隔离 ， 能最多分割为7个独立GPU 。 ”
正在研发基于异构计算架构数据处理平台的开源技术创业公司Zilliz合伙人、高级架构师顾钧 ， 首先注意到了这个面向云端应用的新功能 。
“这可以看作是一种让更多人分享GPU能力的方式 。 换句话说 ， 每个人分到的GPU资源都是互相隔离的 ， 不会发生互相干扰 ， 抢占算力的情况 ， 同时也能让GPU的投资回报率达到最大化 。 我估计这也是为云端容器化提供便利 。 ”
云端容器化 ， 是当前最为主流的云计算技术之一 。
简单来说 ， 用这项技术就是为了降低算力成本 ， 将每个可能会互相争抢算力资源的云端任务 ， 隔离在一个个孤立的“瓶子”里 ， 做到互不打扰 。
同时 ， 又能根据任务的更迭 ， 对其所需要的资源进行灵活的资源调度 。
“举个例子 ， 一块CPU假定有24个核（48线程） ， 在容器化后 ， 是可以把一个CPU的某个部分 ， 譬如4个核8线程分配给一个容器 。 但之前GPU是没办法这么切分的 。 ”顾钧解释 。
因此 ， 很多院校和企业此前大多在利用英伟达提供的vGPU虚拟化技术来“切分”GPU ， 分着给大家用 ， 主要目的就是为了提高使用效率 ， 降低计算成本 。
譬如 ， VMware 中国研发先进技术中心的技术总监张海宁曾给给一所大学设计过vGPU切换方案：
白天学生做开发练习的简单任务 ， 就切成4块 ， 让4个人一起使用GPU；到了晚上项目要做模型训练 ， 算力需求加大 ， 就切换回1:1 ， 确保100%算力 。
当然 ， 需要购买成千上万块企业级GPU的大型云服务商 ， 会更加“吝啬” 。 用阿里工程师的一句玩笑话就是：“V100这么贵 ， 当然要仔细琢磨怎么切得最划算 ， 同时还能让利用率最大化 。 ”
但也有人指出 ， 这种GPU虚拟化技术对性能有一定的损耗 ， 同时也会让机器启动速度变慢 。 而容器技术则会在一定程度上避免这些问题 。
因此 ， 让企业级GPU的设计对云端容器化更加“友好” ， 或许是一种产业里乐见其成的趋势 。
根据调研机构Grand View Research在2019年12月发布的一份报告显示 ， 到2025年 ， 全球云端容器应用市场规模有望达到82亿美元 ， 年增长率约为26.5%。
而与此相呼应的一个论点 ， 是硬件虚拟化（虚拟机）将会逐渐被容器技术所取代 。
如此来看 ， 英伟达的确在加大对自己的新摇钱树——企业级用户的“关怀” 。
不必非要英伟达？
实际上 ， 早在A100正式发布前 ， 基本所有Top级云服务商都拿到了价值20万美元的新GPU系统（单个包含8块A100） 。
当然 ， 即便拿的是折扣价 ， 也有工程师也暗暗吐槽说 ， “真贵 ， V100就很贵了 ， A100就更别提了 。 ”
参见在海外新闻社区Reddit上 ， 曾有人晒出自己嵌着8块V100的基板 ， 立马被网友群起而攻之 ， 炮轰为“可耻晒富行为”的行业趣闻 。 我们就能够感受到 ， 云服务厂商为了大规模深度学习训练而采购成千上万块企业级GPU的财务压力有多大 。
GPU英伟达终于成为下一个万亿芯片市场掌舵者
图片

Reddit上有人用8块V100来“炫富”
昂贵 ， 是所有英伟达客户难得给出的统一观点 。
有技术专家向虎嗅指出 ， 英伟达的企业级芯片 ， 仍然算是走“高端路线”的小众玩家 。
譬如发布的最高性能的芯片都是先“特供”给一些拥有大规模人工智能训练项目的高校实验室 ， 或者是做高级别自动驾驶的创业公司 。 单价高昂 ， 但采购规模有限 。


推荐阅读


上一篇：联通“三千兆”领跑“新基建”赛道

下一篇：瑞思教育瑞思2020年Q1财报：营收1.09亿 疫情期间近90%学员转线上