抖音、快手狂吃算力！独家揭秘AI服务器爆棚真相！
【抖音、快手狂吃算力！独家揭秘AI服务器爆棚真相！】
文章图片
电子发烧友网报道（文/张慧娟）2019年全球AI服务器市场规模达到99亿美元已经初具规模 ， 并且还在保持高速增长 。 根据IDC日前公布的《2019年中国AI基础架构市场调查报告》 ， 2019年中国AI服务器市场规模在全球市场占比由2018年的19.2% ， 提升至2019年的23.5% ， 市场规模达23.3亿美元 ， 同比增长57.9% ， 2倍于全球AI服务器市场增速 。 那么 ， 哪些细分市场将迎来增长机会？哪些计算平台有较大增长潜力？笔者与IDC分析师、浪潮AI&HPC相关业务负责人进行了深入交流 。 IDC上调对GPU服务器市场规模的预测值得注意的是 ， 在IDC去年5月关于GPU服务器的报告中 ， 预测2023年中国GPU服务器市场规模将达到43.2亿美金 。 而在今年的报告中 ， 预测到2024年中国GPU服务器市场规模将达到64亿美元 。 这意味着2024年会有较大的跃升？还是IDC上调了之前的预测？经<电子发烧友>向IDC中国分析师杜昀龙求证 ， 根据IDC的调研 ， 发现AI与行业的融合速度在逐渐加快 ， AI技术的广泛应用促使对基础架构的需求在不断增加 ， 因此对预测进行了普遍上调 。 2019年人工智能基础架构市场规模达到20.9亿美元 ， 同比增长58.7% 。 杜昀龙表示 ， 主要动力源自互联网 ， 服务和政府三个行业 。 互联网行业的采购不仅仅局限在大型互联网公司 ， 越来越多的中小型互联网公司也加大了AI基础架构的投资；服务行业重点指IT服务业 ， 随着传统行业与AI技术的不断融合 ， IT服务企业需要提供更多的解决方案来满足客户的需求 ， 这就需要强大的算力作为支撑 ， 因此在基础架构方面的投资有所增长；政府行业的增长主要体现在安防和智慧园区的建设上 。 浪潮AI&HPC相关业务负责人告诉<电子发烧友> ， 从行业维度看增长动力 ， 互联网依然为主要采购行业 ， 占有近50%的市场份额 ， 并且最终用户也不仅仅局限于BAT这类大型互联网公司 ， 短视频和在线教育的快速增长 ， 抖音、快手等互联网新贵带动了互联网行业的AI算力需求；在其他行业 ， IT服务、教育、金融和通信行业大幅度上涨同比增长超过或接近100% 。 计算多元化需求 ， 驱动GPU、FPGA、ASIC加速计算发展
文章图片
对比IDC2018、2019年两份报告中服务器厂商市场份额 ， 发现2018年的研究主体是GPU服务器 ， 2019年的研究主体是加速服务器 ， 调研范围有所扩大 。 杜昀龙表示 ， IDC确实扩大了对AI基础架构市场的调研 ， 加入了不同加速技术的研究 。 由于AI服务器主要是训练和推理两个工作负载 ， 其中 ， 推理在逐年增长；ASIC芯片更多应用在边缘或者端侧的推理 ， 2019年FPGA和ASIC加速技术的服务器将占整体AI服务器市场总额的4% 。 
文章图片
浪潮AI&HPC相关业务负责人表示 ， 目前GPU服务器依然是市场上的绝对主力 ， 占据超过80%的市场空间 。 随着数据中心用户对AI计算力需求的不断攀升 ， 全球已有上百家公司投入新型AI芯片的研发与设计 ， AI计算芯片多元化趋势愈发明显 。 为了应对计算多元化的需求 ， 越来越多的场景开始引入GPU、FPGA、ASIC等硬件进行加速 。 据其介绍 ， 不同处理器芯片在构建AI计算方面有着自己的鲜明特点 。 GPU领域存在大量的开源软件和应用软件 ， 大部分新的AI技术会采用GPU实现算法加速 ， GPU编程的开发资源也更加容易获得 ， 开发部署的难度相对较低 。 FPGA需要开发者对FPGA的芯片特性有较为深入的了解 ， 但其高并行性的特性往往可以使业务性能得到量级的提升 ， 同时FPGA是动态可编程的 ， 当在数据中心部署之后 ， 可以根据业务形态来配置不同的逻辑实现不同的硬件加速功能 。 ASIC芯片在某些特定场景应用能获得较好的性能加速比 ， 但是ASIC开发风险大 ， 需要有足够大的市场来保证成本价格 ， 而且从研发到市场的时间周期很长 ， 在深度学习算法快速迭代的领域应用尚需实际业务场景考验 。 由于各芯片厂商在AI开发中采用了不同的技术路线 ， 导致芯片的接口、互联、协议上互不兼容 ， 这是目前数据中心用户在AI计算基础设施建设中不得不面临的硬件分裂化和生态割裂化的重大挑战 。 此外 ， 根据IDC的报告 ， 到2021年 ， 用于推理的服务器将超过用于训练的服务器 ， 达到51.3%的市场占比 。 IDC方面认为 ， GPU服务器未来几年会有呈现比较稳定的增长 ， 搭载ASIC芯片的服务器和其他用于推理的服务器将有一定程度的提升 。 浪潮方面表示 ， 这将带动推理服务器、推理平台的发展 ， 另外 ， 这也是产业AI化加速发展的信号 ， AI的算法和应用将走向更多的实际应用场景 ， 更多的AI推理平台将得以落地应用 。 算力需求暴增 ， 倒逼AI服务器升级换代
文章图片
近期 ， 英伟达发布了基于Ampere架构的A100GPU ， 浪潮同步推出了5款支持A100GPU的AI服务器 。 全新服务器可支持8到16颗NVIDIAA100TensorCoreGPU ， 能够提供高达每秒4亿亿次的AI计算性能 ， 以及高达600GB/S的GPU间P2P带宽 。 在GPU服务器市场 ， 8卡GPU服务器和英伟达的V100加速卡是采购热点 ， 占据了约30%以上的份额 。 那么 ， 随着技术的迭代 ， 未来什么样的产品会成为主流？浪潮方面表示 ， 从过往三年AI服务器的发展历程来看 ， 一个比较有意思的现象是 ， 算力需求的线性增长倒逼AI服务器的升级换代 ， 无论互联网市场还是行业市场 ， 这种指数级AI算力需求的增长 ， 对于AI服务器的需求 ， 就如英伟达黄教主所言：“Themoreyoubuy,themoreyousave” ， 在算力为王的AI时代 ， 大家从来不会拒绝一款算力倍增的AI服务器 。 浪潮预测 ， 也许未来V100的AI服务器会升级为A100的八卡服务器 ， 因为AI算力的需求一直保持着50%的行业增速 ， 在一些头部行业的增速甚至超过100% 。 另外随着AI加速行业应用 ， 推理市场迎来了快速发展的窗口期 ， 浪潮这方面的代表产品有NF5488M5AI服务器 。 随着最新的NF5488M5-D和NF5488M6的推出 ， 可以在4U空间容纳8颗强大的A100GPU ， 为用户提供更多选择空间 。 此外 ， 跟随5G技术的脚步 ， 越来越多边缘计算的应用逐渐兴起 ， 如VR、AR、无人驾驶、智能机器人等 。 边缘计算成为业界共识 ， 在未来的网络架构中 ， 边缘服务器将会成为构筑分布式数据中心的主体 ， 为终端提供计算、存储、网络能力 ， 拉近用户与互联网之间的连接 ， 增强服务能力 。 未来三年AI产业化将走向产业AI化
文章图片
在国内AI服务器市场 ， 浪潮的市场占有率最大 ， 连续三年以过半市场份额稳居第一 ， 华为位居第二 ， 其他竞争者还包括曙光、新华三、戴尔、联想等 。 而AI服务器的竞争 ， 已经不只是简单的产品升级迭代 ， 而是上升到了整体的布局 ， 是包括芯片、云、数据处理能力、框架、算法开发基础、部署环境等在内的整体能力 。 浪潮方面将其在AI服务器领域的成功归因于三大因素：一是前瞻的业务布局 ， 是业界率先布局AI计算业务的厂商 ， 并且最先抓住了AI产业化的机遇 ， 打开了以互联网为代表的AI产业化市场；二是在产品上持续创新 ， 目前已经在性能、品类方面树立了业界标杆；三是在生态上持续发力 ， 发布元脑生态 ， 加速推进产业AI化进程 ， 目前在互联网、政务、金融、能源等行业AI服务器市占率保持第一 。 随着数据的爆炸增长与深度神经网络日趋复杂 ， 单机或小型服务器已经无法满足算力需求 ， 未来将有大量的人工智能应用和服务被放在云端 。 AI算力需求逐步迈入高峰期 ， 更高性能的AI服务器将在线下场景落地 。 浪潮AI&HPC相关业务负责人告诉<电子发烧友> ， 未来三年AI产业化将走向产业AI化 ， 传统行业市场智能化升级将迎来爆发期 。 综合来看 ， AI行业应用落地趋势正在逐步加速 。 受新冠疫情的影响 ， 一些传统行业更加深刻地意识到AI、5G、大数据等技术的重要性 ， 促使各企业加大对于IT基础架构的投资 。 此外 ， 在国家产业政策层面 ， 新基建拉开序幕 ， 智能计算中心的产业投资 ， 将带来更多产业机会 。
推荐阅读
- 情商高、会说话，相处起来很舒服的星座，走到哪里都受欢迎
- 水花、格林加维金斯，能吹响勇士反攻的号角吗？能否再创5年3冠？
- 中美关系直击要点！外交部长王毅记者会核心内容精炼 提及中美关系、病毒源头、香港事务等问题
- 超美的露肩装穿衣指南，溜肩、宽肩也能穿，不用羡慕别人了
- 普拉多车尾的TX、TXL、VXL是啥意思？老司机：搞不懂会闹笑话
- 新华网内地学者解读全国人大会议涉港议程：守护国家安全、维护“一国两制”的必要之举
- 支付宝、微信未必安全？手机出现这3种征兆，你或许已被黑客监听
- 中国最强CMOS芯片厂商：打败索尼、三星，年销10亿多颗，全球第一
- 电机正转与反转的几种解决方法(附电路图的分析)
- 终于知道生啤、熟啤、干啤、原浆、纯生之间的区别，口味大不同