江苏龙网

  1. 首页 > 生活 > >

【汽车】老黄的硬核“厨房”：一个构架搞定所有级别自动驾驶，A100 GPU性能提高20倍( 三 )


全新NVIDIA A100 GPU性能提高20倍、完成五大突破
英伟达刚刚宣布首款基于NVIDIA? Ampere架构的GPU —— NVIDIA A100已全面投产并已向全球客户交付 。
A100采用了NVIDIA Ampere架构的突破性设计 ， 该设计为NVIDIA第八代GPU提供了迄今为止最大的性能飞跃 ， 集AI训练和推理于一身 ， 并且其性能相比于前代产品提升了高达20倍 。
作为一款通用型工作负载加速器 ， A100还被设计用于数据分析、科学计算和云图形 。
【汽车】老黄的硬核“厨房”：一个构架搞定所有级别自动驾驶，A100 GPU性能提高20倍
本文图片

黄仁勋表示：“云计算和AI的强大趋势正在推动数据中心设计的结构性转变 ， 过去的纯CPU服务器正在被高效的加速计算基础架构所取代 。 NVIDIA A100 GPU作为一个端到端的机器学习加速器 ， 其实现了从数据分析到训练再到推理20倍的AI性能飞跃 。 这是有史以来首次 ， 可以在一个平台上实现对横向扩展以及纵向扩展的负载的加速 。 NVIDIA A100将在提高吞吐量的同时 ， 降低数据中心的成本 。 ”
A100所采用的全新弹性计算技术能够为每项工作分配适量的计算能力 。 多实例GPU技术可将每个A100 GPU分割为多达七个独立实例来执行推理任务 ， 而第三代NVIDIA NVLink?互联技术能够将多个A100 GPU合并成一个巨大的GPU来执行更大规模的训练任务 。
目前 ， NVIDIA A100 GPU的突破性技术设计来源于五大关键性创新：
第一：NVIDIA Ampere架构 - A100的核心是NVIDIA Ampere GPU架构 ， 该架构包含超过540亿个晶体管 ， 这使其成为全球最大的7纳米处理器 。
第二：具有TF32的第三代Tensor Core核心 - NVIDIA广泛采用的Tensor Core核心现在已变得更加灵活、快速且易于使用 。 其功能经过扩展后加入了专为AI开发的全新TF32 ， 它能在无需更改任何代码的情况下 ， 使FP32精度下的AI性能提高多达20倍 。 此外 ， Tensor Core核心现在支持FP64精度 ， 相比于前代 ， 其为HPC应用所提供的计算力比之前提高了多达2.5倍 。
第三：多实例GPU - MIG ， 一种全新技术功能 ， 可将单个A100 GPU分割为多达七个独立的GPU ， 为不同规模的工作提供不同的计算力 ， 以此实现最佳利用率和投资回报率的最大化 。
第四：第三代NVIDIA NVLink - 使GPU之间的高速联接增加至原来的两倍 ， 实现服务器的高效性能扩展 。
第五：结构化稀疏 - 这种全新效率技术利用AI数学固有的稀疏性 ， 使性能提升了一倍 。
据悉 ， 云服务供应商和系统构建商计划将A100 GPU集成到其产品中 ， 其中包括：阿里云、AWS、Atos、百度智能云、思科、Dell Technologies、富士通、技嘉科技、Google Cloud、新华三、HPE、浪潮、联想、Microsoft Azure、甲骨文、Quanta/QCT、Supermicro和腾讯云 。
Microsoft是首批采用NVIDIA A100 GPU的用户之一 ， 计划充分利用其性能和可扩展性 。
Microsoft公司副总裁Mikhail Parakhin表示：“Microsoft大规模应用前代NVIDIA GPU训练了全球最大的语言模型——Turing Natural Language Generation 。 Azure将使用NVIDIA 新一代A100 GPU训练更大型的AI模型 ， 以推动语言、语音、视觉和多模态技术领域的最新发展 。 ”
可以说 ， 凭借这些新功能 ， NVIDIA A100成为了AI训练和推理以及科学模拟、对话式AI、推荐系统、基因组学、高性能数据分析、地震建模和金融预测等各种高要求工作负载的理想选择 。
300毫秒 ， 定制对话式AI服务
对话式AI将成为未来许多行业的关键核心 。
英伟达为了让对话式AI更加普及推出GPU加速的应用框架——NVIDIA Jarvis 。
该框架使企业能够根据自身所处行业、产品和客户的特点 ， 使用视频和语音数据构建最为先进的定制化对话式AI服务 。
首批采用Jarvis为客户提供对话式AI产品和服务的公司包括Voca、Kensho和Square 。


推荐阅读


上一篇：路虎■全新路虎揽胜谍照曝光 将往电气化发展

下一篇：路虎：或推纯电版车型！全新路虎揽胜路试照曝光，最快2021年发布