【汽车】老黄的硬核“厨房”:一个构架搞定所有级别自动驾驶,A100 GPU性能提高20倍( 四 )


NVIDIA创始人兼首席执行官黄仁勋表示:“随着应用程序具备了通过感知细微差别和上下文来理解和交流的能力 , 对话式AI将成为未来许多行业的关键核心 。 NVIDIA Jarvis能够帮助医疗、金融服务、教育和零售行业以快速和准确的方式为他们的客户提供自动化的支持服务 。 ”
基于Jarvis构建的应用程序可以应用全新NVIDIA A100 Tensor Core GPU中的各项创新技术进行AI计算 , 并使用NVIDIA TensorRT?的最新优化进行推理 。
现在 , 使用最强大的视觉和语音模型运行整个多模态应用已成为可能 , 而且其速度比实时交互所需的300毫秒阈值还要快 。
Jarvis提供了一整套GPU加速软件堆栈和工具 , 使开发者能够轻松地创建、部署和运行端到端的实时AI应用程序 , 并且能够准确理解各企业及其客户沟通时所用的各种专业术语 。
IDC AI软件平台研究总监David Schubmehl表示:“ 根据IDC的统计 , 对话式AI市场持续保持着快速增长的速度 , 这主要是因为各大小规模的企业机构都已开始意识到 , 使用经过训练的虚拟助手和聊天机器人能够帮助他们为客户提供服务 , 拓展业务价值 。 IDC预计 , 全球范围内 , 自动客户服务代理和数字助理等对话式AI用例的支出投入将从2019年的58亿美元增长至2023年的138亿美元 , 复合年增长率将达24% 。 ”
Jarvis通过为对话式AI提供端到端的深度学习方案来解决这些难题 。 该产品包括先进的深度学习模型 , 例如用于自然语言理解的NVIDIA Megatron BERT等 。
企业可以使用NVIDIA NeMo , 基于他们自己的数据对这些模型进行进一步的微调 , 使用TensorRT进行推理优化 , 并且使用NGC(NVIDIA GPU优化的软件目录)上的Helm图表在云和边缘进行部署 。


推荐阅读