NVIDIA EGX如何为全球各行业构建中央神经系统
文章图片
物联网传感器的日益普及推动着各个行业的巨大变革 ， 包括用来“看”的摄像头、用来“听”的麦克风 ， 还有其他帮助企业感知、了解现实世界中所发生事情的智能设备 。
在边缘生成的数据量呈指数级增长 ， 而实时处理海量数据的唯一方法 ， 就是将服务器放置在行动点附近 ， 并利用GPU的强大算力 。
未来的企业数据中心不会在一个地点放置一万台服务器 ， 而是会在一万个不同地点放置一台或多台服务器 。 这些服务器将被放置于办公楼、工厂、仓库、手机信号塔、学校、商店和银行中 ， 用于探测交通堵塞和森林大火、安全引导交通并预防犯罪 。
企业可通过部署一个分布式服务器网络 ， 从数百个传感器中流式传输数据 ， 在边缘使用数据中心网络 ， 并通过AI立即采取行动 。 此外 ， 在边缘处理数据可以缓解对于隐私的担忧 ， 并解决数据主权问题 。
边缘服务器缺乏企业IT认为理所当然的物理安全基础架构 ， 而且公司没有让空闲IT人员去管理这些远程系统的预算 。 因此 ， 边缘服务器的设计必须具备自我安全功能 ， 并且方便从远处进行更新、管理和部署 。
此外 ， AI系统需要能够永久保持运行 ， 不能出现停机 。
【NVIDIA EGX如何为全球各行业构建中央神经系统】我们构建的NVIDIAEGX边缘AI平台用来确保全球范围内的安全性 。 通过简化部署和管理 ， NVIDIAEGX帮助始终在线的AI应用程序实现了未来关键基础架构的自动化 。 该平台是Kubernetes和容器原生软件平台 ， 它能将GPU加速AI带入到从双路x86服务器到基于ARM的NVIDIAJetsonSoCs等一切应用 。
目前 ， 已有20多家服务器供应商正在构建基于EGX的边缘和微边缘服务器 ， 包括ADLINK、研华、Atos、AVerMedia、思科、ConnectTech、戴尔科技、DiamondSystems、富士通、Gigabyte、惠普、浪潮、联想、广达和超微 。 除此之外 ， NVIDIA边缘生态系统还有数十家混合云和网络安全合作伙伴 ， 包括Canonical、CheckPoint、Excelero、Guardicore、IBM、NuageNetworks、Nutanix、PaloAltoNetworks、Rancher、RedHat、VMware、Weka和WindRiver 。
NVIDIAEGX上还有数百家AI应用程序和集成解决方案供应商 ， 它们为全球企业提供行业特定产品 。
运行AI的企业不仅需要保护客户数据 ， 还需要保护将数据转化为行动的AI模型 。 我们通过将安全、高性能网络的行业标准NVIDIAMellanoxSmartNIC与我们的AI处理器 ， 集成到组合式聚合加速器NVIDIAEGXA100中 ， 为边缘AI引入基础创新技术 。
文章图片
NVIDIAEGXA100
更高的安全系数和性能
从HardwareRoot-of-Trust通过安全认证启动GPU和SmartNIC ， 可保证对设备固件和生命周期的安全管理 。 NVIDIAAmpere架构中的第三代Tensor核心技术带来了业内领先的AI性能 。 专为EGXA100开发的保密AI安全区使用全新GPU安全引擎加载加密AI模型 ， 并对所有AI输出进行加密 ， 进一步防止宝贵的IP遭到盗用 。
随着加密高分辨率传感器在边缘的日益普及 ， SmartNIC开始支持线速的线内密码编译加速 。 这使得加密数据推送被解密后 ， 直接发送至GPU内存 ， 从而绕过CPU和系统内存 。
边缘还需要更高级别的安全性 ， 以防范来自网络上其他设备的威胁 。 通过在硬件中动态配置防火墙卸载 ， SmartNIC可以有效地为混合云、安全服务网格通信构建起第一道防线 。
NVIDIAMellanox专为电信公司提供精准时钟调度5G无线报文的传输技术（5Tfor5G） ， 使商用现成解决方案能够通过我们的NVIDIAAerialSDK ， 满足5GvRAN最具时间敏感性的用例 ， 引领CloudRAN在电信行业的新一轮应用浪潮 。
通过将NVIDIAAmpereGPU和MellanoxConnectX-6D部署在一个聚合产品上 ， EGXA100可为安全和虚拟网络功能提供低延迟、高吞吐量的数据包处理 。
简化大规模部署、管理和安全
通过NVIDIAGPU优化容器目录NGC ， 我们提供了行业应用框架和特定领域的AI工具包 ， 简化AI的入门并根据新边缘环境调节AI应用程序 。 它们可以一起使用或单独使用 ， 为各种边缘用例开辟新的可能性 。
借助NGC专用注册表 ， 可以在发布前对应用程序进行签名 ， 从而确保它们在传输过程中未被篡改 。 然后 ， 可以在边缘运行这些应用程序之前 ， 对其进行验证 。 NGC专用注册表还支持模型版本控制和加密 ， 因此可以快速、安全地进行轻量级模型更新 。
未来的边缘计算需要在网络边缘运行安全、可扩展、有弹性、易于管理的AI驱动系统群 。 我们正在将NVIDIAGPU、NVIDIAMellanoxSmartNIC的复合加速与NVIDIAEGX的加速度结合起来 ， 构建组成全球各行业AI神经系统的平台和生态系统 。
推荐阅读
- 王者荣耀：典韦蓝屏星元曝光遭吐槽，犹如红毛猩猩，玩家决不买账
- 看观汽车|原装进口发动机，入门7万出头，看着动感坐着舒适，丰田致享如何
- 星车记|买车后如何正确调节座椅？
- 为何CBA本土第一人易建联如此受球迷欢迎？看完分析，豁然开朗
- 唯美低发髻盘发，让头发如花朵般绽放
- 伊朗三军拥有1800多辆坦克：实力远不如邻国，装备落后惨状堪比海湾战争
- 地震|菲律宾发生6.6级地震，地震来了该如何逃生？
- 思萌娱乐|老人收藏慈禧唯一真实照片，专家问多少钱才捐，老人如何回答的
- 喵家影视|求指导~河流退水后，如何能够钓到大草鱼？
- 孩子不爱收拾？如何提升孩子积极性，增强孩子的内因引导