NVIDIA的AI推理测试再次打破性能记录

NVIDIA的AI推理测试再次打破性能记录

在由业界基准测试联盟MLPerf主持的最新一轮AI推理测试中,NVIDIA的AI计算平台再次打破了性能记录。

在云服务平台上,具有主动推理性能的GPU数量首次超过CPU。

总的来说,这极大地扩展了NVIDIA作为AI性能,服务和软件行业唯一的独立领导者,因为AI应用程序正比以往任何时候都进入主流应用程序。

NVIDIA打破AI计算基准,GPU超过CPU

NVIDIA GPU在业界唯一基于联盟的同行评审基准测试中,赢得了最新一轮数据中心和边缘计算机系统中的AI推理测试。边缘计算涉及附加到动作点的AI,例如,AI安全无人机将需要做出实时决策,而不会延迟连接或远程控制。

NVIDIA的A100 Tensor Core GPU超过了去年在MLPERF的支持下于去年举行的首次AI推理测试中显示的先前结果,MLPERF是该行业的基准测试联盟,于2018年5月成立。

根据MLPerf Inference的0.7基准,于今年5月推出的另一款名为A100的GPU展示了CPU竞争对手-数据中心推理性能提高了237倍。

NVIDIA T4小型高效节能GPU将CPU性能提高了28倍。作为参考,一个具有八个A100 GPU的NVIDIA DGX A100系统可以在重要的AI应用程序上提供与将近1,000个双插槽CPU服务器相同的性能。

值得注意的是,通过MLPerf进行的最新一轮基准测试获得了更多的参与—来自23个组织的提交,而较上一轮提交的12个组织有所增加。

A100 GPU,Jetson AGX Xavier,Edge Performance

此外,NVIDIA Jetson AGX Xavier还以受限制的功率扩展了基于SoC的边缘设备的领先优势-支持所有实际使用案例。

最新的结果代表了AI生态系统分布的“转折点”-运行NVIDIA产品提交了1,029个结果。提交的内容包括思科,富士通,思科,Altos,Alto,Dividiti,联想,QCT,技嘉,Nettrix和浪潮等合作伙伴。

MLPerf在整个学术界和多个行业中得到广泛的支持,为Facebook,Google,Microsoft,Arm,百度,哈佛,联想,英特尔,斯坦福和多伦多大学等组织树立了基准。

最新的基准测试包括医学成像,语音识别

MLPerf提供的最新基准测试包括四个新测试,这是AI不断发展格局的证明。新的测试套件现在可以在医学成像,语音识别,自然语言处理,推荐系统以及计算机视觉中的AI用例中得分。获取更多前沿科技信息访问:https://byteclicks.com

微软搜索和人工智能副总裁Rangan Majumder说:“最近在自然语言理解方面的AI突破使Bing等越来越多的AI服务可以更自然地进行交互,并在不到一秒钟的时间内提供了准确,有用的结果,答案和建议。”

Majumder补充说:“行业标准MLPerf基准提供了广泛使用的AI网络上的相关性能数据,并有助于做出明智的AI平台购买决策。”

AI应用在COVID-19危机中挽救了生命

在AI参与医学成像的过程中看到了巨大的影响。例如,一家名为Caption Health的初创公司使用AI简化了获取超声心动图的任务-该过程被证明可以在COVID-19危机初期挽救生命。

这就是为什么在最近的MLPerf基准测试期间使用的AI视图模型(如3D U-Net)被视为至关重要的原因。

DKFZ德国癌症研究中心医学图像计算主管Klaus Maier-Hein表示:“我们已经与NVIDIA紧密合作,将3 U-Net等创新技术引入医疗保健市场。

“计算机视觉和影像技术是AI研究的核心,推动科学发现并代表医疗保健的核心组成部分。行业标准MLPerf基准提供了相关的性能数据,可帮助IT组织和开发人员加速其特定项目和应用程序。”

商业环境中的AI用例已经风起云涌。例如,阿里巴巴于2019年11月在其光棍节期间使用推荐系统进行了380亿美元的在线销售交易。

NVIDIA AI推理的采用已超过“临界点”

NVIDIA的AI Inference突破了无休止的基准测试的技术噪音,今年已超越了一个重要的里程碑-去年,其GPU在整个公共云中提供了总计超过100 exaflops的AI推理性能。

换句话说,在NVIDIA GPU上运行的总的云AI推理计算能力首次超过了云CPU,而这一增长趋势每两年大约增长10倍。

随着AI不断发展成为与公共基础设施交织在一起的组织和行业,像NVIDIA之类的领先企业必将在日常生活中无处不在。

上一篇:

下一篇:


标签