Nvidia扩大了在MLPerf Benchmark上进行AI推理的领先优势

Nvidia表示，已通过今年早些时候推出的A100 GPU芯片，扩大了在MLPerf Benchmark上进行AI推理的领先优势。Nvidia在第二版MLPerf Inference中赢得了针对数据中心和边缘计算系统的六个应用程序测试中的每一个。这些测试是对最初的两个计算机视觉基准测试的扩展-AI测试现在包括推荐系统，自然语言理解，语音识别和医学成像。

行业观察家Moor Insights&Strategy的HPC和机器学习高级分析师Karl Freund评论说，与Nvidia的展示一样令人印象深刻，还应该注意，某些原本有望参加MLPerf竞赛的公司却没有参加。。

弗洛伊德说：“英伟达在竞争激烈的竞争者中表现出色。” 与（Nvidia）V100（GPU）相比，他们的A100效果惊人，证明了其增强的Tensor核心架构的价值。我赞扬MLPerf添加了新的基准，这些基准越来越代表快速增长的推理机会，例如推荐引擎。

Freund说：“话说回来，竞争要么是因为客户项目太忙，要么是他们的芯片还没有准备好。” “例如，SambaNova（人工智能系统平台）宣布与LLNL建立新的合作伙伴关系，而英特尔Habana（可编程深度学习加速器）仍在酝酿中。如果我仍在芯片创业公司，我将等待运行MLPerf（一个昂贵的项目），直到我已经获得了一些灯塔客户。

英伟达在其结果公告中表示，其A100的AI推理速度比CPU快237倍。

Nvidia加速计算部总经理兼副总裁Ian Buck表示：“每个行业都在寻求更好的方式来应用AI提供新服务和发展业务，这是我们的转折点。” “我们为在MLPerf上实现这些结果而进行的工作使公司的AI性能达到了新的水平，从而改善了我们的日常生活。”

Nvidia表示，该公司及其合作伙伴使用Nvidia的加速平台（包括Nvidia数据中心GPU，Edge AI加速器和Nvidia优化的软件）提交了MLPerf 0.7结果。Nvidia A100于今年早些时候推出，具有第三代Tensor内核和多实例GPU技术，在ResNet-50测试中的领先优势得到了提高，比上一轮的CPU高出30倍，是6倍。该公司补充说，它的GPU在公共云中的AI推理能力首次超过了CPU，并表示Nvidia GPU上的云AI推理总能力每两年增长约10倍。

责任编辑：lq