0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

MLPerf AI性能测试:榜单的份量究竟有多重?

脑极体 来源:脑极体 作者:脑极体 2022-07-05 18:08 次阅读

数字化时代,数据是新的生产资料,算力是新的生产力。很多朋友好奇,算力究竟从哪里来?一个重要的答案就是服务器。

不难发现,GDP(国内生产总值)与服务器数量呈现明显的正线性相关,服务器出货量已经可以作为衡量计算力发展水平的重要指标项。而在服务器市场,我们注意到一个相对低调的名字:宁畅。

不久前,在国际权威AI性能基准测试MLPerf Training V2.0中,宁畅的人工智能服务器多项测试成绩斩获全球第一,打破2项世界纪录。而这并不是偶然,事实上,宁畅已经连续五次问鼎世界冠军。

AI对数字经济的重要性不言而喻,而AI算法对算力的需求也呈指数级增长。人工智能服务器领域的进步,为AI技术的发展和落地应用提供了更为坚实的算力支撑。在此基础上,或许应该去解答一个问题:宁畅在人工智能服务器上捧回的奖杯,在算力时代份量几何?

奖杯的份量 :国际AI评测背后的逻辑

算力评测,大家都不陌生,但人工智能服务器的性能高低,却不是“一言不合跑个分”那么简单。一方面,AI计算是多种任务、架构的集合,考较的是整个系统的处理能力,而非单一硬件;另外,不同任务、不同场景,AI服务器的表现可能相差悬殊,所以单一任务出色未必能代表整体水平, AI性能评测要分任务、分赛道,方才公允,有参考意义。

所以,MLPerf固定任务(closed)赛道中,基于同一套参数,在DLRM、MASK R-CNN、ResNet、U-NET3D等8个AI场景下,对各计算系统进行评测。针对不同场景分门别类地评测,意味着面向多场景的AI硬件更具优势,经受住不同AI任务的考验。比如MASK R-CNN(重量级图像目标检测)测试和U-Net3D(图像分割模型)测试,主要应用在自动驾驶、医疗图像分析、监控、工业检测等场景中,这些模型的训练任务是数据中心的典型应用,成为各个厂商PK的主战场。今年,宁畅人工智能服务器X640 G40打破了自己创下的世界纪录,分别搭载16颗、20颗NVIDIA A100 Tensor Core 80GB GPU,再夺MASK R-CNN、U-Net3D两项冠军。

7b071d6f2d094442b505060c81e0aeb3~tplv-tt-shrink:640:0.image

另外,AI模型应用到产业中,不可能无限制地增加资源,同一配置下表现最优,对于行业用户来说是很有参考意义的,而这也是AI独角兽或初创企业在一众巨头中脱颖而出的蹊径。可以看到,在搭载NVIDIA A30 Tensor Core GPU同一配置下,宁畅服务器X640 G40也表现出了优越的性能,分别在Bert(自然语言处理)、RNN-T(语音识别)、U-Net3D(图像分割模型)、DLRM(推荐系统)、RetinaNet(目标检测)以及ResNet(图像分类)6项测试中获得第一。

绿色化、低碳化成为大势所趋,能耗也应该纳入到AI硬件的重点考虑范畴。液冷技术在散热方面比传统数据中心的空调系统更具优势,也成为服务器产品的创新焦点,此次宁畅X660 G45 LP液冷服务器也首次参与了MLPerf Training测试,展现出了部件级精确制冷水准,在降低数据中心PUE、节能减排方面让人期待。

智在八方:从国际赛场走向千行百业

对于服务器厂商来说,比赛只是训练场,最终还是要到广阔的市场中去,将AI的技术红利播撒到四面八方。千行百业,才是成绩背后真正的重量。

凭借优秀的产品与服务,宁畅人工智能服务器也得到了企业客户的普遍认可。IDC发布的《2021下半年度(H2)中国加速计算服务器市场分析报告》显示,宁畅以8.5%的市场销售额占比,位列中国区GPU以及加速服务器市场第二名。

52235eb087b34604826b37485191b7a6~tplv-tt-shrink:640:0.image

从赛场到市场,接下来围绕算力将发生哪些连锁反应?

首先,是智能算力的供给更加充沛,单位成本降低,直接惠及智能化转型的企业。以宁畅为例,其人工智能服务器产品及服务已覆盖互联网、汽车、电信、金融、云计算等众多行业超千家TOP级用户。

其次,推动AI相关应用创新,元宇宙、数字孪生、科学计算等新应用有了算力底座支撑,或许将在不久的将来能成为现实。

更进一步,智能算力与数字经济相辅相成,助推数字中国的高速可持续发展。而中国产业数字化、智能化升级,构成了一个确定性的增量空间,宁畅的人工智能服务器为数字经济提供算力支撑的同时,自身也将收获更多价值。

数字经济需要聚合多种产业力量和技术力量,才是MLPerf背后的核心价值,相信中国厂商们将继续在赛场与市场中书写传奇。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26409

    浏览量

    264011
  • 人工智能
    +关注

    关注

    1776

    文章

    43796

    浏览量

    230563
  • 宁畅
    +关注

    关注

    0

    文章

    34

    浏览量

    5279
收藏 人收藏

    评论

    相关推荐

    信创测试究竟是什么?与性能测试的差别是什么?

    信创测试性能测试在多个方面存在显著的区别。 首先,信创测试是一个更为全面和系统的测试过程,它主要针对信创工程项目中的产品、系统等进行
    的头像 发表于 04-24 15:34 29次阅读

    贴片功率电感究竟有没有正负极之分

    电子发烧友网站提供《贴片功率电感究竟有没有正负极之分.docx》资料免费下载
    发表于 02-28 10:15 0次下载

    pcb应变测试多重要?一文了解!

    pcb应变测试多重要?一文了解!
    的头像 发表于 02-24 16:26 615次阅读

    什么是DMA?DMA究竟有多快!

    助于提高数据传输速度和系统效率。 那么,DMA究竟有多快呢? 实践出真知 恰好,最近有个多通道数据采集的项目,受限于通道数多、分辨率高,而系统带宽有限,为了尽可能充分利用有限带宽,就得想办法优化时序,把时间都留给数据采集和传输。 优化方向就是DMA。 硬件链路是A
    的头像 发表于 02-22 10:43 370次阅读
    什么是DMA?DMA<b class='flag-5'>究竟有</b>多快!

    AI视频年大爆发!2023年AI视频生成领域的现状全盘点

    2023年,也是AI视频元年。过去一年究竟有哪些爆款应用诞生,未来视频生成领域面临的难题还有哪些?
    的头像 发表于 02-20 10:40 547次阅读
    <b class='flag-5'>AI</b>视频年大爆发!2023年<b class='flag-5'>AI</b>视频生成领域的现状全盘点

    普通硅二极管与肖特基二极管,究竟有何异同?

    普通硅二极管与肖特基二极管,究竟有何异同?
    的头像 发表于 12-07 09:33 297次阅读
    普通硅二极管与肖特基二极管,<b class='flag-5'>究竟有</b>何异同?

    电池检验究竟有多重

    现代社会越来越依赖电子设备,从个人手机到动力汽车,很多的产品设备遍布我们的日常生活,而这些设备又必须依赖电池来运行。所以电池的安全性能显得尤为重要,电池安全的检测也是必不可少的。尤其对于动力汽车而言,电池不仅仅关乎着消费者们的安全,同时也是企业是否能够进入高端行业的关键。
    的头像 发表于 12-04 11:58 242次阅读

    你知道磁环式电感器封装规格究竟有多重要吗

    你知道磁环式电感器封装规格究竟有多重要吗 编辑:谷景电子 磁环式电感器是一种特别重要的电子元器件,它在很多电子产品都有着不可替代的功能与作用。关于磁环式电感器的选型问题我们已经有过很多文章解释,其中
    的头像 发表于 10-23 18:04 252次阅读

    NVIDIA Grace Hopper超级芯片横扫MLPerf推理基准测试

    Hopper超级芯片首次亮相 MLPerf 行业基准测试,其运行了所有数据中心推理测试,进一步扩大了NVIDIA H100 Tensor Core GPU的领先优势。   总体测试
    发表于 09-13 09:45 156次阅读
    NVIDIA Grace Hopper超级芯片横扫<b class='flag-5'>MLPerf</b>推理基准<b class='flag-5'>测试</b>

    NVIDIA Grace Hopper 超级芯片横扫 MLPerf 推理基准测试

    超级芯片 首次亮相 MLPerf 行业基准测试,其运行了所有数据中心推理测试,进一步扩大了 NVIDIA H100 Tensor Core GPU 的领先优势。 总体测试结果表明,N
    的头像 发表于 09-12 20:40 275次阅读

    最新MLPerf v3.1测试结果认证,Gaudi2在GPT-J模型上推理性能惊人

    英特尔产品在全新MLCommons AI推理性能测试中尽显优势 今日,MLCommons公布针对 60 亿参数大语言模型及计算机视觉与自然语言处理模型GPT-J的 MLPerf推理v3
    的头像 发表于 09-12 17:54 230次阅读
    最新<b class='flag-5'>MLPerf</b> v3.1<b class='flag-5'>测试</b>结果认证,Gaudi2在GPT-J模型上推理<b class='flag-5'>性能</b>惊人

    EMI、EMS、EMC究竟有什么异同

    似的EMI、EMS等专业名词也常常出现在大家面前,它们似乎都与防辐射(电磁辐射)有关,让人不明就里。那么,它们究竟有什么异同呢?
    的头像 发表于 09-04 15:21 436次阅读

    探秘!首届 HarmonyOS 极客马拉松究竟有多酷?

    资讯 欢迎关注公众号 HarmonyOS开发者 原文标题:探秘!首届 HarmonyOS 极客马拉松究竟有多酷? 文章出处:【微信公众号:HarmonyOS开发者】欢迎添加关注!文章转载请注明出处。
    的头像 发表于 08-04 19:15 360次阅读

    新的 MLPerf 推理网络部分展现 NVIDIA InfiniBand 网络和 GPUDirect RDMA 的强大能力

    中,网络软、硬件对于端到端推理性能的影响。 在网络评测中,有两类节点:前端节点生成查询,这些查询通过业界标准的网络(如以太网或 InfiniBand 网络)发送到加速节点,由加速器节点进行处理和执行推理。 图 1:单节点封闭测试环境与多节点网络
    的头像 发表于 07-19 19:10 649次阅读
    新的 <b class='flag-5'>MLPerf</b> 推理网络部分展现 NVIDIA InfiniBand 网络和 GPUDirect RDMA 的强大能力

    ICD与ICE之间究竟有什么区别和联系?

    Lauterbach公司的Trace32-ICD和 Trace32-ICE。 那么二者之间究竟有什么区别和联系呢?回答这个问题这要从嵌入式系统调试手段的演化说起。
    发表于 06-19 06:06