张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

从8小时到80秒,NVIDIA如何实现AI训练用时大突破?

墨记 2019-07-11 17:29 次阅读

“天下武功,唯快不破”,你需要以“快”制胜。
 
如今,全球顶级公司的研究人员和数据科学家团队们都在致力于创建更为复杂的AI模型。但是,AI模型的创建工作不仅仅是设计模型,还需要对模型进行快速地训练。
 
这就是为什么说,如果想在AI领域保持领导力,就首先需要有赖于AI基础设施的领导力。而这也正解释了为什么MLPerf AI训练结果如此之重要。
 
通过完成全部6项MLPerf基准测试,NVIDIA展现出了全球一流的性能表现和多功能性。NVIDIA AI平台在训练性能方面创下了八项记录,其中包括三项大规模整体性能纪录和五项基于每个加速器的性能纪录。
 
表1:NVIDIA MLPerf AI纪录

每个加速器的比较基于早前报告的基于单一NVIDIA DGX-2H(16个 V100 GPU)、与其他同规模相比较的MLPerf 0.6的性能(除MiniGo采用的是基于8个V100 GPU的NVIDIA DGX-1 ) |最大规模MLPerf ID:Mask R-CNN:0.6-23,GNMT:0.6-26,MiniGo:0.6-11 |每加速器MLPerf ID:Mask R-CNN,SSD,GNMT,Transformer:全部使用0.6-20,MiniGo:0.6-10
 
以上测试结果数据由谷歌、英特尔、百度、NVIDIA、以及创建MLPerf AI基准测试的其他数十家顶级技术公司和大学提供背书,能够转化为具有重要意义的创新。
 
简而言之,NVIDIA的AI平台如今能够在不到两分钟的时间内完成此前需要一个工作日才能完成的模型训练。
 
各公司都知道,释放生产力是一件重中之重的要务。超级计算机如今已经成为了AI的必备工具,树立AI领域的领导力首先需要强大的AI计算基础设施支持。
 
NVIDIA最新的MLPerf结果很好地展示了将NVIDIA V100 Tensor核心GPU应用于超算级基础设施中所能带来的益处。
 
在2017年春季的时候,使用搭载了V100 GPU的NVIDIA DGX-1系统训练图像识别模型ResNet-50,需要花费整整一个工作日(8小时)的时间。
 
而如今,同样的任务,NVIDIA DGX SuperPOD使用相同的V100 GPU,采用Mellanox InfiniBand进行互联,并借助可用于分布式AI训练的最新NVIDIA优化型AI软件,仅需80秒即可完成。
 
80秒的时间,甚至都不够用来冲一杯咖啡。
 
图1:AI时间机器
2019年MLPerf ID(按图表从上到下的顺序):ResNet-50:0.6-30 | Transformer:0.6-28 | GNMT:0.6-14 | SSD:0.6-27 | MiniGo:0.6-11 | Mask R-CNN:0

 AI的必备工具:DGX SuperPOD 能够更快速地完成工作负载

 仔细观察今日的MLPerf结果,会发现NVIDIA DGX SuperPOD是唯一在所有六个MLPerf类别中耗时都少于20分钟的AI平台:
 
图2:DGX SuperPOD打破大规模AI纪录
大规模MLPerf 0.6性能 | 大规模MLPerf ID:RN50 v1.5:0.6-30,0.6-6 | Transformer:0.6-28,0.6-6 | GNMT:0.6-26,0.6-5 | SSD:0.6-27,0.6-6 | MiniGo:0.6-11,0.6-7 | Mask R-CNN:0.6-23,0.6-3
 
更进一步观察会发现,针对重量级目标检测和强化学习,这些最困难的AI问题,NVIDIA AI平台在总体训练时间方面脱颖而出。
 
使用Mask R-CNN深度神经网络的重量级目标检测可为用户提供高级实例分割。其用途包括将其与多个数据源(摄像头、传感器激光雷达、超声波等)相结合,以精确识别并定位特定目标。
 
这类AI工作负载有助于训练自动驾驶汽车,为其提供行人和其他目标的精确位置。另外,在医疗健康领域,它能够帮助医生在医疗扫描中查找并识别肿瘤。其意义的重要性非同小可。
 
NVIDIA的“重量级目标检测”用时不到19分钟,性能几乎是第二名的两倍。
 
强化学习是另一有难度的类别。这种AI方法能够用于训练工厂车间机器人,以简化生产。城市也可以用这种方式来控制交通灯,以减少拥堵。NVIDIA采用NVIDIA DGX SuperPOD,在创纪录的13.57分钟内完成了对MiniGo AI强化训练模型的训练。

咖啡还没好,任务已完成:即时AI基础设施提供全球领先性能

打破基准测试纪录不是目的,加速创新才是目标。这就是为什么NVIDIA构建的DGX SuperPOD不仅性能强大,而且易于部署。
 
DGX SuperPOD全面配置了可通过NGC容器注册表免费获取的优化型CUDA-X AI软件,可提供开箱即用的全球领先AI性能。
 
在这个由130多万名CUDA开发者组成的生态系统中,NVIDIA与开发者们合作,致力于为所有AI框架和开发环境提供有力支持。
 
我们已经助力优化了数百万行代码,让我们的客户能够将其AI项目落地,无论您身在何处都可以找到NVIDIA GPU,无论是在云端,还是在数据中心,亦或是边缘。

AI基础设施如今有够快,未来会更快

更好的一点在于,这一平台的速度一直在提升。NVIDIA每月都会发布CUDA-X AI软件的新优化和性能改进,集成型软件堆栈可在NGC容器注册表中免费下载,包括容器化的框架、预先训练好的模型和脚本。
 
借助在CUDA-X AI软件堆栈上的创新,NVIDIA DGX-2H服务器的MLPerf 0.6吞吐量比NVIDIA七个月前发布的结果提升了80%。
 
图3:基于同一服务器,性能提升高达80%
对单个历元上单一DGX-2H服务器的吞吐量进行比较(数据集单次通过神经网络)|  MLPerf ID 0.5 / 0.6比较:ResNet-50 v1.5: 0.5-20/0.6-30 | Transformer: 0.5-21/0.6-20 | SSD: 0.5-21/0.6-20 | GNMT: 0.5-19/0.6-20 | Mask R-CNN: 0.5-21/0.6-20
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

大联大世平集团推出基于Brightek ICLed系列之氛围灯应用解决方案

致力于亚太地区市场的领先半导体元器件分销商---大联大控股宣布,其旗下世平推出基于弘凯光电(Brig....
发表于 07-18 16:55 26次 阅读
大联大世平集团推出基于Brightek ICLed系列之氛围灯应用解决方案

AI赋能教育产业应用管窥与琐思

人工智能已进入“大航海时代”,成为科技创新的“超级风口”。
发表于 07-18 16:50 21次 阅读
AI赋能教育产业应用管窥与琐思

人工智能进步须突破算力依赖

对脸书这样的公司来说,人工智能在其服务的几乎每个方面都发挥着作用。
发表于 07-18 16:45 19次 阅读
人工智能进步须突破算力依赖

AI单凭文字就可作画谁最先受到冲击

随着人工智能时代的到来,艺术与科技的碰撞,越来越频繁地现身热门话题榜。
发表于 07-18 16:36 21次 阅读
AI单凭文字就可作画谁最先受到冲击

AI将电影制作变成娱乐游戏

Queisser 说道:“你可以在软件中创建两个不同的场景,分别在每个场景中比较 Emma Wats....
的头像 AI科技大本营 发表于 07-18 15:49 57次 阅读
AI将电影制作变成娱乐游戏

更像人类的学习,英特尔AI芯片系统模拟人脑!

800万神经元,比CPU快1000倍!
的头像 中科院长春光机所 发表于 07-18 15:33 55次 阅读
更像人类的学习,英特尔AI芯片系统模拟人脑!

不亦乐乎:一边造假,一边打假的AI!

后来Facebook创始人马克.扎克伯格的一段视频也开始疯传,在其中小扎说“让我们快速地想象一下,一....
的头像 AI科技大本营 发表于 07-18 15:10 69次 阅读
不亦乐乎:一边造假,一边打假的AI!

阿里最新研究:AI进化到助理法官水平 可一秒“判案”

如果说“一个人的法庭”还属于审判流程的数字化、在线化的1.0阶段。那么,阿里的最新研究成果标志着智能....
的头像 AI科技大本营 发表于 07-18 15:07 51次 阅读
阿里最新研究:AI进化到助理法官水平 可一秒“判案”

灵云AI能力:快速接入,轻松调用

灵云SDK,将为每一个软件、每一款硬件,提供AI能力,打造万物智能新世界。
的头像 深圳市汽车电子行业协会 发表于 07-18 14:47 54次 阅读
灵云AI能力:快速接入,轻松调用

科技巨头正逼迫制药商仓促入局

人工智能研究人员推出了一种神经网络算法,可以根据序列预测蛋白质的功能。
发表于 07-18 14:16 17次 阅读
科技巨头正逼迫制药商仓促入局

AI的出现,其实不是为了终结人类的工作

AI多火?之前,财经网一则题为《AI 人才抢夺生猛:应届博士年薪涨到 80 万,一年涨了 60%》的....
的头像 AI科技大本营 发表于 07-18 14:16 42次 阅读
AI的出现,其实不是为了终结人类的工作

AI和数据为未来智慧城市赋能的5大途径

智慧城市通过从各种传感器收集信息以更加有效地管理城市资产和资源,从而将自己定位为解决城市困境的手段。
的头像 人间烟火123 发表于 07-18 11:21 154次 阅读
AI和数据为未来智慧城市赋能的5大途径

不用写一行就带就可以参加 Kaggle,这个真香!

随着 AI 技术的不断发展与落地,有越来越多的平台和工具可供大家使用,这些平台针对不同领域、不同层次....
的头像 AI科技大本营 发表于 07-18 10:59 129次 阅读
不用写一行就带就可以参加 Kaggle,这个真香!

“只讲技术,拒绝空谈”的AI开发者大会再次来临!

微信小程序自2017年上线以来,如今已经成为互联网最火热的项目风口,阿里、百度等也纷纷看中小程序的发....
的头像 AI科技大本营 发表于 07-18 10:54 154次 阅读
“只讲技术,拒绝空谈”的AI开发者大会再次来临!

AI智能体使用日常语言生成解释其行为的原理

由于人工智能遍及我们生活的方方面面,因此非常需要以人为本的人工智能设计,使日常用户可以解释如同黑盒子....
发表于 07-18 10:44 18次 阅读
AI智能体使用日常语言生成解释其行为的原理

2019年人工智能五大趋势

当机器学习模型应用于这些数据集时,IT运行即可从被动响应转变为主动预测。
发表于 07-18 10:20 27次 阅读
2019年人工智能五大趋势

技术的温度:用AI保护野生动物

他们使用的 SPOT 系统,由南加州大学社会人工智能中心的研究人员建造,先通过人工标记,以及无人机自....
的头像 AI科技大本营 发表于 07-18 10:15 115次 阅读
技术的温度:用AI保护野生动物

“没人比我更懂AI了”介绍45篇让你跟上AI时代的论文

Targeted Dropout不再像原有的Dropout那样按照设定的比例随机丢弃部分节点,而是对....
的头像 AI科技大本营 发表于 07-18 10:12 119次 阅读
“没人比我更懂AI了”介绍45篇让你跟上AI时代的论文

视觉AI市场引爆前夕,虹软+AI创享会招募深圳同仁

从人工智能技术应用曲线来看,人脸识别技术正处于爆发阶段,应用价值逐步呈现。人脸识别在LFW、Mega....
发表于 07-18 09:28 15次 阅读
视觉AI市场引爆前夕,虹软+AI创享会招募深圳同仁

通用人工智能仍是白日梦

尽管深度学习为广泛的计算机感知领域注入了新鲜血液,但它甚至没有触及人工智能的基本问题。
发表于 07-18 09:22 20次 阅读
通用人工智能仍是白日梦

大国竞争格局将变成AI人工智能的竞争

本轮科技和产业革命,从一开始大家聚焦的新能源和新通讯,慢慢地聚焦到以人工智能、大数据以及物联网为核心....
发表于 07-18 08:45 17次 阅读
大国竞争格局将变成AI人工智能的竞争

未来可以让AI来创造AI吗

任何机器学习模型都是基于历史数据开发出来的,而历史数据反映的是过去的商业状况,所以模型其实是有保质期....
发表于 07-18 08:33 22次 阅读
未来可以让AI来创造AI吗

8小时卖出20万台AI音箱,喜马拉雅是如何做到的?

去年年底,喜马拉雅AI音箱小雅Nano宣布全球发售时,1万台现货开售1分钟即被抢购一空,首批10万台....
的头像 你好张江 发表于 07-17 17:09 344次 阅读
8小时卖出20万台AI音箱,喜马拉雅是如何做到的?

vivo Y7s正式开启预约搭载联发科P65处理器6GB+128GB版售价1798元

联发科P65处理器基于12nm工艺,八核心设计,由两颗2.0GHz的A75核心与六颗1.7GHz的A....
发表于 07-17 16:49 293次 阅读
vivo Y7s正式开启预约搭载联发科P65处理器6GB+128GB版售价1798元

大众与福特共推自动驾驶出租车服务

Argo AI作为一家自动驾驶汽车开发商,目前正负责部署福特的自动驾驶出租车服务。
的头像 机器人技术与应用 发表于 07-17 16:07 221次 阅读
大众与福特共推自动驾驶出租车服务

AI在实际应用中最大的问题与困扰是什么?

本次邀请该研究中心的薛向阳教授,为我们共同探讨产研合作中存在的问题。
的头像 安全自动化 发表于 07-17 15:51 179次 阅读
AI在实际应用中最大的问题与困扰是什么?

AI也需要做梦吗

处于“清醒”或在线状态的人工智能神经网络总是在学习新的信息模式。
发表于 07-17 15:22 32次 阅读
AI也需要做梦吗

下次如何加薪将由AI和算法说了算

用过去的方法来评估员工的绩效,意味着要从几套不同的人力资源部门记录中挖掘出每份直接报告中蕴含的信息。
发表于 07-17 14:20 42次 阅读
下次如何加薪将由AI和算法说了算

MIT和谷歌开发失传语言的机器翻译系统

注释数据库和让机器从中学习的技术让语言学习发生了革命性变化,这使得机器翻译变得越来越普遍。
发表于 07-17 10:56 41次 阅读
MIT和谷歌开发失传语言的机器翻译系统

医疗和技术的加速融合,带动产业进入“AI+医疗”时代

人工智能等前沿技术正在快速迭代,医疗领域的智能升级是大势所趋。
的头像 你好张江 发表于 07-17 10:51 185次 阅读
医疗和技术的加速融合,带动产业进入“AI+医疗”时代

法律会是AI将革新的又一产业吗

我们这个软件驱动的世界,正在给法律行业带来革命性的变化,并产生了所谓的“法律工程师”。
发表于 07-17 10:39 153次 阅读
法律会是AI将革新的又一产业吗

科创板报道:倒计时!首批25家公司如何前瞻和选择

7月22日(下周一),科创板首批25家公司将在上交所鸣锣上市,成为中国资本市场的新生力量。 从201....
的头像 章鹰 发表于 07-17 10:34 522次 阅读
科创板报道:倒计时!首批25家公司如何前瞻和选择

边缘计算时代的到来会给AI带来哪些影响

随着5G、人工智能和物联网时代的到来,传统的云计算技术已经无法满足人工智能终端“大连接、低时延、大带....
发表于 07-17 10:33 52次 阅读
边缘计算时代的到来会给AI带来哪些影响

5G与AI的碰撞会发生什么化学反应

5G尚处于商用初期,AI也处于发展初级阶段。
发表于 07-17 10:00 42次 阅读
5G与AI的碰撞会发生什么化学反应

利用语音直接画出人脸,AI再添新能力

听声辨人,利用声纹进行解锁,这种技术已广泛应用,人类的声音含有该个体的一定特征,从而可以进行区分。
的头像 DeepTech深科技 发表于 07-17 09:54 187次 阅读
利用语音直接画出人脸,AI再添新能力

中国车联网规模突破2000亿,5G和AI融合推动自动驾驶新赛道

7月9-10日,由国泰君安证券与中移(上海)产业研究院、浦发硅谷银行共同主办的国泰君安2019年信息....
的头像 章鹰 发表于 07-17 09:32 1303次 阅读
中国车联网规模突破2000亿,5G和AI融合推动自动驾驶新赛道

人工智能能实现无人物流体系吗

无人科技背后的大数据、AI算法等科技成果还促进建立了以消费者个性化需求为核心的C2M反向定制、物流价....
发表于 07-16 17:27 100次 阅读
人工智能能实现无人物流体系吗

产业互联网时代到来科技是最大筹码

当产业互联网的风口到来,这些企业未来的发展路径又是怎样的?
的头像 每日经济新闻 发表于 07-16 17:06 168次 阅读
产业互联网时代到来科技是最大筹码

物业公司如何面对社区物联化大势所趋

随着人工智能、大数据、物联网等科技发展,传统行业也开始借助这些技术进行转型升级。
发表于 07-16 15:24 78次 阅读
物业公司如何面对社区物联化大势所趋

“G往开来,为AI出行”——长城汽车告别传统功能车时代

7月15日,“G往开来,为AI出行”——长城汽车GTO全域智慧生态战略在保定哈弗技术中心正式发布。
的头像 天津机器人 发表于 07-16 15:12 198次 阅读
“G往开来,为AI出行”——长城汽车告别传统功能车时代

AI音乐家将在这四个方面掀起革新浪潮

就像在其他行业一样,在音乐领域,AI也在帮助服务自动化,在庞大的数据集中发现模式和洞见,并帮助提高创....
发表于 07-16 14:12 33次 阅读
AI音乐家将在这四个方面掀起革新浪潮

Facebook AI又出新作:性能翻倍,计算成本不增加

Facebook AI又出新作,在神经网络中加入一个结构化存储器层,极大扩充了网络容量和参数数量,性....
的头像 全球人工智能 发表于 07-16 10:56 216次 阅读
Facebook AI又出新作:性能翻倍,计算成本不增加

用AI对抗AI——基于视频人脸篡改的检测

Deepfake有救了!
的头像 大数据文摘 发表于 07-16 10:10 185次 阅读
用AI对抗AI——基于视频人脸篡改的检测

如果你将踏上机器学习工程师就可能遇到 Daniel Bourke 相似经历

如果未来的你将踏上机器学习工程师这条道路,那你很大可能将遇到和机器学习工程师 Daniel Bour....
的头像 新机器视觉 发表于 07-16 09:57 241次 阅读
如果你将踏上机器学习工程师就可能遇到 Daniel Bourke 相似经历

人民日报社与中国联通在建设5G新媒体平台方面正式开展合作

根据战略合作协议,双方将以建设5G新媒体平台为目标,充分运用5G、4K超高清视频,虚拟现实(VR),....
发表于 07-16 09:46 182次 阅读
人民日报社与中国联通在建设5G新媒体平台方面正式开展合作

热点 | 工信部:加快5G、AI等新型基础设施建设

7月9日第18届中国互联网大会召开,工业和信息化部副部长陈肇雄出席大会并致辞。
的头像 高工机器人 发表于 07-16 08:52 158次 阅读
热点 | 工信部:加快5G、AI等新型基础设施建设

从场景出发的计算架构才能真正满足AI大规模应用需求

来自学术界、工业界、投资界的重磅嘉宾齐聚CCF-GAIR 2019 AI芯片专场共同探讨芯片的前沿技....
的头像 云天励飞资讯 发表于 07-16 08:35 192次 阅读
从场景出发的计算架构才能真正满足AI大规模应用需求

人工智能如何分辨谣言

即以AI技术打假为主、以人工审核为辅,AI还不能替代专家。
发表于 07-15 16:30 43次 阅读
人工智能如何分辨谣言

如何解锁AI医疗落地之难

在众多落地场景中,目前AI医学影像是最为成熟的一个。
发表于 07-15 16:26 39次 阅读
如何解锁AI医疗落地之难

如何用AI打造线上社群的西部世界

构建在区块链之上的“AI机器人管家”Jarvis+,在满足社群运营的基础之上,将用户和平台进行链接,....
发表于 07-15 15:49 35次 阅读
如何用AI打造线上社群的西部世界