侵权投诉

Nvidia打破实时对话AI的训练和推理用时记录

FPGA开发圈 2019-08-15 14:26 次阅读

Nvidia用于开发和运行可理解和响应请求的对话式AIGPU强化平台,已经达成了一些重要的里程碑,并打破了一些记录。

这对任何基于其技术进行开发的人来说意义重大——当中包括大大小小的公司,因为英伟达将很多用于实现这些进步的代码开源。那些代码用PyTorch编写,易于运行。

英伟达今天宣布的最大成果包括:BERT训练用时打破记录,进入1小时关口。BERT是世界上最先进的人工智能语言模型之一,也被广泛认为是自然语言处理(NLP)标杆的先进模型。Nvidia的AI平台仅仅需要53分钟就能够完成模型训练,经过训练的模型在短短2毫秒多一点的时间里(10毫秒在业内被认为是高水平线)就能够成功地做出推理(即利用通过训练学习到的能力得出结果)——又一个记录。

英伟达的这些突破不仅仅是吹嘘的资本——这些进步可为任何使用NLP对话式人工智能和GPU硬件的人提供切实的好处。Nvidia在它的其中一个SuperPOD系统上打破了训练时间记录,该SuperPOD系统由运行1472个V100 GPU的92个Nvidia DGX-2H系统组成;在运行Nvidia TensorRT的Nvidia T4 GPU上完成推理过程。Nvidia TensorRT在性能上超出高度优化的CPU许多个量级。不过,该公司将公开BERT训练代码和经过TensorRT优化的BERT样本,让所有人都可以通过GitHub利用。

除了这些里程碑以外,英伟达的研究部门还建立并训练了有史以来最大的一个基于“Transformer”的语言模型。这也是BERT的技术基础。该定制模型包含的参数多达83亿个,规模是当前最大的核心BERT模型BERT-Large的24倍。英伟达将这个模型命名为“Megatron”,它也对外提供了用于训练这个模型的PyTorch代码,因而其他人能够自行训练出类似的基于“Transformer”的大型语言模型。

原文标题:【网上研讨会】如何从海量的非结构化数据中提取和分析关键信息?

文章出处:【微信号:FPGA-EETrend,微信公众号:FPGA开发圈】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

AI安防行业取得耀眼成绩 产品落地推动技术创新

近日,胡润研究院与知识产权与科创云平台汇桔联合发布了《IP助燃AI新纪元—2019中国人工智能产业知....
发表于 11-18 11:31 14次 阅读
AI安防行业取得耀眼成绩 产品落地推动技术创新

AI在智能手机中悄然起飞 应用处理器出货量增速迅猛

Strategy Analytics手机元件技术服务发布的研究报告《2019年Q2智能手机应用处理器....
发表于 11-18 11:23 24次 阅读
AI在智能手机中悄然起飞 应用处理器出货量增速迅猛

AI特殊教育学校 让“盲校无教材”成为历史

在海拔3600米高度的拉萨市特殊教育学校,以往缺乏课外教材的视障孩子们迎来了一位“好老师”。今年十月....
发表于 11-18 11:07 15次 阅读
AI特殊教育学校 让“盲校无教材”成为历史

人工智能伦理的辩论中 权力无处不在

在最近于梵蒂冈城举行的“数字时代科技公益大会”上,教皇敦促Facebook高管、风险投资人和政府监管....
发表于 11-18 10:57 72次 阅读
人工智能伦理的辩论中 权力无处不在

中国智慧城市的发展过程艰苦吗

智慧城市在中国建设的十年,作者提出面临四大痛点:良好的生态难出现、数据安全和数据融合的矛盾、缺乏好的....
发表于 11-18 10:48 11次 阅读
中国智慧城市的发展过程艰苦吗

AI加持下 猎豹移动软硬件协同增长

今天,AI对企业生产力与商业价值的影响,怎么形容恐怕都不过分。我们已经见证过无数科技带来的增长神话,....
发表于 11-18 10:48 24次 阅读
AI加持下 猎豹移动软硬件协同增长

英伟达为提高安全性 开发了自动驾驶可扩展安全性测试平台DriveFI

安全性,一直都是自动驾驶研发的关键问题。前几天,美国官方判定2019年3月全球首个自动驾驶汽车撞死行....
发表于 11-18 10:47 24次 阅读
英伟达为提高安全性 开发了自动驾驶可扩展安全性测试平台DriveFI

日本雅虎与Line即将合并,日本用户一共超过1亿

为了合并,ZHD母公司软银将与Line母公司韩国NAVER联手对Line进行私有化,然后让ZHD 1....
的头像 汽车玩家 发表于 11-18 10:42 63次 阅读
日本雅虎与Line即将合并,日本用户一共超过1亿

中国移动发布了5G+AI智慧网络系列产品

5G网络业务种类丰富、数据形态各异、场景需求多样,因此将AI应用于移动通信网络,实现智能化的业务感知....
发表于 11-18 10:10 27次 阅读
中国移动发布了5G+AI智慧网络系列产品

华为张顺茂:算力决定生产力,未来AI发展五大趋势不容错过

11月14日,在深圳高交会的高新技术论坛上,来自华为Cloud& AI产品与服务 CTO张顺茂分享了....
的头像 章鹰 发表于 11-18 10:03 248次 阅读
华为张顺茂:算力决定生产力,未来AI发展五大趋势不容错过

人工智能核心技术有什么很明显的难点

情感分析或情感人工智能,在商业应用中通常被称为意见挖掘,是自然语言处理(NLP)的一个非常流行的应用....
发表于 11-18 10:03 19次 阅读
人工智能核心技术有什么很明显的难点

使用人工智能来预测闪电何时何地会袭来

闪电是自然界中最不可预测的现象之一。它经常杀死人和动物,并纵火烧毁房屋和森林。它可以使飞机保持接地状....
发表于 11-18 09:56 272次 阅读
使用人工智能来预测闪电何时何地会袭来

德迅投资:未来占领AI制高点还是要靠硬件

未来的AI制高点到底是什么?德迅投资董事总经理谢彤认为,还是要靠传感器、信号处理芯片等这样的硬科技。
的头像 墨记 发表于 11-18 09:27 290次 阅读
德迅投资:未来占领AI制高点还是要靠硬件

半导体材料需求上涨,表现强于预期

11月18日报道台媒称,美国半导体生产设备公司应用材料财报预测优于分析师预期,英伟达财报也强于预料,....
的头像 汽车玩家 发表于 11-18 09:05 66次 阅读
半导体材料需求上涨,表现强于预期

云天励飞发布5AIoT芯片 加快AI生态的布局

其中,人工智能作为新兴产业,中美两国几乎同步走在全球AI科技前沿,是我国实现芯片自主可控最快的一个领....
发表于 11-18 08:58 268次 阅读
云天励飞发布5AIoT芯片 加快AI生态的布局

AI防癌地图不断展开 医学科研发展的速度也越来越快

有资深业内人士曾表示,投机者“走一步看一步”,有理想的创业者“走一步看百步”。相比于很多医疗公司终日....
发表于 11-18 08:58 31次 阅读
AI防癌地图不断展开 医学科研发展的速度也越来越快

AI助推航天发展 加速对浩瀚太空探索的脚步

近日,快舟一号甲遥十一运载火箭,搭载“吉林一号”高分02A卫星从酒泉卫星发射中心发射升空,卫星顺利进....
发表于 11-18 08:51 23次 阅读
AI助推航天发展 加速对浩瀚太空探索的脚步

网络中的AI有哪些真真假假

人工智能(AI)的前景令人信服,但是也给安全经理带来警笛声。
发表于 11-17 11:05 178次 阅读
网络中的AI有哪些真真假假

我们现在处于AI发展的什么阶段

人工智能不仅仅是我们去定义的,现在有不同的技术,它们都是人工智能的基础,包括机器学习、表示性学习和深....
发表于 11-17 10:47 226次 阅读
我们现在处于AI发展的什么阶段

人工智能应该被视为机遇还是危险

经过数十年的发展,人工智能技术已有望成为众多企业的重要价值来源。
发表于 11-17 10:42 57次 阅读
人工智能应该被视为机遇还是危险

印度军队使用机器人和AI技术帮助控制克什米尔地区的反恐行动

11月13日消息报道,由于在反恐行动中,印度驻克什米尔部队出现不少伤亡事件,印度军队已决定使用机器人....
发表于 11-17 09:22 329次 阅读
印度军队使用机器人和AI技术帮助控制克什米尔地区的反恐行动

Google Cloud 的联络中心AI全面上市

Google云使Contact Center AI现已全面投入使用。云服务是使用对话式AI引擎Dia....
的头像 刘伟DE 发表于 11-17 09:14 659次 阅读
Google Cloud 的联络中心AI全面上市

关于AI数据存储设备选型的一些关键影响要素

人工智能(AI)和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的最重要工具之一。但在选购AI....
发表于 11-16 11:34 141次 阅读
关于AI数据存储设备选型的一些关键影响要素

人工智能技术正在深刻影响着广泛的业务范围

乍看之下,戴尔技术公司正在利用AI开拓支持客户的新方法可能并不明显。从最先进的AI戴尔EMC Rea....
发表于 11-16 11:03 481次 阅读
人工智能技术正在深刻影响着广泛的业务范围

人工智能的应用为我们的生活提供了更好的服务

这些天来,像AI这样的流行语很容易引起注意。但这并不是我唯一的意图。我的目的是就AI如何在无线电接入....
发表于 11-16 11:01 720次 阅读
人工智能的应用为我们的生活提供了更好的服务

TomTom与UvA合作用AI实现自动驾驶高精地图

据外媒报道,专业数字地图公司TomTom与阿姆斯特丹大学(UvA)于近日宣布,双方将启动一个全新的实....
的头像 汽车玩家 发表于 11-16 10:59 385次 阅读
TomTom与UvA合作用AI实现自动驾驶高精地图

驾驶员监控系统可预测驾驶员的行为

日前,瑞典一家科技公司Smart Eye透露,将向一家日本车企交付驾驶员监控系统(DMS),但公司并....
的头像 汽车玩家 发表于 11-16 10:58 320次 阅读
驾驶员监控系统可预测驾驶员的行为

HPE通过人工智能技术来增强存储超融合产品

Hewlett Packard Enterprise的两个公告强调了人工智能使系统更具自主性和适应不....
发表于 11-16 10:55 223次 阅读
HPE通过人工智能技术来增强存储超融合产品

华为董事长梁华主题演讲,这三点很重要

演讲中,梁华从5G+云+AI的角度分享了5G时代如何助力各行各业的数字化转型、如何使能电信行业自身,....
的头像 汽车玩家 发表于 11-16 10:32 411次 阅读
华为董事长梁华主题演讲,这三点很重要

智能时代下工业机器人的应用将越来越广泛

我国是世界第一人口大国,多年来得益于充足的劳动力以及较低的劳动成本,吸引了许多外商投资,使得制造业发....
发表于 11-16 10:15 362次 阅读
智能时代下工业机器人的应用将越来越广泛

NVIDIA CEO:索尼和微软应用光追是因为RTX显卡的成功

索尼、微软双双确认,PS5和Xbox Scarlett在硬件底层的选择上再次惊人一致,均来自AMD半....
的头像 汽车玩家 发表于 11-16 10:14 156次 阅读
NVIDIA CEO:索尼和微软应用光追是因为RTX显卡的成功

中国移动与达闼科技合作将共同推动5G+AI+智能服务机器人产业融合

中国移动集团有限公司副总裁赵大春和达闼科技副总裁杨光华签订战略合作协议,就5G+AI+智能服务机器人....
发表于 11-16 09:39 72次 阅读
中国移动与达闼科技合作将共同推动5G+AI+智能服务机器人产业融合

游戏和数据中心芯片推动英伟达Q3收入30.1亿美元

电子发烧友讯 视频游戏和超大规模数据中心芯片客户的需求驱使英伟达(Nvidia)截至10月27日的第....
的头像 刘伟DE 发表于 11-15 18:46 605次 阅读
游戏和数据中心芯片推动英伟达Q3收入30.1亿美元

人工智能怎样驱动未来生活的改革

随着技术的发展成熟,人工智能开始走出实验室,为人类生活的方方面面开始赋能。
发表于 11-15 17:41 102次 阅读
人工智能怎样驱动未来生活的改革

人工智能+大数据为什么受到了老年人的认可

该智慧养老服务平台将大数据、云计算、物联网等信息技术、人工智能、互联网思维与区域养老服务有机结合起来....
发表于 11-15 17:38 73次 阅读
人工智能+大数据为什么受到了老年人的认可

人工智能有着怎样的思考

计算模型和算法应提供其输入数据特征及属性调整和变化的接口,既保证算法复杂性的可收敛(如输入数据的降维....
发表于 11-15 17:25 110次 阅读
人工智能有着怎样的思考

人工智能怎样顺着风势向上发展

人工智能,已经成为全球科技竞争的制高点,并连续3年写入国务院政府工作报告。
发表于 11-15 17:21 90次 阅读
人工智能怎样顺着风势向上发展

人工智能赋能新的领域有什么亮点

“人工智能”对于用户群体在消费群体中的热度日渐增高,越来越多的行业也逐步和AI技术相融合,为的就是能....
发表于 11-15 17:13 48次 阅读
人工智能赋能新的领域有什么亮点

你安装上AI输入法了吗

AI技术也在输入准确度方面为用户带来了惊喜。
发表于 11-15 17:07 52次 阅读
你安装上AI输入法了吗

我们应该怎样看待人工智能产业创新

人工智能技术从上世纪五六十年代便已经开始发展,经过多年的探索研究,人工智能目前可以分为基础性硬件、软....
发表于 11-15 17:02 64次 阅读
我们应该怎样看待人工智能产业创新

从商业智能到人工智能是如何转变的

传统的商业智能已经不能满足企业数据的数量、多样性和速度性的要求,现在是让新的人工智能工具来弥补不足的....
发表于 11-15 16:55 42次 阅读
从商业智能到人工智能是如何转变的

未来的人工智能或许会怎样影响我们

人工智能(AI)无处不在,它能以各种各样的方式促进繁荣和改变我们的生活。
发表于 11-15 16:51 197次 阅读
未来的人工智能或许会怎样影响我们

人工智能的灵魂是怎样的

人工智能的崛起衍生出了多种多样的“新事物”,智能语音助手就是其中的一员。
发表于 11-15 16:43 64次 阅读
人工智能的灵魂是怎样的

网络智能监控服务是怎样的体验

越来越多企业采用多云和混合云,将其作为云端战略的一部分,而连结云端的基础设施,因为使用群体环境差异,....
发表于 11-15 16:40 58次 阅读
网络智能监控服务是怎样的体验

搜狗输入法开始更新 AI让输入更快更准

作为面世13年的国民输入品牌,10.0版本的推出,对搜狗输入法具有里程碑式的意义。新版本中,搜狗输入....
发表于 11-15 15:18 86次 阅读
搜狗输入法开始更新 AI让输入更快更准

AI行业进入下半场 创新精神十分有必要

2019安博会,关键词是“生态、平台、开放、实战、场景”,但同时具备这些五大要素的公司寥寥可数。
发表于 11-15 14:59 38次 阅读
AI行业进入下半场 创新精神十分有必要

英伟达营收又下滑,云计算业务收入有增长

这也是英伟达营收连续第四个季度下降。但意外的是,财报发布后,股价并未有太大波动,且华尔街仍看好前景。....
的头像 汽车玩家 发表于 11-15 14:43 334次 阅读
英伟达营收又下滑,云计算业务收入有增长

高通创投沈劲:为了培育和加速在5G应用与技术方面的创新

今年10月底,高通宣布设立了总额达2亿美元的“高通创投5G生态系统风险投资基金(5G Ecosyst....
的头像 牵手一起梦 发表于 11-15 14:34 360次 阅读
高通创投沈劲:为了培育和加速在5G应用与技术方面的创新

贸泽发布UDOO BOLT创客板,为VR、AI、机器人等应用提供强大开发平台

贸泽电子 (Mouser Electronics) 即日起备货UDOO备受期待的BOLT创客板。
发表于 11-15 11:31 109次 阅读
贸泽发布UDOO BOLT创客板,为VR、AI、机器人等应用提供强大开发平台

AI+教育可以实现教育公平 让每个孩子都伴随着一个最优秀的老师

近日,浙江小学生佩戴监控头环上课的视频在网络上流传,视频中,孩子戴在头上的检测头环号称“脑机接口”,....
发表于 11-15 10:45 96次 阅读
AI+教育可以实现教育公平 让每个孩子都伴随着一个最优秀的老师

英伟达的TK1模块搭配DLP2000EVM模块,通过I2C修改投影模块的原始图片怎么做?

目前我参考TK1的手册,按照 的教程, 下载了i2ctools工具,然后硬件连接i2c的数据线和时钟线,通过i2cdetect等命令查看了地址,...
发表于 04-25 16:46 387次 阅读
英伟达的TK1模块搭配DLP2000EVM模块,通过I2C修改投影模块的原始图片怎么做?

求助,17.2版本的PCB无法降版本,求大哥们把这个16.6的降为16.3版本的万分感谢

附件为英伟达TX2的开发板,求降为16.3版本的,不然无法导入AD中去...
发表于 10-18 14:28 1806次 阅读
求助,17.2版本的PCB无法降版本,求大哥们把这个16.6的降为16.3版本的万分感谢

英伟达GPU惨遭专业矿机碾压,黄仁勋宣布砍掉加密货币业务!

世界最大的显卡和图形芯片制造商英伟达正式宣布退出加密货币业务。 公司首席财务官Colette Kress在声明中表示:“我们认为公...
发表于 08-24 10:11 721次 阅读
英伟达GPU惨遭专业矿机碾压,黄仁勋宣布砍掉加密货币业务!

英伟达发布新一代 GPU 架构图灵和 GPU 系列 Quadro RTX

在 8 月 14 日的 SIGGRAPH 2018 大会上,英伟达 CEO 黄仁勋正式发布了新一代 GPU 架构 Turing(图灵),以及一系...
发表于 08-15 10:59 987次 阅读
英伟达发布新一代 GPU 架构图灵和 GPU 系列 Quadro RTX