0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA预测:GPU将推动AI性能逐步增长

如意 来源:快科技 作者:上方文Q 2020-12-15 15:32 次阅读

12月15日,NVIDIA GTC 2020中国线上大会上,NVIDIA首席科学家Bill Dally发表主题演讲,重点介绍了他的团队在AI研究方面的进展,特别强调了以NVIDIA创始人兼CEO黄仁勋本人命名的“黄氏定律”(Huang‘s Law)。

众所周知,“摩尔定律”在过去半个世纪推动着CPU处理器的飞速发展,而近些年明显慢了下来,GPU则持续提升,同时担任的角色也越来越多,尤其是在这个无处不AI的世界。

Bill Dally拥有120多项专利,曾任斯坦福大学计算机科学系主任,2009年加入NVIDIA,负责AI、光线追踪、高速互连领域的相关研究。

本次大会上,Bill Dally以三个项目为例,讲述了自己带领的200人的研究团队,如何成功实现“黄氏定律”,并大胆预测,GPU将推动AI性能每一年都翻一倍。

他说:“如果我们真的想提高计算机性能,黄氏定律就是一项重要指标,且在可预见的未来都将一直适用。”

为实现这一突破,NVIDIA专门开发了一种名为MAGNet的工具,它生成的AI推理加速器在模拟测试中能够达到100TOPS/W(每瓦特100万亿次操作)的推理能力,比目前的商用芯片高出一个数量级。

MAGNet采用了一系列新技术,协调并控制通过设备的信息流,最大限度地减少数据传输,而数据传输正是当今芯片中能耗最大的环节。

另外,NVIDIA还研究了更快速的光链路,可取代现有系统内的电气链路,通过利用密集波分复用技术,有望在仅仅1毫米大小的芯片上,实现Tb/s级数据的传输,是如今互连密度的十倍以上。

Bill Dally还举例展示了一个新的NVIDIA DGX系统模型,借助光链路可集成160多颗GPU。

本次GTC大会吸引了众多行业领军企业与机构参与,包括阿里巴巴、AWS、百度、字节跳动、中国电信、戴尔科技、滴滴、新华三、浪潮、快手、联想、微软、平安、腾讯、清华大学、小米。
责编AJX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 摩尔定律
    +关注

    关注

    4

    文章

    622

    浏览量

    78521
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4418

    浏览量

    126705
  • AI
    AI
    +关注

    关注

    87

    文章

    26450

    浏览量

    264063
收藏 人收藏

    评论

    相关推荐

    彭博预测2024年NVIDIA将继续领跑AI GPU市场

    据彭博社近日发布的预测报告指出,预计到2024年,英伟达公司将在人工智能(AIGPU市场上持续领先,销售额预计将高达400亿美元(相当于约2904亿元人民币)。
    的头像 发表于 04-28 10:15 58次阅读

    NVIDIA推出两款基于NVIDIA Ampere架构的全新台式机GPU

    两款 NVIDIA Ampere 架构 GPU 为工作站带来实时光线追踪功能和生成式 AI 工具支持。
    的头像 发表于 04-26 11:25 145次阅读

    利用NVIDIA组件提升GPU推理的吞吐

    本实践中,唯品会 AI 平台与 NVIDIA 团队合作,结合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)将推理的稠密网络和热
    的头像 发表于 04-20 09:39 163次阅读

    全新NVIDIA RTX A400和A1000 GPU全面加强AI设计与生产力工作流

    两款 NVIDIA Ampere 架构 GPU 为工作站带来实时光线追踪功能和生成式 AI 工具支持。
    的头像 发表于 04-18 10:29 149次阅读

    FPGA在深度学习应用中或取代GPU

    对神经网络进行任何更改,也不需要学习任何新工具。不过你可以保留你的 GPU 用于训练。” Zebra 提供了深度学习代码转换为 FPGA 硬件指令的抽象层 AI 硬件前景
    发表于 03-21 15:19

    NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

    NVIDIA 软件实现了跨  Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据处理、高性能计算和云工作负载的
    发表于 03-19 10:05 115次阅读
    <b class='flag-5'>NVIDIA</b> 发布全新交换机,全面优化万亿参数级 <b class='flag-5'>GPU</b> 计算和 <b class='flag-5'>AI</b> 基础设施

    使用NVIDIA Triton推理服务器来加速AI预测

    这家云计算巨头的计算机视觉和数据科学服务使用 NVIDIA Triton 推理服务器来加速 AI 预测
    的头像 发表于 02-29 14:04 210次阅读

    巨头豪购35万块NVIDIA最强GPU H100

    NVIDIA AI GPU无疑是当下的硬通货,从科技巨头到小型企业都在抢。
    的头像 发表于 01-29 09:58 599次阅读
    巨头豪购35万块<b class='flag-5'>NVIDIA</b>最强<b class='flag-5'>GPU</b> H100

    Oracle 云基础设施提供新的 NVIDIA GPU 加速计算实例

    生成式 AI 和大语言模型(LLM)不断推动突破性创新,训练和推理对算力的需求也随之急剧上升。 这些现代生成式 AI 应用需要全栈加速计算,首先要有能够快速、准确处理大量工作负载的先进基础设施
    的头像 发表于 09-25 20:40 288次阅读
    Oracle 云基础设施提供新的 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> 加速计算实例

    全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

    戴尔科技、慧与和联想即将推出采用 NVIDIA L40S GPUNVIDIA BlueField 的服务器,以支持 VMware Private AI Foundation
    的头像 发表于 08-23 19:10 380次阅读

    SIGGRAPH 2023 | NVIDIA 与全球数据中心系统制造商大力推动 AI 与工业数字化的发展

    OVX 服务器采用全新 NVIDIA GPU 以加速训练和推理以及图形密集型工作负载,将通过戴尔科技、慧与、联想、超微等公司提供。 洛杉矶 — SIGGRAPH — 太平洋时间 2023
    的头像 发表于 08-09 19:10 284次阅读

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业增长到200亿美元,其中大部分增长是人工智能推理。英特尔
    发表于 08-04 07:25

    NVIDIA虚拟GPU技术推动快速无痛的牙科治疗

    NVIDIA虚拟GPU技术推动快速无痛的牙科治疗
    的头像 发表于 08-01 14:46 300次阅读

    NVIDIA Hopper GPU上的新cuBLAS12.0功能和矩阵乘法性能

    NVIDIA Hopper GPU 上的新 cuBLAS 12.0 功能和矩阵乘法性能
    的头像 发表于 07-05 16:30 1759次阅读
    <b class='flag-5'>NVIDIA</b> Hopper <b class='flag-5'>GPU</b>上的新cuBLAS12.0功能和矩阵乘法<b class='flag-5'>性能</b>

    NVIDIA “魔盒”有哪些“内涵”

    来了解下,这款号称“魔盒”的AI边缘计算终端有哪些值得称道的地方。 一、处理性能和视频分析 先来回顾一下AI 边缘计算终端FCU3001的参数,其搭载的CPU为六核NVIDIA Ca
    发表于 05-26 14:12