0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI和机器学习应用需求疯涨或使GDDR内存供应短缺

NJ90_gh_bee81f8 来源:未知 作者:胡薇 2018-08-02 11:30 次阅读

GDDR (图像双倍数据传输率)内存技术是专为高端显卡而设计的高效能DDR规格,因此,其中的‘G’仍然象征着“图像”(graphics);不过,近来推动对于GDDR内存技术需求的新应用,显然已经与像素无关了。

事实上,诸如人工智能(AI)和机器学习等需要超快速内存的应用,已经使得GDDR内存供应短缺了,因此,GDDR的制造商如果能把握机会加速量产,现在正是一个不错的时机。例如,美光科技(Micron Technology)最近开始量产其8Gb GDDR6 (第六代图像双倍数据传输率)内存,当然瞄准的就是图像市场,同时也看好近来热门的汽车与网络等领域。

GDDR内存的一些新兴应用仍然是图像导向的。在不断成长中的车用内存市场,它将支持越来越多的视觉仪表板和先进驾驶辅助系统(ADAS),这些系统都必须立即回应驾驶人的动作,而自动驾驶车更需要高性能内存来处理大量的实时数据。其他新兴应用还包括增强现实(AR)和虚拟现实(VR)。当然,视讯对于内存的需求永远不嫌太多,尤其是4K已经越来越被广泛采用了,紧随其后的就是8K规格。

美光运算连网业务部总监Andreas Schlapka表示,过去三年来,传统的GDDR应用,如显卡和游戏机,开始扩展到更多的连网应用和自动驾驶。在现代化的车辆中,高性能内存必须处理来自传感器和摄影机产生的庞大数据量。同样地,先进的连网技术也开始采用GDDR实现网络适配器(NIC)。他说:“五年前,数据中心的最大流量来自数据的输入和输出。在特定节点上完成有关的信息,然后再传送回用户的终端。”而今,数据中心的更多流量来自不同节点之间的数据传输,从而推动对于传输速率的巨大需求。

随着更多内存被加进同一封装中,每一世代的GDDR内存(包括美光)技术不断在改进中,而且更加强调以更低功耗执行更快的速度

提到传输速率时,Schlapka说,随着加密货币和加密挖矿蔚为主流,GDDR技术也十分有利于加密货币应用。庞大的数据资必须快速地运行,因此,所采用的内存必须能与A6或GPU并驾齐驱。同样地,高性能运算,特别是AI,也都受惠于GDDR的高带宽优势。他说:“如果你要训练神经网络,就必须尽可能地执行最多的数据,理想情况下,从每一针脚到每一位都得算计在内。你必须将其加载内存中,然后快速地进行运算。我认为这就是GDDR得以有效发挥之处,而且够成为理想的解决方案。”

三星半导体(Samsung Semiconductor)专用DRAM营销经理Tien Shiah说,GDDR持续稳步发展中,每个接脚的速度更快,而且传统上搭配GPU用于图像应用中。“现在,GPU正在寻找专用领域,特别是高端GPU开始进入机器学习类型的应用,因为这一类AI算法非常适合 GPU的平行架构。”但是,他说,有些应用还需要进一步的发展,以及采用高带宽内存(HBM)。三星自今年初开始为先进图像系统生产16Gbit GDDR6。

虽然许多新兴的GDDR技术应用都来自汽车和高性能运算领域,但新的消费类应用也不断出现,例如8K视频处理、AR和VR等。不过,Shiah指出,AR/VR应用的发展并不如预期。

Shiah说:“这项技术存在着许多的市场炒作和用户的兴奋情绪,然后,随着人们开始导入后,有些人却感到恶心和晕眩,但这其实与计算机系统是否足够强大有关。”他说,早期的产品为了进入市场通常会降低规格,以便让更多人都能使用这项技术,但其折衷之处就是导致有些人感到头晕目眩。“随着计算机系统每一年都会变得更加强大,以及GDDR6等图像技术的处理能力提高,AR/VR的体验会更好。再加上由于GPU和CPU的性能不断进展,越来越多人将能享受这项技术的乐趣,而接下来的新战场就会转移到内存了。”

好消息是,它并不像近年来面临障碍的平面NAND,或需要等3D变得更具成本效益才能继续向前发展,GDDR看来还有很多的选择。Shiah说:“我们一直在研究未来将会发生什么,现在,我们并未看到任何障碍,接下来也将继续致力于该技术的进展。”

Schlapka也看到了新兴内存技术的成长空间,而且,除了GDDR6之外还有其他技术,无论是GDDR7还是其他内存。“我们认为还有空间可以进一步发展像GDDR6这一类平行技术,但这是我们在接下来四到五年内需要探讨的问题。”

三星在今年初为先进图像系统量产16Gigabit GDDR6内存

GDDR的当前迭代已达到临界点了。Jon Peddie Research负责人Jon Peddie表示,作为JEDEC标准之一,它已经通过几家公司将其纳入产品的完整测试了,包括 AMD英伟达 (Nvidia)和高通(Qualcomm)等。他说:“这些公司都投入了这项技术,更进一步确保它是竹十分可靠的。”美光是第一家进入大规模量产的公司。“这对于游戏玩家来说是个好消息,对于AI开发人员来说是好消息,对于工作站人员来说也是一个大好消息。这一切都是好消息,而且当他们学会如何从工艺中挤出更多产能时,一切还会更美好。”

然而,正如其他技术一样,摩尔定律(Moore’s Law)也对于GDDR的可扩展性带来挑战。Peddie说:“GDDR6建立在摩尔最新、最好的工艺节点上,而且与任何新工艺节点一样,在量产方面也存在着问题。不过,随着半导体制造商日益熟悉如何建构这些产品以及经验更丰富时,产量将会越来越高。”理想的产量意味着制造商将会开始“赚钱”,他说,但随着工艺节点进入个位数的纳米级时,意味着还必须处理难以实现量产制造的“原子级”议题。

无论如何,GDDR内存目前正处于一个理想的发展位置,而且每一世代都持续改善中。Peddie说:“你将会看到一个美好的摩尔定律模式——更多的内存整合于同一封装中,而且能以更低功耗实现更快速运作。这就是摩尔定律的精神所在。GDDR系列内存正是摩尔定律如何运作的典型例子。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26403

    浏览量

    264006
  • 机器学习
    +关注

    关注

    66

    文章

    8108

    浏览量

    130542
  • GDDR
    +关注

    关注

    0

    文章

    22

    浏览量

    4583

原文标题:AI应用需求疯涨或带来GDDR6缺货潮

文章出处:【微信号:gh_bee81f890fc1,微信公众号:面包板社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Rambus推GDDR7内存控制器IP满足AI应用需求

    据报道,该公司的 GDDR7 控制器采用 PAM3 信号,运行速度高达 40 Gbps,能为 GDDR7 存储器设备提供 160 GB/s 的吞吐量,相比其自身研发的GDDR6 控制器,提升了 67%。
    的头像 发表于 04-23 15:52 52次阅读

    西部数据硬盘全线提价,AI需求激增与供应链紧张成涨价双引擎

    西部数据高级副总裁Scott Davis在函件中明确指出,由于市场对HDD机械硬盘和SSD固态硬盘的需求远超预期,导致产品供应出现严重短缺
    的头像 发表于 04-11 14:55 392次阅读

    FPGA在深度学习应用中将取代GPU

    基础设施,人们仍然没有定论。如果 Mipsology 成功完成了研究实验,许多正受 GPU 折磨的 AI 开发者将从中受益。 GPU 深度学习面临的挑战 三维图形是 GPU 拥有如此大的内存和计算能力
    发表于 03-21 15:19

    GDDR和DDR代表什么?GDDR和DDR内存有什么区别?

    DDR 代表双倍数据速率double data rate,GDDR 代表图形双倍数据速率graphics double data rate。
    的头像 发表于 03-17 09:24 426次阅读
    <b class='flag-5'>GDDR</b>和DDR代表什么?<b class='flag-5'>GDDR</b>和DDR<b class='flag-5'>内存</b>有什么区别?

    AI智能呼叫中心

    、数据驱动决策以及人力成本节约,旨在深入剖析其核心优势和对企业的重要意义。一、自动化处理AI智能呼叫中心通过引入自然语言处理(NLP)、机器学习和自动化技术,使得呼叫中心的处理过程更加高效和准确,
    发表于 09-20 17:53

    机器学习和人工智能可轻松地满足存储需求

    的是,机器学习和人工智能 (AI) 可以更轻松地满足存储需求。   机器学习 与现代公司收集更多
    的头像 发表于 09-13 09:08 490次阅读

    机器学习和深度学习的区别

      机器学习和深度学习是当今最流行的人工智能(AI)技术之一。这两种技术都有助于在不需要人类干预的情况下让计算机自主学习和改进预测模型。本文
    发表于 08-28 17:31 1035次阅读

    机器学习有哪些算法?机器学习分类算法有哪些?机器学习预判有哪些算法?

    机器学习有哪些算法?机器学习分类算法有哪些?机器学习预判有哪些算法?
    的头像 发表于 08-17 16:30 1386次阅读

    AI 人工智能的未来在哪?

    人工智能、AI智能大模型已经孵化;繁衍过程将突飞猛进,ChatGPT已经上线。 世界首富马斯克认为AI对人类是一种威胁;谷歌前CEO施密特认为AI机器
    发表于 06-27 10:48

    Rambus GDDR6 PHY 赋能AI服务器

    GDDR通常指的是用在显卡上的内存,本质上还是双倍速率同步动态随机存储器,它是为了设计高端显卡而特别设计的高性能 DDR 存储器规格,其有专属的工作频率、时钟频率、电压,因此与市面上标准的 DDR 存储器有所差异
    的头像 发表于 06-26 14:41 306次阅读
    Rambus <b class='flag-5'>GDDR</b>6 PHY 赋能<b class='flag-5'>AI</b>服务器

    使用机器学习模型(AI)进行预测是否安全

    电子发烧友网站提供《使用机器学习模型(AI)进行预测是否安全.zip》资料免费下载
    发表于 06-14 11:04 0次下载
    使用<b class='flag-5'>机器</b><b class='flag-5'>学习</b>模型(<b class='flag-5'>AI</b>)进行预测是否安全

    缓解AI推理算力焦虑,高带宽GDDR6成杀手锏?

    据 Rambus IP 核产品营销高级总监 Frank Ferro 分享,AI 推理应用对带宽的需求通常在 200 到 500Gb/s 的范围之间波动,每一个 GDDR6 设备的带宽都可以达到
    的头像 发表于 06-02 15:49 316次阅读
    缓解<b class='flag-5'>AI</b>推理算力焦虑,高带宽<b class='flag-5'>GDDR</b>6成杀手锏?

    AI推理打造高达24Gb/s的GDDR6 PHY,Rambus全面支持中国市场的AI升级

    人工智能在通过大量的数据进行训练之后,神经网络打造的完整模型将被集成在边缘或实际应用场之中,往往大量的AI正是应用在于边缘AI推理。与AI训练需要大量的数据和算力不同,AI推理对算力的
    的头像 发表于 05-26 16:38 1193次阅读
    为<b class='flag-5'>AI</b>推理打造高达24Gb/s的<b class='flag-5'>GDDR</b>6 PHY,Rambus全面支持中国市场的<b class='flag-5'>AI</b>升级

    Rambus推出提升GDDR6内存接口性能的Rambus GDDR6

    凭借Rambus GDDR6 PHY所实现的新一级性能,设计人员可以为带宽要求极为苛刻的工作负载提供所需的带宽。和我们领先的HBM3内存接口一样,这项最新成就表明了我们不断致力于开发最先进的内存性能,以满足生成式
    的头像 发表于 05-17 14:22 584次阅读

    Rambus通过业界领先的24Gb/s GDDR6 PHY提升AI性能

    GDDR6能够为人工智能/机器学习AI/ML)、图形和网络应用提供高成本效益、高带宽的内存性能。   Rambus首席运营官范贤志
    发表于 05-17 13:47 340次阅读