0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能芯片革命:HBM崛起

微云疏影 来源:综合整理 作者:综合整理 2023-12-19 14:18 次阅读

曾几何时,我们需要花费一个多小时才能下载一部电影。如今,最新处理器能够在一秒钟内处理相当于160多部全高清电影的数据量。高带宽内存(HBM)是实现这一高效数据传输的核心技术。虽然HBM在2013年首次亮相时曾面临商用风险评估,但是经过几年的发展和验证,现已成为人工智能芯片的基本要素。各大芯片制造商,例如英伟达AMD,均致力于推动此项尖端技术,以满足他们日益增长的处理能力及带宽需求。

大量数据生成式人工智能应用对传统存储芯片的性能产生了巨大挑战。为了应对这个问题,我们需要更快的数据传输速度和更高的处理效率,从而导致更密集的芯片布局以及更大的能耗输出。一直以来,传统安装形式均是将芯片平放在同一平面上,然后利用电缆及保险丝进行链接。这一方式会随着芯片数量的增多而降低通信和功耗效率。而HBM改变了这一状况,它将多个芯片沿垂直方向堆叠,同时利用尖端材料,包括比纸片还要纤小的微型电路板,将模块汇聚成为立体形态。这一改进对于人工智能芯片制造商来说极为重要,因为当芯片间距减小,能耗亦随之下降,HBM的能耗较之传统方式低了约四分之三。此外,HBM还拥有高达五倍的带宽优势,且占用空间小于现有产品的一半。

尽管如此,HBM的成本仍然较高,为常见内存芯片的五倍以上。然而,由于HBM满足了现代高性能人工智能芯片的特殊需求,因此此类集成了HBM的人工智能芯片也具有较高价值。与十年前相比,现在各大科技巨头的芯片投资预算明显增加。据TrendForce公司数据显示,全球HBM市场中50%的份额由韩国SK海力士占有,余下市场则被三星和美光瓜分。这两家公司分别生产了上一代以及即将面世的新款HBM芯片。

总的来说,在当前市场环境下,只有SK海力士公司能够大规模生产第三代HBM产品。据称,该公司满足了全球超过60%的客户需求,而其他竞争者则主要面向市场生产上一代产品。尽管HBM目前尚存在成本较高等问题,但毫无疑问的是,随着人工智能领域的不断拓展以及数据中心规模的扩大,对于HBM的需求将会持续攀升。预测至2023年6月份,全球HBM需求将同比增加60%。

2024年,人工智能芯片大战将进一步推动这一增长。AMD刚刚推出了一款新产品,希望与英伟达抗衡。全球市场供不应求,再加上人们对价格更低廉的英伟达产品需求旺盛,这意味着能够提供规格相当芯片的企业将有机会获得丰厚的利润。但是,撼动英伟达的关键不仅在于物理芯片本身,还在于其软件生态系统,其中包括流行的开发工具和编程模型。要想复制这一点,需要数年时间。

这就是为什么硬件,以及每块新芯片中的HBM数量,对英伟达的竞争者来说变得更加重要。通过使用升级的HBM来提高内存容量,是短期内获得竞争力的少数方法之一。例如,AMD最新的MI300加速器使用了8个HBM,比英伟达产品的5或6个要多。

芯片历来是一个周期性行业,容易出现剧烈的繁荣和萧条。从目前的趋势来看,新产品需求的持续增长应该会使未来的衰退期不像过去那么动荡。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1776

    文章

    43899

    浏览量

    230638
  • 存储芯片
    +关注

    关注

    11

    文章

    799

    浏览量

    42470
  • HBM
    HBM
    +关注

    关注

    0

    文章

    234

    浏览量

    14383
收藏 人收藏

    评论

    相关推荐

    5G智能物联网课程之Aidlux下人工智能开发

    案例 14分21秒 https://t.elecfans.com/v/27186.html *附件:引体向上测试案例_20240126.pdf 人工智能 工业检测:芯片模组外观检测实训part1 11分40
    发表于 04-01 10:40

    英伟达寻求从三星采购HBM芯片

    英伟达正在寻求与三星建立合作伙伴关系,计划从后者采购高带宽存储(HBM芯片HBM作为人工智能(AI)芯片的核心组件,其重要性不言而喻。与
    的头像 发表于 03-25 11:42 391次阅读

    美光量产行业领先的HBM3E解决方案,加速人工智能发展

    领先地位,并且凭借 HBM3E 的超凡性能和能效为人工智能(AI)解决方案赋能。 HBM3E:推动人工智能革命 随着
    的头像 发表于 03-04 18:51 784次阅读
    美光量产行业领先的<b class='flag-5'>HBM</b>3E解决方案,加速<b class='flag-5'>人工智能</b>发展

    美光开始量产行业领先的 HBM3E 解决方案,加速人工智能发展

    里程碑式进展持续保持行业领先地位,并且凭借 HBM3E 的超凡性能和能效为人工智能(AI)解决方案赋能。     HBM3E:推动人工智能革命
    的头像 发表于 03-04 14:51 583次阅读
    美光开始量产行业领先的 <b class='flag-5'>HBM</b>3E 解决方案,加速<b class='flag-5'>人工智能</b>发展

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能
    发表于 02-26 10:17

    大算力芯片里的HBM,你了解多少?

    最近,随着人工智能行业的高速崛起,大算力芯片业成为半导体行业为数不多的热门领域HBM(高宽带内存:High-bandwidthmemory)作为大算力
    的头像 发表于 12-05 16:14 676次阅读
    大算力<b class='flag-5'>芯片</b>里的<b class='flag-5'>HBM</b>,你了解多少?

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为人们无法拒绝,无法失去的一个重要存在
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    作者给出的结论。整体读下来,可以给我们关于通用人工智能全面的了解。作者也反复强调了通用人工智能与专用智能的区别。尤其是人们错误的认为一堆专用智能堆砌起来就是通用
    发表于 09-18 10:02

    如何将人工智能应用到效能评估系统软件中去解决

      如何将人工智能应用到效能评估系统软件中去解决   华盛恒辉效能评估系统是一种非常实用的管理工具,它可以帮助组织和企业掌握其运营状况,优化业务流程,提高效率和生产力。然而,随着人工智能的迅猛发展
    发表于 08-30 12:58

    人工智能芯片和普通芯片区别

    人工智能芯片和普通芯片区别 ; 人工智能(AI)是当前最热门的技术领域之一,并且在全球范围内受到越来越多人的关注。AI的应用范围从图像识别、语音识别、自然语言处理、
    的头像 发表于 08-15 16:06 6239次阅读

    什么是人工智能芯片

    人工智能芯片是指专为人工智能算法设计的一种特殊芯片,它以高性能、低功耗、高速度、高精度为特点。人工智能
    的头像 发表于 08-14 15:33 2422次阅读

    AI 人工智能的未来在哪?

    人工智能、AI智能大模型已经孵化;繁衍过程将突飞猛进,ChatGPT已经上线。 世界首富马斯克认为AI对人类是一种威胁;谷歌前CEO施密特认为AI和机器学习对人类有很大益处。 每个国家对核武器的运用有两面性,可造可控;但AI智能
    发表于 06-27 10:48

    【书籍评测活动NO.16】 通用人工智能:初心与未来

    之后的达特茅斯研讨会开始,用机器来模仿人类学习及其他方面的智能,即实现“人工智能”(Artificial Intelligence,AI)便成为计算机领域持续的研究热点。时至今日,以深度学习为代表
    发表于 06-21 14:41

    人工智能一例

    这句话里边有几个参数? 如果x=1则执行a 如果是单计算的话只有1这一个参数。 但如果是人工智能的话有如下几个参数, 逻辑门,如果则 未知数,符号x 常量,1 函数,a 很多复杂的智能都可以如此拆分
    发表于 06-10 01:05

    【EASY EAI Nano人工智能开发套件试用体验】EASY EAI Nano人工智能开发套件开箱及硬件初体验

    今天收到了EASY EAI Nano人工智能开发套件,为大家做个开箱及硬件评测。 打开快递包装,引入眼帘的是一个设计精美蓝色的大盒子,在盒子里有EASY EAI Nano人工智能开发板、天线、喇叭
    发表于 05-31 19:18