0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能芯片革命:HBM崛起

微云疏影 来源:综合整理 作者:综合整理 2023-12-19 14:18 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

曾几何时,我们需要花费一个多小时才能下载一部电影。如今,最新的处理器能够在一秒钟内处理相当于160多部全高清电影的数据量。高带宽内存(HBM)是实现这一高效数据传输的核心技术。虽然HBM在2013年首次亮相时曾面临商用风险评估,但是经过几年的发展和验证,现已成为人工智能芯片的基本要素。各大芯片制造商,例如英伟达AMD,均致力于推动此项尖端技术,以满足他们日益增长的处理能力及带宽需求。

大量数据生成式人工智能应用对传统存储芯片的性能产生了巨大挑战。为了应对这个问题,我们需要更快的数据传输速度和更高的处理效率,从而导致更密集的芯片布局以及更大的能耗输出。一直以来,传统安装形式均是将芯片平放在同一平面上,然后利用电缆及保险丝进行链接。这一方式会随着芯片数量的增多而降低通信和功耗效率。而HBM改变了这一状况,它将多个芯片沿垂直方向堆叠,同时利用尖端材料,包括比纸片还要纤小的微型电路板,将模块汇聚成为立体形态。这一改进对于人工智能芯片制造商来说极为重要,因为当芯片间距减小,能耗亦随之下降,HBM的能耗较之传统方式低了约四分之三。此外,HBM还拥有高达五倍的带宽优势,且占用空间小于现有产品的一半。

尽管如此,HBM的成本仍然较高,为常见内存芯片的五倍以上。然而,由于HBM满足了现代高性能人工智能芯片的特殊需求,因此此类集成了HBM的人工智能芯片也具有较高价值。与十年前相比,现在各大科技巨头的芯片投资预算明显增加。据TrendForce公司数据显示,全球HBM市场中50%的份额由韩国SK海力士占有,余下市场则被三星和美光瓜分。这两家公司分别生产了上一代以及即将面世的新款HBM芯片。

总的来说,在当前市场环境下,只有SK海力士公司能够大规模生产第三代HBM产品。据称,该公司满足了全球超过60%的客户需求,而其他竞争者则主要面向市场生产上一代产品。尽管HBM目前尚存在成本较高等问题,但毫无疑问的是,随着人工智能领域的不断拓展以及数据中心规模的扩大,对于HBM的需求将会持续攀升。预测至2023年6月份,全球HBM需求将同比增加60%。

2024年,人工智能芯片大战将进一步推动这一增长。AMD刚刚推出了一款新产品,希望与英伟达抗衡。全球市场供不应求,再加上人们对价格更低廉的英伟达产品需求旺盛,这意味着能够提供规格相当芯片的企业将有机会获得丰厚的利润。但是,撼动英伟达的关键不仅在于物理芯片本身,还在于其软件生态系统,其中包括流行的开发工具和编程模型。要想复制这一点,需要数年时间。

这就是为什么硬件,以及每块新芯片中的HBM数量,对英伟达的竞争者来说变得更加重要。通过使用升级的HBM来提高内存容量,是短期内获得竞争力的少数方法之一。例如,AMD最新的MI300加速器使用了8个HBM,比英伟达产品的5或6个要多。

芯片历来是一个周期性行业,容易出现剧烈的繁荣和萧条。从目前的趋势来看,新产品需求的持续增长应该会使未来的衰退期不像过去那么动荡。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1813

    文章

    49785

    浏览量

    261922
  • 存储芯片
    +关注

    关注

    11

    文章

    1004

    浏览量

    44730
  • HBM
    HBM
    +关注

    关注

    2

    文章

    426

    浏览量

    15719
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    人工智能+消费:技术赋能与芯片驱动未来

    电子发烧友网站提供《人工智能+消费:技术赋能与芯片驱动未来.pptx》资料免费下载
    发表于 11-26 14:50 6次下载

    利用超微型 Neuton ML 模型解锁 SoC 边缘人工智能

    的框架小 10 倍,速度也快 10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍这对开发人员意味着什么,以及使用 Neuton 模型如何改进您的开发和终端
    发表于 08-31 20:54

    人工智能+”,走老路难赚到新钱

    昨天的“人工智能+”刷屏了,这算是官方第一次对“人工智能+”这个名称定性吧?今年年初到现在,涌现出了一大批基于人工智能的创业者,这已经算是AI2.0时代的第三波创业潮了,第一波是基础大模型,第二波
    的头像 发表于 08-27 13:21 548次阅读
    “<b class='flag-5'>人工智能</b>+”,走老路难赚到新钱

    挖到宝了!人工智能综合实验箱,高校新工科的宝藏神器

    家人们,最近在研究人工智能相关设备,挖到了一款超厉害的宝藏——比邻星人工智能综合实验箱,必须来给大伙分享分享!可☎(壹捌伍 柒零零玖 壹壹捌陆) 一、开箱即学,便捷拉满 这个实验箱真的是为使用者
    发表于 08-07 14:30

    挖到宝了!比邻星人工智能综合实验箱,高校新工科的宝藏神器!

    家人们,最近在研究人工智能相关设备,挖到了一款超厉害的宝藏——比邻星人工智能综合实验箱,必须来给大伙分享分享!可☎(壹捌伍 柒零零玖 壹壹捌陆) 一、开箱即学,便捷拉满 这个实验箱真的是为使用者
    发表于 08-07 14:23

    2025人工智能十大趋势

    ,通过10个关键趋势勾勒出2025人工智能发展的三大主题基础模型的跃迁、智能行动者的崛起以及AI走向物理世界,深入剖析了AI从“智能工具”迈向“共生伙伴”的关键跃
    的头像 发表于 08-05 11:42 5075次阅读
    2025<b class='flag-5'>人工智能</b>十大趋势

    超小型Neuton机器学习模型, 在任何系统级芯片(SoC)上解锁边缘人工智能应用.

    Neuton 是一家边缘AI 公司,致力于让机器 学习模型更易于使用。它创建的模型比竞争对手的框架小10 倍,速度也快10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍
    发表于 07-31 11:38

    迅为RK3588开发板Linux安卓麒麟瑞芯微国产工业AI人工智能

    迅为RK3588开发板Linux安卓麒麟瑞芯微国产工业AI人工智能
    发表于 07-14 11:23

    最新人工智能硬件培训AI 基础入门学习课程参考2025版(大模型篇)

    人工智能大模型重塑教育与社会发展的当下,无论是探索未来职业方向,还是更新技术储备,掌握大模型知识都已成为新时代的必修课。从职场上辅助工作的智能助手,到课堂用于学术研究的智能工具,大模型正在工作生活
    发表于 07-04 11:10

    生成式人工智能认证:解锁AI时代个人与组织的进化密码

    当人类站在智能革命的奇点回望,会发现技术迭代的速度早已超越个体认知的进化节奏。生成式人工智能的爆发式发展,不仅重构了知识生产与传播的方式,更在职业领域掀起了一场静默的革命。这场
    的头像 发表于 05-23 09:47 445次阅读

    生成式人工智能认证:重构AI时代的人才培养与职业跃迁路径

    当人类站在生成式人工智能(Generative AI)的技术奇点上回望,会发现这场革命早已超越了工具迭代的范畴——它正在重新定义人类与技术的协作模式,重塑职业世界的运行逻辑。生成式人工智能认证的诞生
    的头像 发表于 05-23 09:29 647次阅读

    生成式人工智能认证:重塑AI职业生态的底层逻辑

    人工智能技术渗透至社会毛细血管的今天,生成式人工智能(Generative AI)的崛起正在改写人类与技术的协作范式。从ChatGPT引爆的全球热潮,到Sora模型推动的文生视频革命
    的头像 发表于 05-23 09:17 587次阅读

    开售RK3576 高性能人工智能主板

    ,HDMI-4K 输出,支 持千兆以太网,WiFi,USB 扩展/重力感应/RS232/RS485/IO 扩展/I2C 扩展/MIPI 摄像头/红外遥控 器等功能,丰富的接口,一个全新八核拥有超强性能的人工智能
    发表于 04-23 10:55

    2025年人工智能会发生哪些变化

    2025年人工智能会发生哪些革命性的变化?斯坦福大学以人为中心的人工智能研究所的领先专家表示,2025 年人工智能的一个主要趋势是协作人工智能
    的头像 发表于 01-21 11:28 1589次阅读

    SK海力士增产HBM DRAM,应对AI芯片市场旺盛需求

    SK海力士今年计划大幅提升其高带宽内存(HBM)的DRAM产能,目标是将每月产能从去年的10万片增加至17万片,这一增幅达到了70%。此举被视为该公司对除最大客户英伟达外,其他领先人工智能(AI)芯片公司需求激增的积极回应。
    的头像 发表于 01-07 16:39 1210次阅读