0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能芯片革命:HBM崛起

微云疏影 来源:综合整理 作者:综合整理 2023-12-19 14:18 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

曾几何时,我们需要花费一个多小时才能下载一部电影。如今,最新的处理器能够在一秒钟内处理相当于160多部全高清电影的数据量。高带宽内存(HBM)是实现这一高效数据传输的核心技术。虽然HBM在2013年首次亮相时曾面临商用风险评估,但是经过几年的发展和验证,现已成为人工智能芯片的基本要素。各大芯片制造商,例如英伟达AMD,均致力于推动此项尖端技术,以满足他们日益增长的处理能力及带宽需求。

大量数据生成式人工智能应用对传统存储芯片的性能产生了巨大挑战。为了应对这个问题,我们需要更快的数据传输速度和更高的处理效率,从而导致更密集的芯片布局以及更大的能耗输出。一直以来,传统安装形式均是将芯片平放在同一平面上,然后利用电缆及保险丝进行链接。这一方式会随着芯片数量的增多而降低通信和功耗效率。而HBM改变了这一状况,它将多个芯片沿垂直方向堆叠,同时利用尖端材料,包括比纸片还要纤小的微型电路板,将模块汇聚成为立体形态。这一改进对于人工智能芯片制造商来说极为重要,因为当芯片间距减小,能耗亦随之下降,HBM的能耗较之传统方式低了约四分之三。此外,HBM还拥有高达五倍的带宽优势,且占用空间小于现有产品的一半。

尽管如此,HBM的成本仍然较高,为常见内存芯片的五倍以上。然而,由于HBM满足了现代高性能人工智能芯片的特殊需求,因此此类集成了HBM的人工智能芯片也具有较高价值。与十年前相比,现在各大科技巨头的芯片投资预算明显增加。据TrendForce公司数据显示,全球HBM市场中50%的份额由韩国SK海力士占有,余下市场则被三星和美光瓜分。这两家公司分别生产了上一代以及即将面世的新款HBM芯片。

总的来说,在当前市场环境下,只有SK海力士公司能够大规模生产第三代HBM产品。据称,该公司满足了全球超过60%的客户需求,而其他竞争者则主要面向市场生产上一代产品。尽管HBM目前尚存在成本较高等问题,但毫无疑问的是,随着人工智能领域的不断拓展以及数据中心规模的扩大,对于HBM的需求将会持续攀升。预测至2023年6月份,全球HBM需求将同比增加60%。

2024年,人工智能芯片大战将进一步推动这一增长。AMD刚刚推出了一款新产品,希望与英伟达抗衡。全球市场供不应求,再加上人们对价格更低廉的英伟达产品需求旺盛,这意味着能够提供规格相当芯片的企业将有机会获得丰厚的利润。但是,撼动英伟达的关键不仅在于物理芯片本身,还在于其软件生态系统,其中包括流行的开发工具和编程模型。要想复制这一点,需要数年时间。

这就是为什么硬件,以及每块新芯片中的HBM数量,对英伟达的竞争者来说变得更加重要。通过使用升级的HBM来提高内存容量,是短期内获得竞争力的少数方法之一。例如,AMD最新的MI300加速器使用了8个HBM,比英伟达产品的5或6个要多。

芯片历来是一个周期性行业,容易出现剧烈的繁荣和萧条。从目前的趋势来看,新产品需求的持续增长应该会使未来的衰退期不像过去那么动荡。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1821

    文章

    50511

    浏览量

    267745
  • 存储芯片
    +关注

    关注

    11

    文章

    1076

    浏览量

    44905
  • HBM
    HBM
    +关注

    关注

    2

    文章

    437

    浏览量

    15908
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    嵌入式人工智能课程(华清远见)

    嵌入式 AI 编译器优化:华清远见课程,解锁极致端侧性能 随着人工智能从云端全面向边缘侧和终端侧下沉,“万物智联”的时代已经悄然到来。然而,在这股浪潮背后,隐藏着一个巨大的技术鸿沟:在算力受限
    发表于 04-16 18:47

    人工智能五大核心:芯片、算力、数据、算法、能源 !

    在全球科技革命的浩荡浪潮中,人工智能已成为重塑人类文明形态的核心驱动力。那么,人工智能究竟由何构成?支撑其持续迭代进化的内在技术体系又是什么?本文聚焦人工智能发展的五大核心支柱:
    的头像 发表于 04-16 12:47 830次阅读
    <b class='flag-5'>人工智能</b>五大核心:<b class='flag-5'>芯片</b>、算力、数据、算法、能源 !

    浅谈人工智能(2)

    接前文《浅谈人工智能(1)》。 (5)什么是弱人工智能、强人工智能以及超人工智能? 弱人工智能(Weak AI),也称限制领域
    的头像 发表于 02-22 08:24 440次阅读
    浅谈<b class='flag-5'>人工智能</b>(2)

    开发智能体配置-内容合规

    智能体上架前,需完成“人工智能生成合成内容标识”和“大模型备案信息”填写 ,以供平台审核;可在智能体【配置】-【内容合规】中填写。 人工智能生成合成内容标识 “
    发表于 02-07 11:44

    自然智能与人工智能融合如何重塑芯片设计

    人类大脑是所有处理器中最复杂的,能够构思出不可思议的创意,解决复杂、微妙的问题。相比之下,人工智能擅长快速分析海量数据并高效执行任务。当自然智能人工智能融合的结果,就是芯片设计领域正
    的头像 发表于 01-15 13:58 787次阅读

    人工智能+消费:技术赋能与芯片驱动未来

    电子发烧友网站提供《人工智能+消费:技术赋能与芯片驱动未来.pptx》资料免费下载
    发表于 11-26 14:50 41次下载

    利用超微型 Neuton ML 模型解锁 SoC 边缘人工智能

    的框架小 10 倍,速度也快 10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍这对开发人员意味着什么,以及使用 Neuton 模型如何改进您的开发和终端
    发表于 08-31 20:54

    人工智能+”,走老路难赚到新钱

    昨天的“人工智能+”刷屏了,这算是官方第一次对“人工智能+”这个名称定性吧?今年年初到现在,涌现出了一大批基于人工智能的创业者,这已经算是AI2.0时代的第三波创业潮了,第一波是基础大模型,第二波
    的头像 发表于 08-27 13:21 954次阅读
    “<b class='flag-5'>人工智能</b>+”,走老路难赚到新钱

    人工智能如何驱动碳化硅革命

    人工智能掀起的高算力浪潮中,算力中心日夜不息地运转,训练着庞大的模型,支撑着自动驾驶、科学发现和智能体机器人技术的快速发展。然而,这辉煌算力背后却藏着不容忽视的“能量焦虑”--急剧增长的电力消耗与转换效率瓶颈。传统硅基功率器件这只能量转换的“老旧心脏”,在高频、高温的极限
    的头像 发表于 08-20 16:43 1615次阅读
    <b class='flag-5'>人工智能</b>如何驱动碳化硅<b class='flag-5'>革命</b>

    挖到宝了!人工智能综合实验箱,高校新工科的宝藏神器

    家人们,最近在研究人工智能相关设备,挖到了一款超厉害的宝藏——比邻星人工智能综合实验箱,必须来给大伙分享分享!可☎(壹捌伍 柒零零玖 壹壹捌陆) 一、开箱即学,便捷拉满 这个实验箱真的是为使用者
    发表于 08-07 14:30

    挖到宝了!比邻星人工智能综合实验箱,高校新工科的宝藏神器!

    家人们,最近在研究人工智能相关设备,挖到了一款超厉害的宝藏——比邻星人工智能综合实验箱,必须来给大伙分享分享!可☎(壹捌伍 柒零零玖 壹壹捌陆) 一、开箱即学,便捷拉满 这个实验箱真的是为使用者
    发表于 08-07 14:23

    2025人工智能十大趋势

    ,通过10个关键趋势勾勒出2025人工智能发展的三大主题基础模型的跃迁、智能行动者的崛起以及AI走向物理世界,深入剖析了AI从“智能工具”迈向“共生伙伴”的关键跃
    的头像 发表于 08-05 11:42 6178次阅读
    2025<b class='flag-5'>人工智能</b>十大趋势

    超小型Neuton机器学习模型, 在任何系统级芯片(SoC)上解锁边缘人工智能应用.

    Neuton 是一家边缘AI 公司,致力于让机器 学习模型更易于使用。它创建的模型比竞争对手的框架小10 倍,速度也快10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍
    发表于 07-31 11:38

    迅为RK3588开发板Linux安卓麒麟瑞芯微国产工业AI人工智能

    迅为RK3588开发板Linux安卓麒麟瑞芯微国产工业AI人工智能
    发表于 07-14 11:23

    最新人工智能硬件培训AI 基础入门学习课程参考2025版(大模型篇)

    人工智能大模型重塑教育与社会发展的当下,无论是探索未来职业方向,还是更新技术储备,掌握大模型知识都已成为新时代的必修课。从职场上辅助工作的智能助手,到课堂用于学术研究的智能工具,大模型正在工作生活
    发表于 07-04 11:10