0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

2024年,GPU还会维持天价吗?

AI芯天下 来源:AI芯天下 2024-01-14 11:28 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

前言: 错过了GPU,也就错过了第四次工业革命的入场券? ChatGPT横空出世,大模型风起云涌,在算力激增的背景下,英伟达的GPU100/H100成为“抢手货”。 GPU成为新的王者

云厂商作为AI算力需求的主要承载方,一场由GPU主导的变革正在悄然兴起,这场变革的突出表现在云厂商纷纷下场造芯,结合GPU的短缺、高昂成本、应对云服务更加智能化、自主化、灵活化和可扩展化的需求和广阔前景。

微软、Meta、Google、亚马逊特斯拉以及国内的阿里、百度、腾讯等都在投入更多资源研发AI芯片,甚至OpenAI都开始筹备芯片项目。

从时间节点来看,谷歌TPU v5e于2023年8月发布,成为人工智能硬件领域的强大力量,专为大型语言模型和生成式人工智能量身定制。

11月初,微软也采取了类似的思路,首款人工智能芯片Maia 100问世。随后亚马逊宣布推出最新的Trainium2,其性能是其前一代的四倍,能源效率是其两倍。

国内华为、阿里、百度等云巨头在自研AI芯片方面也在倾力押注,逐级迭代。

英伟达GPU全球货源紧张

据Verified Market Research数据统计,2027年全球GPU市场规模有望达到1853.1亿美元,年平均增速高达32.82%,千亿级赛道风口已至。

据行业曝料,2023年第四季度,NVIDIA GPU供应量在全球范围内都被严格限制,导致全球市场都出现了明显的供不应求。

在这种情况下,无论是欧美还是中国,厂商和销售渠道都在拼命抢货。

对于中国市场来说,情况更加不乐观,尤其是1月份属于季度末期,2月份又有春节假期。

因此,预计近期NVIDIA GPU和显卡的供应量都会非常有限,不排除部分产品价格上涨。

至于NVIDIA为何会控制供应量,确切原因不得而知,猜测很大可能是优先将产能供给加速计算卡所用的高性能GPU。

毕竟,计算GPU的利润要比游戏GPU丰厚得多,尤其是眼下AI需求一浪高过一浪,而计算GPU规模庞大、技术复杂,对于产能的要求也更高。

2024年英伟达市场

在AIGC浪潮爆发下,英伟达可以说是2023年半导体市场最大赢家,该公司营收也跃居全球最大半导体公司。

据媒体猜测,GPT-4至少需要8192张H100芯片,以每小时2美元的价格,在约55天内可以完成预训练,成本约为1.5亿元人民币。

而且 ,ChatGPT所需要的AI芯片并不是固定的,而是逐次递增。ChatGPT越聪明,背后的代价是所需算力越来越多。

据摩根士丹利预测,到了GPT-5大概需要使用2.5万个GPU,约是GPT-4的三倍之多。

英伟达正在经历一场比“挖矿时代”更疯狂的市场浪潮,一方面英伟达产能受限于台积电、HBM、CoWos封装等产能,H100的“严重缺货问题”至少会持续到2024年底。

另一方面,巨大缺口也导致英伟达H100暴涨,有报道称,英伟达的H100 AI加速卡的物料成本约为3000美元,而在年中售价已经达到了3.5万美元左右,甚至在eBay上卖出了超过4w美元的价格。

研究机构Omdia披露,英伟达在2023年第二季度的H100出货量为900吨。按照单片H100GPU的重量约为3千克,那么英伟达在二季度售出了约30万片H100。

到了三季度,英伟达大约卖出了50万台H100和A100 GPU。每家能够分到的GPU数量有限,Meta和微软各自采购了15万个H100GPU,谷歌、亚马逊、甲骨文和腾讯则各采购了5万片。

如此庞大的GPU需求量,导致基于H100的服务器需要36~52周的时间才能交付。按照英伟达官方的说法,2024年一季度之前的GPU芯片早已全部售罄。业内预估,明年英伟达的出货量将达到150万-200万颗。

735503ae-b210-11ee-8b88-92fbcf53809c.png

国产GPU2024年表现

国产GPU正迅速走过进入“从可用到好用”的迭代阶段。华为海思、燧原科技、壁仞、天数智芯、沐曦、珠海芯动力、摩尔线程、海光等厂商在GPU产品、集群、生态和应用层面全面发力,表现可圈可点。

深存科技创始人&CEO袁静丰总结,2023年国产GPU厂商面对国内市场,在更加务实地在做产品、建生态、推应用,在这些层面各家都有一定的优势,而准确定位是关键。

去年9月28日,燧原科技宣布完成D轮融资,总额为20 亿元,超过15家机构参与,成为AI芯片领域最大规模的融资事件之一。

摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式举办,宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地。

展望2024年,无论是禁运以及供应缺口等问题,国产GPU的机遇依旧“在线”。

结尾:

总而言之,2024年的GPU还充满变数。

从市场的角度看,无论是当下多先进的技术,到最后终将会越来越普世,就看在2024年如何进攻战场了。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134464
  • AI芯片
    +关注

    关注

    17

    文章

    2065

    浏览量

    36570
  • 摩尔线程
    +关注

    关注

    2

    文章

    256

    浏览量

    6217

原文标题:趋势丨2024年,GPU还会维持天价吗?

文章出处:【微信号:World_2078,微信公众号:AI芯天下】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    华为2024营收8621亿净利润626亿 华为2024年年报完整版免费下载

    华为2024营收8621亿净利润626亿 华为2024年年报完整版免费下载
    的头像 发表于 03-31 18:01 5405次阅读
    华为<b class='flag-5'>2024</b><b class='flag-5'>年</b>营收8621亿净利润626亿  华为<b class='flag-5'>2024</b><b class='flag-5'>年年</b>报完整版免费下载

    2024晶圆代工市场增长22%,台积电2025持续维持领头羊地位

    根据市场调查及研究机构Counterpoint Research的最新报告显示,2024全球晶圆代工市场以22%的年增长率结束,展现出2023之后的强劲复苏与扩张动能。 报告表示,此增长主要
    的头像 发表于 02-07 17:58 868次阅读

    2024risc-v的发展总结

    新的一已经来临,请问有人能将risc-v在2024的发展做一个比较全面的总结?
    发表于 02-01 18:27

    晒奖品——2024度优秀版主

    感谢电子发烧友论坛,给予我2024度优秀版主的光荣称号。今天收到了奖杯,分享如下: 在2025里,我奖继续努力为论坛做贡献。 祝咱电子发烧友论坛2025人气多多,红红火火!
    发表于 01-19 11:20

    2024GPU出货量增长显著,超越CPU

    近日,根据知名市场研究机构Jon Peddie Research(JPR)最新发布的报告,2024全球GPU(包括集成显卡和独立显卡)市场呈现出强劲的增长态势。报告显示,该年度GPU
    的头像 发表于 01-17 14:12 825次阅读

    榜样力量,智领未来——2024度电子发烧友社区表彰

    2024 年里,电子发烧友汇聚了超过670万名用户,他们在这里分享、学习并探索最新的技术内容。 这一,电子发烧友平台累计产生超过120000篇文章、36000篇帖子、21000个资料、22000个
    发表于 01-16 13:36

    紫光国微发布2024度业绩快报

    1月13日晚间,紫光国微(002049.SZ)发布2024度业绩快报,公司2024实现营业收入55.11亿元,归母净利润11.91亿元。截止20
    的头像 发表于 01-14 13:55 1167次阅读

    2024Thread的重要亮点

    Thread Group近期通过本篇博文来总结2024取得的惊人进步和成就。目前,Thread会员基础已近 200 家公司,从去年1月份参加CES 2024,到7月份庆祝成立 10 周年,再到
    的头像 发表于 01-14 09:30 1033次阅读

    2024智慧路灯国内外应用案例(节选)智慧路灯案例

    2024智慧路灯国内外应用案例(节选)智慧路灯案例
    的头像 发表于 01-03 10:06 1249次阅读
    <b class='flag-5'>2024</b><b class='flag-5'>年</b>智慧路灯国内外应用案例(节选)智慧路灯案例

    理想汽车202412月交付58513辆

    近日,理想汽车公布202412月交付数据。202412月,理想汽车交付新车58,513辆,同比增长16.2%。截至2024
    的头像 发表于 01-02 16:56 1174次阅读

    盘点NVIDIA 2024的创新成果

    2024,AI 的影响力已经扩展到加速计算和数据科学等多个关键领域,成为驱动各行各业技术革新和产业升级的关键因素。在这一里,NVIDIA 又带来了哪些创新成果,实现了哪些突破?跟随本文一起盘点 NVIDIA
    的头像 发表于 01-02 14:32 1086次阅读

    爱普生2024度精彩回顾

    2024,是爱普生公司成立并坚持践行“环保DNA”的第82,比联合国全球契约组织提出ESG理念早了整整62。可持续发展,是爱普生保有企业强韧性与源源活力的立身之本!
    的头像 发表于 01-02 14:11 1252次阅读

    飞腾荣获“2024度十佳卓越课题”及“2024度优秀课题”奖项

    近日,北京金融科技产业联盟2024度会员代表大会在京成功召开,飞腾公司凭借在金融行业产业研究、课题攻关方面的专业能力和突出成果荣获 “2024度十佳卓越课题” 及 “
    的头像 发表于 12-19 13:59 996次阅读

    《CST Studio Suite 2024 GPU加速计算指南》

    GPU Computing Guide》是由Dassault Systèmes Deutschland GmbH发布的有关CST Studio Suite 2024GPU计算指南。涵盖GP
    发表于 12-16 14:25