0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

突然发布AI芯片H200,英伟达在害怕什么?

AI芯天下 来源:AI芯天下 2023-11-25 11:32 次阅读

随着人工智能技术的不断发展,作为该领域最关键的基础设施之一的人工智能芯片,其市场份额及商业价值也在持续增长,越来越多的行业巨头开始觊觎这块不断做大的蛋糕。

241c2586-8ac6-11ee-939d-92fbcf53809c.png  

英伟达发布继H100后的升级版超算芯片

近日,英伟达发布了下一代人工智能超算芯片——NVIDIA H200 Tensor Core GPU,被英伟达官网称为世界上最强大的GPU。

这款芯片具备卓越的性能和内存功能,能够显著增强生成式AI和高性能计算(HPC)工作负载。

具体而言,当用于Llama2、GPT-3等大型模型的推理或生成问题答案时,H200的性能较H100提高60%至90%。

CPU相比,H200的高性能计算速度提高了110倍。

在GPT-3的推理表现中,H100的性能比A100提高了11倍,H200的性能比A100提高到了18倍。

H200沿用了英伟达Hopper架构,采用台积电4纳米工艺,由超过800亿个晶体管构建而成。

这是首款采用HBM3e内存的GPU,能够以每秒4.8 TB的速度提供141GB内存。

与前身NVIDIA A100相比,容量几乎翻倍,带宽增加2.4倍。

据Anandtech分析,H200的加速计算性能约为半年前发布的GH200 Hopper GPU的一半。

与H100相比,根据H200的总带宽和内存总线宽度计算,H200的内存频率增加了约25%。

242f983c-8ac6-11ee-939d-92fbcf53809c.png

急于抑制竞争对手继续抢占高端市场

英伟达急于发布H200,主要是因为意识到人工智能芯片的竞争即将升温,众多芯片巨头已纷纷入局。

今年6月,AMD发布了针对AI需求的最新款芯片Instinct MI300,这是其最强大的产品之一,可能会让英伟达措手不及。

微软在11月也推出了首款自研AI芯片Maia 100。

这款芯片旨在运行大语言模型,帮助人工智能系统更快地处理大量数据以完成图像和语音识别等任务,并有可能避免对英伟达的高成本依赖。

尽管微软暂时不会出售这款芯片,但这标志着在AI芯片领域英伟达已不再是唯一的主导者。

Meta Platforms正在开发自己的硅芯片MTIA元训练和推理加速器,以实现其人工智能目标。

此外,谷歌已拥有自主研发的芯片,而AI新贵OpenAI也在内部讨论自行研发人工智能芯片,以解决对英伟达GPU的依赖并减少相关支出。

因此,对英伟达而言,趁着人工智能的热潮,尽快收割全球市场并回笼资金至关重要。

同时,通过加速产品迭代给予竞争对手更大压力,特别是对AMD构成足够的压迫。

中国市场眼下受阻长期如此将生态脱钩

黄仁勋深知中国市场对英伟达的重要性,中国作为全球人工智能芯片核心的市场之一,为英伟达带来了高达九成的份额。

过去的几个季度里,中国市场为英伟达贡献了约25%的营收,且增长幅度与利润均表现优异。

英伟达高度依赖中国市场,中国市场长期采购大量游戏芯片、数据中心芯片,占英伟达总营收的20%以上。

如果按照一枚A800芯片单价10万元(人民币)计算,中国市场对A800/H800芯片需求量超过5万枚。

对于中国而言,其目的非常明确,即不能将市场机会拱手让给国内芯片厂商,尤其是华为。

更重要的是不能培养英伟达CUDA生态的潜在竞争者,担心华为通过昇腾芯片形成一套自主的人工智能底层生态。

因此,即使是通过阉割版也要坚守中国市场。

中国市场不仅为英伟达提供了持续的营收增长,还成为了英伟达人工智能芯片的试验场。

中国的科技公司开发者是英伟达CUDA生态的重要参与者,为英伟达提供了丰富的应用场景。

今年开始,中国的科技巨头与创业者已经开发了约130个大模型,他们急需英伟达速度更快的GPU芯片来提供算力支撑。

近期,百度向华为订购了1600枚昇腾910B AI芯片,总价值达4.5亿人民币。

此外,360集团创始人周鸿祎亦表示,360采购了约1000枚华为AI芯片。

华为推出的两款GPU芯片昇腾310和昇腾910B备受瞩目。

特别是昇腾910B被视为与A100性能相当的芯片,受到了市场的热烈追捧。

科大讯飞还与华为联合开发了基于昇腾生态的算力底座[飞星一号]平台。

2466c0e6-8ac6-11ee-939d-92fbcf53809c.png

随着管制措施的实施,[中国芯]的崛起可能会带来一个机会窗口,这可能导致英伟达在中国市场面临更大的竞争压力。

中国本应成为英伟达成长的关键引擎,但如今英伟达不得不通过推出中国特供版芯片来维系在中国不断萎缩的市场。

英伟达曾在中国花费大量精力建立生态,这是其竞争力的核心,但在管制下,维持这一生态变得越来越困难。

如果缺少中国用户,英伟达曾努力建设的CUDA生态未来在中国可能会逐渐凋敝。

短期来看,中国区营收下滑对英伟达的影响有限,但长期来看,生态脱钩是其最不愿意看到的局面。

结尾:

单看算力这一指标,H200的算力与H100基本相同,对比两者的产品规格表可以发现,实现算力不变而性能飞跃的关键点就是内存。

在各芯片企业的推动下,AI芯片的竞逐正从初期的算力指标竞争,进一步延展到存储领域,HBM几乎成为了未来AI芯片当中必备且必争的存储器。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1777

    文章

    44006

    浏览量

    230977
  • 英伟达
    +关注

    关注

    22

    文章

    3350

    浏览量

    87880
  • GPT
    GPT
    +关注

    关注

    0

    文章

    302

    浏览量

    14887
  • GPU芯片
    +关注

    关注

    1

    文章

    292

    浏览量

    5693
  • AI芯片
    +关注

    关注

    17

    文章

    1661

    浏览量

    34448

原文标题:分析丨突然发布AI芯片H200,英伟达在害怕什么?

文章出处:【微信号:World_2078,微信公众号:AI芯天下】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    电子发烧友网报道(文/李弯弯)日前,英伟达正式宣布,在目前最强AI芯片H100的基础上进行一次大升级,发布新一代H200
    的头像 发表于 11-15 01:15 2452次阅读
    <b class='flag-5'>英伟</b>达<b class='flag-5'>发布</b>新一代<b class='flag-5'>H200</b>,搭载HBM3e,推理速度是H100两倍!

    英伟H200性能怎么样

    英伟H200性能卓越,集成了高性能CPU和GPU,通过高速NVLink连接,消除了传统计算瓶颈。其配备了高达141GB的HBM3e高带宽内存,大幅提升了数据处理能力。H200能轻松应对TB级别的模型运算,如GPT-4等,相比前
    的头像 发表于 03-07 16:39 351次阅读

    英伟H200和H800的区别

    英伟H200和H800在多个方面存在一些关键性的区别。
    的头像 发表于 03-07 16:30 941次阅读

    英伟H200和A100的区别

    英伟H200和A100两款芯片在性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 865次阅读

    英伟H200和A100的差异

    英伟H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 512次阅读

    英伟H200算力怎么样

    英伟H200的算力非常强大。作为新一代AI芯片H200在性能上有了显著的提升,能够处理复杂的AI
    的头像 发表于 03-07 16:15 596次阅读

    英伟H200能作为普通显卡使用吗

    英伟H200不能作为普通显卡使用。H200是一款专为AI计算设计的芯片,它并不具备普通显卡的图形渲染能力。
    的头像 发表于 03-07 16:13 421次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新芯片通常定价较高,因此可以推断
    的头像 发表于 03-07 16:09 1032次阅读

    英伟H200什么时候上市

    英伟达于2023年11月13日发布了新一代AI芯片H200,但具体的上市时间可能因各种因素有所调整。近期有消息传出,
    的头像 发表于 03-07 16:04 300次阅读

    英伟H200和华为昇腾910B哪个好

    英伟H200和华为昇腾910B都是各自公司在AI芯片领域的杰出代表,它们在设计、性能、应用领域等方面都有其独特之处。
    的头像 发表于 03-07 16:04 2330次阅读

    英伟H200和H100的比较

    英伟H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 968次阅读

    英伟H200参数说明

    英伟H200是一款新一代AI芯片,于2023年11月14日正式发布,主要被设计用来处理生成式人工智能负载的海量数据。
    的头像 发表于 03-07 15:48 453次阅读

    英伟达推出用于人工智能工作的顶级芯片HGX H200

    近日,英伟达推出了一款用于人工智能工作的顶级芯片HGX H200。新的GPU升级了需求巨大的H100,内存带宽增加了1.4倍,内存容量增加了1.8倍,提高了其处理密集生成人工智能工作的能力
    的头像 发表于 11-15 14:34 969次阅读

    英伟达推出新款AI芯片H200 性能飙升90%但是估计依然被出口管制

    生成式AI火爆全球之后,英伟达的AI芯片一张难求,就在英伟达重量级选手H100 AI
    的头像 发表于 11-14 16:45 1002次阅读
    <b class='flag-5'>英伟</b>达推出新款<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>H200</b> 性能飙升90%但是估计依然被出口管制

    世界最强AIH200发布英伟达:性能提升90%

    在备受关注的人工智能领域,英伟达表示,h200将进一步提高性能。llama 2(700亿个llm)的推理速度是h100的两倍。未来的软件更新有望为h200带来更多的性能和改进。
    的头像 发表于 11-14 10:49 628次阅读