0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出新款AI芯片H200 性能飙升90%但是估计依然被出口管制

A面面观 2023-11-14 16:45 次阅读

生成式AI火爆全球之后,英伟达的AI芯片一张难求,就在英伟达重量级选手H100 AI芯片目前依然是一货难求的情况下,英伟达推出新款AI芯片H200。

H100目前算是算力市场硬通货,而H200则更强大,也是H100的升级版,号称性能飙升90%;全球最强 AI 芯片。

据英伟达的消息,H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互兼容,推理速度几乎达到H100的两倍。H200预计将于明年二季度开始交付。

H200将在深度学习和大型语言模型(LLM)方面发挥更重要的作用,比如 OpenAI 的 GPT-4的训练。H200芯片相比上一代H100有了显著的飞跃,将被用于数据中心和超级计算机,处理诸如天气和气候预测、药物发现、量子计算等任务。

H200芯片基于英伟达的“Hopper”架构的 HGX H200 GPU,也是英伟达第一款使用 HBM3e 内存的芯片,这种内存速度更快,容量更大,因此更适合大型语言模型。英伟达称:“借助 HBM3e,英伟达 H200 以每秒 4.8 TB 的速度提供 141GB 的内存,与 A100 相比,容量几乎是其两倍,带宽增加了 2.4 倍。” 在人工智能方面,英伟达表示,HGX H200 在 Llama 2(700 亿参数 LLM)上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置提供,与 H100 系统中的软件和硬件兼容。

wKgZomVTM-uASck5AAA4cWtzmgk782.jpg

H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍。而在高性能计算HPC方面的速度更是达到了双核x86 CPU的110倍。

H200的价格目前可能并不是最关心的,能不能拿到货才是关键,当然目前英伟达也没有公布价格。

此外还会有下一代升级版的Blackwell B100 GPU也在路上。

有数据称英伟达的H100的严重缺货问题至少会持续到2024年底。现在推出H200可能会占用一部分的产能,当然有会有一部分客户转投H200。这次英伟达推出新款AI芯片H200估计又是要卖断货的节奏。

但是10月份美国商务部工业和安全局(BIS)发布了针对芯片的出口管制新规,对高算力的AI芯片进行了更严格的管控。

所以不出意外的是,估计英伟达最强AI 芯片 H200还是会被美国限制进入我国市场,或者即使进入也是阉割版,而英伟达并不想放弃中国市场 ,所以也会针对性的推出满足法规的改良版AI芯片,不止是英伟达;英特尔也计划推出改良版。

此前,英伟达A100及H100两款型号被限制出口中国后,为中国专供的“阉割版”的A800和H800就是为了符合规定。

wKgaomVTM_iABLkJAADGYj49_M4845.jpg

有消息报道称英伟达的改良版AI芯片由H100改良而来,HGX H20、L20 PCle和L2 PCle这三款改良版AI芯片很快就会发布。但是预测理论上整体算力要比英伟达 H100 GPU芯片降80%左右。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3332

    浏览量

    87807
  • AI芯片
    +关注

    关注

    17

    文章

    1657

    浏览量

    34408
  • LLM
    LLM
    +关注

    关注

    0

    文章

    202

    浏览量

    234
收藏 人收藏

    评论

    相关推荐

    英伟达发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    电子发烧友网报道(文/李弯弯)日前,英伟达正式宣布,在目前最强AI芯片H100的基础上进行一次大升级,发布新一代H200芯片
    的头像 发表于 11-15 01:15 2393次阅读
    <b class='flag-5'>英伟</b>达发布新一代<b class='flag-5'>H200</b>,搭载HBM3e,推理速度是H100两倍!

    英伟H200性能怎么样

    英伟H200性能卓越,集成了高性能CPU和GPU,通过高速NVLink连接,消除了传统计算瓶颈。其配备了高达141GB的HBM3e高带宽内存,大幅提升了数据处理能力。
    的头像 发表于 03-07 16:39 337次阅读

    英伟H200和A100的区别

    英伟H200和A100两款芯片性能、架构、内存以及应用场景等多个方面存在显著的区别。
    的头像 发表于 03-07 16:23 808次阅读

    英伟H200和A100的差异

    英伟H200和A100在多个方面存在差异。
    的头像 发表于 03-07 16:18 481次阅读

    英伟H200算力怎么样

    英伟H200的算力非常强大。作为新一代AI芯片H200性能上有了显著的提升,能够处理复杂的
    的头像 发表于 03-07 16:15 546次阅读

    英伟H200能作为普通显卡使用吗

    英伟H200不能作为普通显卡使用。H200是一款专为AI计算设计的芯片,它并不具备普通显卡的图形渲染能力。
    的头像 发表于 03-07 16:13 408次阅读

    英伟H200显卡价格

    英伟H200显卡的具体价格尚未公布。根据上一代H100显卡的价格范围,预计H200的单片价格将超过40000美元。由于新芯片通常定价较高,因此可以推断
    的头像 发表于 03-07 16:09 894次阅读

    英伟H200什么时候上市

    英伟达于2023年11月13日发布了新一代AI芯片H200,但具体的上市时间可能因各种因素有所调整。近期有消息传出,英伟
    的头像 发表于 03-07 16:04 287次阅读

    英伟H200和华为昇腾910B哪个好

    英伟H200和华为昇腾910B都是各自公司在AI芯片领域的杰出代表,它们在设计、性能、应用领域等方面都有其独特之处。
    的头像 发表于 03-07 16:04 2224次阅读

    英伟H200和H100的比较

    英伟H200和H100是两款不同的AI芯片,它们各自具有独特的特点和优势。以下是关于这两款芯片的一些比较。
    的头像 发表于 03-07 15:53 891次阅读

    英伟H200参数说明

    英伟H200是一款新一代AI芯片,于2023年11月14日正式发布,主要被设计用来处理生成式人工智能负载的海量数据。
    的头像 发表于 03-07 15:48 423次阅读

    英伟达最强AI芯片H200性能如何?

    英伟达进一步指出,内存带宽对于 HPC 应用程序至关重要,因为它可以实现更快的数据传输,减少复杂的处理瓶颈。对于模拟、科学研究和人工智能等内存密集型 HPC 应用,H200 更高的内存带宽可确保高效地访问和操作数据,与 CPU 相比,获得结果的时间最多可加快 110 倍。
    发表于 11-22 16:40 467次阅读
    <b class='flag-5'>英伟</b>达最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>H200</b><b class='flag-5'>性能</b>如何?

    英伟推出用于人工智能工作的顶级芯片HGX H200

    近日,英伟推出了一款用于人工智能工作的顶级芯片HGX H200。新的GPU升级了需求巨大的H100,内存带宽增加了1.4倍,内存容量增加了1.8倍,提高了其处理密集生成人工智能工作的
    的头像 发表于 11-15 14:34 959次阅读

    世界最强AIH200发布,英伟达:性能提升90%

    在备受关注的人工智能领域,英伟达表示,h200将进一步提高性能。llama 2(700亿个llm)的推理速度是h100的两倍。未来的软件更新有望为h200带来更多的
    的头像 发表于 11-14 10:49 621次阅读

    4090显卡全面下架 AI芯片出口管制趋严

    4090显卡全面下架 AI芯片出口管制趋严 英伟达民用消费级的高端显卡4090在各个网上店铺都显示无货,有网友吐槽没有想到就是玩个网络游戏,
    的头像 发表于 10-19 17:24 1558次阅读
    4090显卡全面下架 <b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>出口</b><b class='flag-5'>管制</b>趋严