0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出新款AI芯片H200 性能飙升90%但是估计依然被出口管制

A面面观 2023-11-14 16:45 次阅读

生成式AI火爆全球之后,英伟达的AI芯片一张难求,就在英伟达重量级选手H100 AI芯片目前依然是一货难求的情况下,英伟达推出新款AI芯片H200。

H100目前算是算力市场硬通货,而H200则更强大,也是H100的升级版,号称性能飙升90%;全球最强 AI 芯片。

据英伟达的消息,H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互兼容,推理速度几乎达到H100的两倍。H200预计将于明年二季度开始交付。

H200将在深度学习和大型语言模型(LLM)方面发挥更重要的作用,比如 OpenAI 的 GPT-4的训练。H200芯片相比上一代H100有了显著的飞跃,将被用于数据中心和超级计算机,处理诸如天气和气候预测、药物发现、量子计算等任务。

H200芯片基于英伟达的“Hopper”架构的 HGX H200 GPU,也是英伟达第一款使用 HBM3e 内存的芯片,这种内存速度更快,容量更大,因此更适合大型语言模型。英伟达称:“借助 HBM3e,英伟达 H200 以每秒 4.8 TB 的速度提供 141GB 的内存,与 A100 相比,容量几乎是其两倍,带宽增加了 2.4 倍。” 在人工智能方面,英伟达表示,HGX H200 在 Llama 2(700 亿参数 LLM)上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置提供,与 H100 系统中的软件和硬件兼容。

wKgZomVTM-uASck5AAA4cWtzmgk782.jpg

H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍。而在高性能计算HPC方面的速度更是达到了双核x86 CPU的110倍。

H200的价格目前可能并不是最关心的,能不能拿到货才是关键,当然目前英伟达也没有公布价格。

此外还会有下一代升级版的Blackwell B100 GPU也在路上。

有数据称英伟达的H100的严重缺货问题至少会持续到2024年底。现在推出H200可能会占用一部分的产能,当然有会有一部分客户转投H200。这次英伟达推出新款AI芯片H200估计又是要卖断货的节奏。

但是10月份美国商务部工业和安全局(BIS)发布了针对芯片的出口管制新规,对高算力的AI芯片进行了更严格的管控。

所以不出意外的是,估计英伟达最强AI 芯片 H200还是会被美国限制进入我国市场,或者即使进入也是阉割版,而英伟达并不想放弃中国市场 ,所以也会针对性的推出满足法规的改良版AI芯片,不止是英伟达;英特尔也计划推出改良版。

此前,英伟达A100及H100两款型号被限制出口中国后,为中国专供的“阉割版”的A800和H800就是为了符合规定。

wKgaomVTM_iABLkJAADGYj49_M4845.jpg

有消息报道称英伟达的改良版AI芯片由H100改良而来,HGX H20、L20 PCle和L2 PCle这三款改良版AI芯片很快就会发布。但是预测理论上整体算力要比英伟达 H100 GPU芯片降80%左右。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    21

    文章

    3010

    浏览量

    86964
  • AI芯片
    +关注

    关注

    17

    文章

    1467

    浏览量

    34237
  • LLM
    LLM
    +关注

    关注

    0

    文章

    173

    浏览量

    225
收藏 人收藏

    评论

    相关推荐

    英伟达发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    电子发烧友网报道(文/李弯弯)日前,英伟达正式宣布,在目前最强AI芯片H100的基础上进行一次大升级,发布新一代H200芯片
    的头像 发表于 11-15 01:15 2066次阅读
    <b class='flag-5'>英伟</b>达发布新一代<b class='flag-5'>H200</b>,搭载HBM3e,推理速度是H100两倍!

    NVIDIA GPU因出口管制措施推迟发布

    据之前所披露的详细数据,英伟达HGX H20虽属与H100和H200同系列,共享英伟达Hopper架构,但拥有高达96GB的HBM3显存及4.0TB/s的显存带宽,计效包括FP8达到296TFLOPS和FP16高达148TFLO
    的头像 发表于 01-03 09:25 161次阅读
    NVIDIA GPU因<b class='flag-5'>出口</b><b class='flag-5'>管制</b>措施推迟发布

    英伟达斥资预购HBM3内存,为H200及超级芯片储备产能

    据最新传闻,英伟达正在筹划发布两款搭载HBM3E内存的新品——包括141GB HBM3E的H200 GPU及GH200超级芯片,这也进一步说明了对于HBM内存的大量需求。
    的头像 发表于 01-02 09:27 142次阅读

    英伟达“阉割版”AI芯片遇阻,推迟至明年发布

    近日,英伟达(Nvidia)为遵守美国出口规定而推迟在中国市场推出新款人工智能(AI芯片引起
    的头像 发表于 11-28 14:20 397次阅读

    英伟达发布最新AI芯片H200性能提升2倍,成本下降50%

    很明显,如果能在相同的功率范围之内实现 2 倍的性能提升,就意味着实际能耗和总体拥有成本降低了 50%。所以从理论上讲,英伟达似乎可以让 H200 GPU 的价格与 H100 持平。
    的头像 发表于 11-22 17:14 539次阅读
    <b class='flag-5'>英伟</b>达发布最新<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>H200</b>:<b class='flag-5'>性能</b>提升2倍,成本下降50%

    英伟达最强AI芯片H200性能如何?

    英伟达进一步指出,内存带宽对于 HPC 应用程序至关重要,因为它可以实现更快的数据传输,减少复杂的处理瓶颈。对于模拟、科学研究和人工智能等内存密集型 HPC 应用,H200 更高的内存带宽可确保高效地访问和操作数据,与 CPU 相比,获得结果的时间最多可加快 110 倍。
    发表于 11-22 16:40 281次阅读
    <b class='flag-5'>英伟</b>达最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>H200</b><b class='flag-5'>性能</b>如何?

    英伟达真是赢麻了!深夜推出最强AI芯片霸场!

    10月14日凌晨,英伟达在2023年全球超算大会(Supercomputing Conference,SC)上正式宣布,升级旗舰AI芯片推出全新的
    的头像 发表于 11-16 11:27 237次阅读
    <b class='flag-5'>英伟</b>达真是赢麻了!深夜<b class='flag-5'>推出</b>最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>霸场!

    #芯片 #AI 世界最强AI芯片H200性能大揭秘!

    芯片AI
    深圳市浮思特科技有限公司
    发布于 :2023年11月15日 15:54:37

    英伟推出用于人工智能工作的顶级芯片HGX H200

    近日,英伟推出了一款用于人工智能工作的顶级芯片HGX H200。新的GPU升级了需求巨大的H100,内存带宽增加了1.4倍,内存容量增加了1.8倍,提高了其处理密集生成人工智能工作的
    的头像 发表于 11-15 14:34 763次阅读

    英伟达新一代人工智能(AI芯片HGX H200

    基于英伟达的“Hopper”架构的H200也是该公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言模型。英伟达称:借助HBM3e,
    发表于 11-15 11:17 259次阅读

    世界最强AIH200发布,英伟达:性能提升90%

    在备受关注的人工智能领域,英伟达表示,h200将进一步提高性能。llama 2(700亿个llm)的推理速度是h100的两倍。未来的软件更新有望为h200带来更多的
    的头像 发表于 11-14 10:49 480次阅读

    广达回应美国AI芯片出口管制新规:基本影响不大

    据悉,美国政府17日改变了对人工智能(ai芯片出口控制规定,计划阻止英伟达等尖端ai芯片向中
    的头像 发表于 10-31 11:13 504次阅读

    美国政府通知英伟达:最新AI芯片管制提前生效!高通发布骁龙 8 Gen 3 处理器:CPU 性能提升 30%

    ”的通知。美国政府要求英伟达,这项AI芯片出口管制措施立即生效。 英伟达此项公告依美国证券交易委
    的头像 发表于 10-25 18:55 1959次阅读

    4090显卡全面下架 AI芯片出口管制趋严

    4090显卡全面下架 AI芯片出口管制趋严 英伟达民用消费级的高端显卡4090在各个网上店铺都显示无货,有网友吐槽没有想到就是玩个网络游戏,
    的头像 发表于 10-19 17:24 1382次阅读
    4090显卡全面下架 <b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>出口</b><b class='flag-5'>管制</b>趋严

    出口管制升级!限制英伟达向中东地区出口AI芯片

    管制,但目前尚不清楚为什么会向中东出口提出限制令,也不清楚先进芯片出口中东,会带来哪些风险。 据悉,8月28日提交的文件中,英伟达表示,在2
    的头像 发表于 08-31 15:52 592次阅读