0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出用于人工智能工作的顶级芯片HGX H200

IEEE电气电子工程师 来源:IEEE电气电子工程师 2023-11-15 14:34 次阅读

近日,英伟达推出了一款用于人工智能工作的顶级芯片HGX H200。新的GPU升级了需求巨大的H100,内存带宽增加了1.4倍,内存容量增加了1.8倍,提高了其处理密集生成人工智能工作的能力。

在备受瞩目的人工智能领域,英伟达提到,H200将带来进一步的性能飞跃。在Llama 2(700亿参数的LLM)上的推理速度比H100快了一倍。未来的软件更新预计会给H200带来额外的性能领先优势和改进。

H200将在具有四路和八路配置的英伟达HGX H200服务器主板中提供,并与HGX H100系统的硬件和软件兼容。

大型计算机制造商和云服务提供商预计将于明年第二季度开始使用H200。亚马逊的AWS、Alphabet公司的谷歌云、微软Azure和甲骨文的云基础设施,都承诺从明年开始使用这款新芯片。

英伟达高性能计算产品副总裁Ian Buck在近日的视频演示中表示:“更快、更广泛的HBM内存集成有助于提高计算需求任务的性能,包括生成人工智能模型和[高性能计算]应用程序,同时优化GPU利用率和效率。”

H200还与已经支持H100的相同系统兼容。英伟达表示,云提供商在将H200添加到混合中时不需要做出任何更改。亚马逊、谷歌、微软和甲骨文的云计算部门将在明年率先提供新的GPU。

一旦推出,新芯片肯定会很贵。英伟达没有列出它们的价格,但据美国消费者新闻与商业频道报道,上一代H100的售价估计在25000至40000美元之间,其中数千台需要在最高水平上运行。并且,价格由英伟达的合作伙伴决定。

伴随着人工智能的火爆,英伟达的高端GPU需求量极大。这也令其他芯片制造商瞄准这一利润丰厚的市场,加快推出高品质的AI芯片,整个AI芯片市场竞争相当激烈。英伟达此举旨在巩固其在AI计算市场的主导地位。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    445

    文章

    46797

    浏览量

    406852
  • 谷歌
    +关注

    关注

    27

    文章

    5706

    浏览量

    102877
  • 人工智能
    +关注

    关注

    1768

    文章

    42586

    浏览量

    229423
  • 英伟达
    +关注

    关注

    21

    文章

    3010

    浏览量

    86964

原文标题:英伟达推出新款必备人工智能芯片 性能再飞跃

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟达发布新一代H200,搭载HBM3e,推理速度是H100两倍!

    电子发烧友网报道(文/李弯弯)日前,英伟达正式宣布,在目前最强AI芯片H100的基础上进行一次大升级,发布新一代H200芯片H200拥有1
    的头像 发表于 11-15 01:15 2066次阅读
    <b class='flag-5'>英伟</b>达发布新一代<b class='flag-5'>H200</b>,搭载HBM3e,推理速度是H100两倍!

    英伟达发布三款用于人工智能个人电脑的新芯片

    英伟达在2024年国际消费电子展(CES)上发布了三款用于人工智能个人电脑的新芯片,旨在让游戏玩家、设计师和其他电脑用户更轻松地利用人工智能
    的头像 发表于 01-10 15:04 288次阅读

    英伟达斥资预购HBM3内存,为H200及超级芯片储备产能

    据最新传闻,英伟达正在筹划发布两款搭载HBM3E内存的新品——包括141GB HBM3E的H200 GPU及GH200超级芯片,这也进一步说明了对于HBM内存的大量需求。
    的头像 发表于 01-02 09:27 142次阅读

    英伟达拟在日本建立芯片工厂网络 以满足人工智能需求

    英伟达的gpu通过并行计算处理大量数据,用于训练人工智能服务。随着企业和政府努力开发人工智能技术,人工智能
    的头像 发表于 12-05 11:02 345次阅读

    英伟达发布最新AI芯片H200:性能提升2倍,成本下降50%

    很明显,如果能在相同的功率范围之内实现 2 倍的性能提升,就意味着实际能耗和总体拥有成本降低了 50%。所以从理论上讲,英伟达似乎可以让 H200 GPU 的价格与 H100 持平。
    的头像 发表于 11-22 17:14 539次阅读
    <b class='flag-5'>英伟</b>达发布最新AI<b class='flag-5'>芯片</b><b class='flag-5'>H200</b>:性能提升2倍,成本下降50%

    英伟达最强AI芯片H200性能如何?

    英伟达进一步指出,内存带宽对于 HPC 应用程序至关重要,因为它可以实现更快的数据传输,减少复杂的处理瓶颈。对于模拟、科学研究和人工智能等内存密集型 HPC 应用,H200 更高的内存带宽可确保高效地访问和操作数据,与 CPU
    发表于 11-22 16:40 281次阅读
    <b class='flag-5'>英伟</b>达最强AI<b class='flag-5'>芯片</b><b class='flag-5'>H200</b>性能如何?

    英伟达真是赢麻了!深夜推出最强AI芯片霸场!

    10月14日凌晨,英伟达在2023年全球超算大会(Supercomputing Conference,SC)上正式宣布,升级旗舰AI芯片推出全新的H200
    的头像 发表于 11-16 11:27 237次阅读
    <b class='flag-5'>英伟</b>达真是赢麻了!深夜<b class='flag-5'>推出</b>最强AI<b class='flag-5'>芯片</b>霸场!

    英伟达重磅发布H200,容量翻倍,带宽狂飙

    HGX H200 由 NVIDIA NVLink 和 NVSwitch 高速互连提供支持,可为各种应用工作负载提供最高性能,包括针对超过 1750 亿个参数的最大模型的 LLM 训练和推理。
    的头像 发表于 11-15 16:09 377次阅读
    <b class='flag-5'>英伟</b>达重磅发布<b class='flag-5'>H200</b>,容量翻倍,带宽狂飙

    英伟达新一代人工智能(AI)芯片HGX H200

    基于英伟达的“Hopper”架构的H200也是该公司第一款使用HBM3e内存的芯片,这种内存速度更快,容量更大,因此更适合大语言模型。英伟达称:借助HBM3e,
    发表于 11-15 11:17 259次阅读

    SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例。 11月13日,NVIDIA 宣布推出 NVIDIA
    的头像 发表于 11-14 20:05 242次阅读
    SC23 | NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    英伟推出新款AI芯片H200 性能飙升90%但是估计依然被出口管制

    生成式AI火爆全球之后,英伟达的AI芯片一张难求,就在英伟达重量级选手H100 AI芯片目前依然是一货难求的情况下,英伟
    的头像 发表于 11-14 16:45 811次阅读
    <b class='flag-5'>英伟</b>达<b class='flag-5'>推出</b>新款AI<b class='flag-5'>芯片</b><b class='flag-5'>H200</b> 性能飙升90%但是估计依然被出口管制

    NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例     丹佛 - SC23 - 太平洋 时间 2023 年 11 月 13 日 - NVIDIA 于今日宣布
    发表于 11-14 14:30 76次阅读
    NVIDIA 为全球领先的 AI 计算平台 Hopper 再添新动力

    世界最强AI芯H200发布,英伟达:性能提升90%

    在备受关注的人工智能领域,英伟达表示,h200将进一步提高性能。llama 2(700亿个llm)的推理速度是h100的两倍。未来的软件更新有望为h200带来更多的性能和改进。
    的头像 发表于 11-14 10:49 480次阅读

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为人们无法拒绝,无法失去的一个重要存在
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    作者给出的结论。整体读下来,可以给我们关于通用人工智能全面的了解。作者也反复强调了通用人工智能与专用智能的区别。尤其是人们错误的认为一堆专用智能堆砌起来就是通用
    发表于 09-18 10:02