0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出用于人工智能工作的顶级芯片HGX H200

IEEE电气电子工程师 来源:IEEE电气电子工程师 2023-11-15 14:34 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,英伟达推出了一款用于人工智能工作的顶级芯片HGX H200。新的GPU升级了需求巨大的H100,内存带宽增加了1.4倍,内存容量增加了1.8倍,提高了其处理密集生成人工智能工作的能力。

在备受瞩目的人工智能领域,英伟达提到,H200将带来进一步的性能飞跃。在Llama 2(700亿参数的LLM)上的推理速度比H100快了一倍。未来的软件更新预计会给H200带来额外的性能领先优势和改进。

H200将在具有四路和八路配置的英伟达HGX H200服务器主板中提供,并与HGX H100系统的硬件和软件兼容。

大型计算机制造商和云服务提供商预计将于明年第二季度开始使用H200。亚马逊的AWS、Alphabet公司的谷歌云、微软Azure和甲骨文的云基础设施,都承诺从明年开始使用这款新芯片。

英伟达高性能计算产品副总裁Ian Buck在近日的视频演示中表示:“更快、更广泛的HBM内存集成有助于提高计算需求任务的性能,包括生成人工智能模型和[高性能计算]应用程序,同时优化GPU利用率和效率。”

H200还与已经支持H100的相同系统兼容。英伟达表示,云提供商在将H200添加到混合中时不需要做出任何更改。亚马逊、谷歌、微软和甲骨文的云计算部门将在明年率先提供新的GPU。

一旦推出,新芯片肯定会很贵。英伟达没有列出它们的价格,但据美国消费者新闻与商业频道报道,上一代H100的售价估计在25000至40000美元之间,其中数千台需要在最高水平上运行。并且,价格由英伟达的合作伙伴决定。

伴随着人工智能的火爆,英伟达的高端GPU需求量极大。这也令其他芯片制造商瞄准这一利润丰厚的市场,加快推出高品质的AI芯片,整个AI芯片市场竞争相当激烈。英伟达此举旨在巩固其在AI计算市场的主导地位。

审核编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53592

    浏览量

    459820
  • 谷歌
    +关注

    关注

    27

    文章

    6246

    浏览量

    110326
  • 人工智能
    +关注

    关注

    1813

    文章

    49783

    浏览量

    261880
  • 英伟达
    +关注

    关注

    23

    文章

    4047

    浏览量

    97762

原文标题:英伟达推出新款必备人工智能芯片 性能再飞跃

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    美国将允许英伟H200对华出口,但要抽成25%

    。   据《纽约时报》信息,H200芯片目前为英伟“性能第二强”的芯片,特朗普方面表示,美国商务部正在敲定相关安排细节,同样的安排也将适
    的头像 发表于 12-10 11:07 360次阅读

    突发!特朗普批准英伟H200芯片对华出口,抽成25%

    据最新消息,美国总统特朗普已批准英伟向中国出口其H200人工智能芯片,但要求从销售额中抽取25%作为分成。这意味着
    的头像 发表于 12-09 17:58 1116次阅读

    今日看点:特朗普允许英伟对华出口H200芯片,但要抽成25%;众擎完成 A1+ 轮与 A2 轮融资

    特朗普允许英伟对华出口H200芯片,但要抽成25% 12月8日,美国总统特朗普宣布,将允许英伟
    发表于 12-09 11:00 761次阅读

    今日看点:马斯克:特斯拉已部署超百万颗 AI 芯片;长鑫存储发布全新 DDR5 内存新品

    美国考虑允许英伟对华出售H200芯片   据外媒报道,特朗普政府正考虑批准向中国出口美国芯片制造商英伟
    发表于 11-24 11:10 761次阅读

    今日看点丨传英伟正研发新款中国特供AI芯片;扎克伯格计划改革Meta的人工智能业务

    出售高端人工智能技术存在担忧,尽管新芯片的研发工作正在进行中,但要获得在市场上销售的许可的前景却并不明朗。   这款芯片最初被称为B30A,预计其架构将比
    发表于 08-20 10:15 2191次阅读

    今日看点丨英伟向台积电订购30万片H20芯片;苹果回应首次在中国关停直营店

    改变了仅依赖现有库存的策略。     特朗普政府本月允许英伟恢复向中国销售H20图形处理器(GPU),推翻了4月份因国家安全担忧而实施的一项有效禁令,该禁令旨在阻止中国获得先进的人工智能
    发表于 07-30 10:02 1958次阅读
    今日看点丨<b class='flag-5'>英伟</b><b class='flag-5'>达</b>向台积电订购30万片<b class='flag-5'>H</b>20<b class='flag-5'>芯片</b>;苹果回应首次在中国关停直营店

    英伟拟再推中国特供GPU,今年6月量产!

    。                                                     最新消息显示,英伟拟新推出一款专门面向中国市场的人工智能
    发表于 05-27 00:03 4626次阅读

    今日看点丨英伟将为中国市场推出新AI芯片 售价大幅低于H20;中科曙光与海光信息宣布战略重组

    1. 英伟将为中国市场推出新AI 芯片 售价大幅低于H20   近日,外媒报道称,美国芯片巨头
    发表于 05-26 11:06 1582次阅读

    特朗普要叫停英伟对华特供版 英伟H20出口限制 或损失55亿美元

    是“中国特供版”人工智能芯片;是英伟公司为符合美国出口规定专门为中国市场开发的定制芯片H20
    的头像 发表于 04-16 16:59 1901次阅读

    突发!英伟H20芯片在华订单大增,买家曝光

    电子发烧友网报道(文 / 吴子鹏)据路透社最新报道,六名知情人士共同透露,由于对 DeepSeek 低成本人工智能模型的需求激增,中国企业正在增加英伟 H20
    的头像 发表于 02-26 00:10 3934次阅读

    GMI Cloud推出基于英伟H200的DeepSeek系列模型

    近日,GMI Cloud宣布成功上架了基于英伟H200 GPU的DeepSeek系列模型。这一举措标志着DeepSeek在AI应用领域迈出了重要一步。 自DeepSeek在GitHub上开源以来
    的头像 发表于 02-08 09:41 768次阅读

    英伟发布DeepSeek R1于NIM平台

    网站上发布。 据悉,DeepSeek R1 NIM微服务是英伟人工智能领域的一项重要创新,旨在为用户提供高效、精准的推理服务。在单个英伟
    的头像 发表于 02-05 14:48 933次阅读

    英伟推出GB200 NVL4芯片!液冷UQD快接头崛起

    中,英伟推出了全新的硬件产品——GB200 NVL4超级芯片。该芯片展现出了较为出色的性能表现
    的头像 发表于 01-10 16:58 1852次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>推出</b>GB<b class='flag-5'>200</b> NVL4<b class='flag-5'>芯片</b>!液冷UQD快接头崛起

    荷兰与英伟、AMD商讨共建人工智能设施

    荷兰政府正在积极寻求与全球领先的科技公司英伟和AMD的合作,共同推动荷兰人工智能设施的建设与发展。 据荷兰政府官方网站的消息,荷兰经济事务大臣迪尔克·贝尔亚尔茨于近日对美国硅谷进行了访问,期间
    的头像 发表于 01-10 13:36 1027次阅读