0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达推出新款AI芯片H200 性能飙升90%但是估计依然被出口管制

A面面观 2023-11-14 16:45 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

生成式AI火爆全球之后,英伟达的AI芯片一张难求,就在英伟达重量级选手H100 AI芯片目前依然是一货难求的情况下,英伟达推出新款AI芯片H200。

H100目前算是算力市场硬通货,而H200则更强大,也是H100的升级版,号称性能飙升90%;全球最强 AI 芯片。

据英伟达的消息,H200拥有141GB的内存、4.8TB/秒的带宽,并将与H100相互兼容,推理速度几乎达到H100的两倍。H200预计将于明年二季度开始交付。

H200将在深度学习和大型语言模型(LLM)方面发挥更重要的作用,比如 OpenAI 的 GPT-4的训练。H200芯片相比上一代H100有了显著的飞跃,将被用于数据中心和超级计算机,处理诸如天气和气候预测、药物发现、量子计算等任务。

H200芯片基于英伟达的“Hopper”架构的 HGX H200 GPU,也是英伟达第一款使用 HBM3e 内存的芯片,这种内存速度更快,容量更大,因此更适合大型语言模型。英伟达称:“借助 HBM3e,英伟达 H200 以每秒 4.8 TB 的速度提供 141GB 的内存,与 A100 相比,容量几乎是其两倍,带宽增加了 2.4 倍。” 在人工智能方面,英伟达表示,HGX H200 在 Llama 2(700 亿参数 LLM)上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置提供,与 H100 系统中的软件和硬件兼容。

wKgZomVTM-uASck5AAA4cWtzmgk782.jpg

H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍。而在高性能计算HPC方面的速度更是达到了双核x86 CPU的110倍。

H200的价格目前可能并不是最关心的,能不能拿到货才是关键,当然目前英伟达也没有公布价格。

此外还会有下一代升级版的Blackwell B100 GPU也在路上。

有数据称英伟达的H100的严重缺货问题至少会持续到2024年底。现在推出H200可能会占用一部分的产能,当然有会有一部分客户转投H200。这次英伟达推出新款AI芯片H200估计又是要卖断货的节奏。

但是10月份美国商务部工业和安全局(BIS)发布了针对芯片的出口管制新规,对高算力的AI芯片进行了更严格的管控。

所以不出意外的是,估计英伟达最强AI 芯片 H200还是会被美国限制进入我国市场,或者即使进入也是阉割版,而英伟达并不想放弃中国市场 ,所以也会针对性的推出满足法规的改良版AI芯片,不止是英伟达;英特尔也计划推出改良版。

此前,英伟达A100及H100两款型号被限制出口中国后,为中国专供的“阉割版”的A800和H800就是为了符合规定。

wKgaomVTM_iABLkJAADGYj49_M4845.jpg

有消息报道称英伟达的改良版AI芯片由H100改良而来,HGX H20、L20 PCle和L2 PCle这三款改良版AI芯片很快就会发布。但是预测理论上整体算力要比英伟达 H100 GPU芯片降80%左右。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4029

    浏览量

    97393
  • AI芯片
    +关注

    关注

    17

    文章

    2043

    浏览量

    36489
  • LLM
    LLM
    +关注

    关注

    1

    文章

    340

    浏览量

    1231
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟达官宣H20恢复中国供应,新款GPU震撼来袭

    亿美元的损失。而7月15日来北京参加国际供应链大会的英伟创始人和CEO黄仁勋带来了好消息。 7月15日,美国英伟公司创始人兼CEO黄仁勋在北京接受媒体采访时表示: “美国政府已经批
    的头像 发表于 07-16 02:01 8978次阅读
    <b class='flag-5'>英伟</b>达官宣<b class='flag-5'>H</b>20恢复中国供应,<b class='flag-5'>新款</b>GPU震撼来袭

    英伟传暂停生产H20芯片 外交部回应

    韩国三星电子、美国安靠科技、富士康等关键零部件供应商。 据悉,美国安靠科技(Amkor)负责H20芯片的封装,而三星电子负责提供高带宽的内存芯片。 业界人士分析称,一方面英伟
    的头像 发表于 08-22 15:58 2425次阅读

    外媒:英伟正开发新款中国特供芯片B30A 或为旗舰AI芯品B300的阉割版

    我们看到英伟的旗舰新品 B300备受关注;但是受限于美国实施出口限制措施,英伟不会出货,就像
    的头像 发表于 08-20 15:19 2872次阅读
    外媒:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>正开发<b class='flag-5'>新款</b>中国特供<b class='flag-5'>芯片</b>B30A 或为旗舰<b class='flag-5'>AI</b>芯品B300的阉割版

    H20中国区卖爆!英伟紧急向台积电加订30万块

    电子发烧友网综合报道 近期,英伟CEO黄仁勋在北京访问期间宣布,美国政府已经批准H20芯片恢复对华出口。   而
    的头像 发表于 07-30 08:08 2879次阅读

    英伟黄仁勋:将向中国市场销售H20芯片 中国市场至关重要

    英伟CEO黄仁勋在北京访问期间发表声明称,将恢复在中国销售其H20 GPU芯片,并根据美国出口限制为中国市场
    的头像 发表于 07-15 14:32 974次阅读

    今日看点丨英伟将为中国市场推出新AI芯片 售价大幅低于H20;中科曙光与海光信息宣布战略重组

    1. 英伟将为中国市场推出新AI 芯片 售价大幅低于H20   近日,外媒报道称,美国
    发表于 05-26 11:06 1555次阅读

    美国限制英伟向华出售H20芯片

    出口H20芯片,以及任何其他性能达到H20内存带宽、互连带宽或其组合的芯片,都必须获得
    的头像 发表于 04-16 17:28 794次阅读

    特朗普要叫停英伟对华特供版 英伟H20出口限制 或损失55亿美元

    是“中国特供版”人工智能芯片;是英伟公司为符合美国出口规定专门为中国市场开发的定制芯片H20
    的头像 发表于 04-16 16:59 1810次阅读

    今日看点丨英伟H20出口至中国需“无限期”申请许可证;特斯拉即将实现纯AI自动驾驶

    1. 英伟:美国政府要求,H20 出口至中国时需要“无限期”申请许可证   4月16日,据外媒报道,英伟
    发表于 04-16 11:18 724次阅读

    GMI Cloud推出基于英伟H200的DeepSeek系列模型

    近日,GMI Cloud宣布成功上架了基于英伟H200 GPU的DeepSeek系列模型。这一举措标志着DeepSeek在AI应用领域迈出了重要一步。 自DeepSeek在GitHu
    的头像 发表于 02-08 09:41 700次阅读

    英伟推出GB200 NVL4芯片!液冷UQD快接头崛起

    中,英伟推出了全新的硬件产品——GB200 NVL4超级芯片。该芯片展现出了较为出色的
    的头像 发表于 01-10 16:58 1703次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>推出</b>GB<b class='flag-5'>200</b> NVL4<b class='flag-5'>芯片</b>!液冷UQD快接头崛起

    英伟中国立案调查!涉嫌违反反垄断法,最新回应!

    英伟出口管制合规与竞争合规的双重要求,以及高额罚款面前,可能将被迫进行市场选择。英伟
    的头像 发表于 12-11 01:07 1293次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>被</b>中国立案调查!涉嫌违反反垄断法,最新回应!

    一颗芯片面积顶4颗H200,博通推出3.5D XDSiP封装平台

    平方毫米的3D堆叠硅晶片和12个HBM模块集成到一个系统级封装中。这是什么概念?   目前手机移动端的旗舰处理器骁龙8Elite核心面积是124.1平方毫米;英伟H200核心面积1526平方毫米;今年
    的头像 发表于 12-10 09:15 3338次阅读
    一颗<b class='flag-5'>芯片</b>面积顶4颗<b class='flag-5'>H200</b>,博通<b class='flag-5'>推出</b>3.5D XDSiP封装平台

    英伟加速认证三星新型AI存储芯片

    近日,英伟首席执行官黄仁勋近日在接受采访时透露,英伟正在全力加速对三星最新推出AI存储
    的头像 发表于 11-26 10:22 952次阅读

    英伟推出GB200 NVL4平台:整合了两个GB200芯片

    11月19日消息,人工智能(AI芯片大厂英伟(NVIDIA)正式推出了两个全新的AI解决方案
    的头像 发表于 11-21 01:06 2139次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>推出</b>GB<b class='flag-5'>200</b> NVL4平台:整合了两个GB<b class='flag-5'>200</b><b class='flag-5'>芯片</b>