0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达GTC:ChatGPT专用Hopper GPU H100 NVL来了

汽车电子技术 2023-03-23 16:55 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

英伟达GTC:ChatGPT专用Hopper GPU H100 NVL来了

ChatGPT 一经推出火爆程度让人咋舌,似乎一夜之间就将生成式 AI、大语言模型推到了风口浪尖。英伟达估计也要笑出声来,黄仁勋预计英伟达2023年的生成式人工智能的收入将相当大,人工智能及其基础设施即服务(infrastructure as-a-service)产品将拓展其商业模式。

要之前此前NVIDIA就已经入局,在2016年,NVIDIA就向OpenAI交付了第一台NVIDIA DGX AI超级计算机——支持 ChatGPT 的大型语言模型突破背后的引擎。现在GPT-4需要的算力更大,对速度需求更强烈。

pYYBAGQcE4GAQyMNAACgMjzuUMg307.png

pYYBAGQcE_CAW9TFAACS-dy454s037.png

poYBAGQcE_mANycgAABAXwRfsCo567.png

现在英伟达面向人工智能及其基础设施强发力,GPU提速,ChatGPT专用Hopper GPU H100 NVL性能强大,ChatGPT专用GPU可提速10倍,H100 NVL是专门为LLM设计的GPU,采用了Transformer加速解决方案,可用于处理ChatGPT。相比于英伟达HGX A100,一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5276

    浏览量

    136076
  • AI
    AI
    +关注

    关注

    91

    文章

    41182

    浏览量

    302626
  • 英伟达
    +关注

    关注

    23

    文章

    4116

    浏览量

    99635
  • gtc
    gtc
    +关注

    关注

    0

    文章

    75

    浏览量

    4775
  • ChatGPT
    +关注

    关注

    31

    文章

    1600

    浏览量

    10395
  • H100
    +关注

    关注

    0

    文章

    33

    浏览量

    620
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟达官宣H20恢复中国供应,新款GPU震撼来袭

    电子发烧友原创 章鹰 今天,命运多舛的英伟H20芯片迎来了新转机。4月,美国政府决定禁止英伟
    的头像 发表于 07-16 02:01 1w次阅读
    <b class='flag-5'>英伟</b>达官宣<b class='flag-5'>H</b>20恢复中国供应,新款<b class='flag-5'>GPU</b>震撼来袭

    AI爆款应用驱动需求增长,英伟H100租赁费用飙升40%

    电子发烧友网综合报道 近期,半导体研究机构SemiAnalysis发布的“H100一年期租赁合约价格指数”显示,英伟四年前发布的H100芯片租赁费用近半年飙升近40%。这款“老芯片”
    的头像 发表于 04-05 07:05 1.3w次阅读

    图为科技CEO苏世鹏受邀出席NVIDIA GTC 2026大会,与英伟CEO黄仁勋合影留念!

    2026 年英伟 GTC 全球人工智能与加速计算大会于美国圣·何塞圆满落幕。
    的头像 发表于 03-30 15:08 272次阅读

    GPU不是AI的唯一解:英伟用Groq LPU证明,推理赛道需要“另一条腿”

      电子发烧友网报道(文/莫婷婷)过去十年,人工智能的爆发式增长与GPU需求紧密相连。凭借其卓越的并行计算能力,GPU成为AI算力的绝对代名词。   然而,英伟给出颠覆性的新解。在最
    的头像 发表于 03-24 11:27 6046次阅读
    <b class='flag-5'>GPU</b>不是AI的唯一解:<b class='flag-5'>英伟</b><b class='flag-5'>达</b>用Groq LPU证明,推理赛道需要“另一条腿”

    天合光能出席英伟GTC 2026大会

    当地时间3月19日,英伟GTC 2026大会在美国加州圣何塞举行,天合光能出席此次大会。
    的头像 发表于 03-23 15:46 416次阅读

    新思科技与英伟多项硬核科技成果亮相GTC 2026

    新思科技(Synopsys, Inc.,纳斯达克股票代码:SNPS)在英伟 GTC 2026 大会(NVIDIA GTC 2026)上,展示了其与
    的头像 发表于 03-18 17:36 1015次阅读

    今日看点:马斯克:特斯拉已部署超百万颗 AI 芯片;长鑫存储发布全新 DDR5 内存新品

    H100H200。   报道,有知情人士透露最近几周,美国政府官员一直在私下讨论美国可以对华出售哪些芯片。一些人认为,与英伟Blackwell先进芯片相比,向中国出售
    发表于 11-24 11:10 1055次阅读

    英伟 Q3 狂揽 308 亿

    厂商季度合计 500 亿美元资本支出中,约 30% 流向了英伟。 新一代 Blackwell 芯片已全面投产,Q3 交付 1.3 万个 GPU 样品,H200
    的头像 发表于 11-20 18:11 1373次阅读

    英伟 H100 GPU 掉卡?做好这五点,让算力稳如泰山!

    H100服务器停工一天损失的算力成本可能比维修费还高。今天,我们给大家总结一套“防掉卡秘籍”,从日常管理到环境把控,手把手教你把掉卡风险压到最低。一、供电是“生命线”,这3点必须盯紧H100满载功耗
    的头像 发表于 09-05 11:03 1487次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>H100</b> <b class='flag-5'>GPU</b> 掉卡?做好这五点,让算力稳如泰山!

    搞定英伟 H100 ECC 报错:从原理到维修,一步到位解烦忧

    最近,捷智算GPU维修室收到了不少H100服务器需要维修,故障问题集中为ECC报错。为了帮大家更好地认识和了解情况,下面就详细分享一下ECC报错系统化排查方法和维修流程。一、ECC报错
    的头像 发表于 08-14 18:05 2708次阅读
    搞定<b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>H100</b> ECC 报错:从原理到维修,一步到位解烦忧

    H20中国区卖爆!英伟紧急向台积电加订30万块

    ,性能上相当于英伟另一款主流GPU芯片H100的20%左右。   尽管如此,在美国解禁对H20芯片的出口后,需求仍然超出了想象。据路透社报
    的头像 发表于 07-30 08:08 3543次阅读

    英伟获美批准恢复H20在华销售,同步推出全新兼容GPU

    7月15日上午,央广财经记者从英伟方面确认,英伟已经获得美国批准,将恢复 H20 在中国的销售,并推出面向中国市场的全新且完全兼容的
    的头像 发表于 07-16 17:49 932次阅读

    英伟黄仁勋:将向中国市场销售H20芯片 中国市场至关重要

    英伟CEO黄仁勋在北京访问期间发表声明称,将恢复在中国销售其H20 GPU芯片,并根据美国出口限制为中国市场推出一款新的GPU
    的头像 发表于 07-15 14:32 1507次阅读

    GPU 维修干货 | 英伟 GPU H100 常见故障有哪些?

    上涨,英伟H100GPU凭借其强大的算力,成为AI训练、高性能计算领域的核心硬件。然而,随着使用场景的复杂化,H100服务器故障率也逐渐攀升,轻则影响业务进度,重
    的头像 发表于 05-05 09:03 3409次阅读
    <b class='flag-5'>GPU</b> 维修干货 | <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>GPU</b> <b class='flag-5'>H100</b> 常见故障有哪些?