0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英伟达GTC:ChatGPT专用Hopper GPU H100 NVL来了

汽车电子技术 2023-03-23 16:55 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

英伟达GTC:ChatGPT专用Hopper GPU H100 NVL来了

ChatGPT 一经推出火爆程度让人咋舌,似乎一夜之间就将生成式 AI、大语言模型推到了风口浪尖。英伟达估计也要笑出声来,黄仁勋预计英伟达2023年的生成式人工智能的收入将相当大,人工智能及其基础设施即服务(infrastructure as-a-service)产品将拓展其商业模式。

要之前此前NVIDIA就已经入局,在2016年,NVIDIA就向OpenAI交付了第一台NVIDIA DGX AI超级计算机——支持 ChatGPT 的大型语言模型突破背后的引擎。现在GPT-4需要的算力更大,对速度需求更强烈。

pYYBAGQcE4GAQyMNAACgMjzuUMg307.png

pYYBAGQcE_CAW9TFAACS-dy454s037.png

poYBAGQcE_mANycgAABAXwRfsCo567.png

现在英伟达面向人工智能及其基础设施强发力,GPU提速,ChatGPT专用Hopper GPU H100 NVL性能强大,ChatGPT专用GPU可提速10倍,H100 NVL是专门为LLM设计的GPU,采用了Transformer加速解决方案,可用于处理ChatGPT。相比于英伟达HGX A100,一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5110

    浏览量

    134512
  • AI
    AI
    +关注

    关注

    90

    文章

    38274

    浏览量

    297330
  • 英伟达
    +关注

    关注

    23

    文章

    4047

    浏览量

    97762
  • gtc
    gtc
    +关注

    关注

    0

    文章

    73

    浏览量

    4725
  • ChatGPT
    +关注

    关注

    31

    文章

    1596

    浏览量

    10095
  • H100
    +关注

    关注

    0

    文章

    33

    浏览量

    565
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    英伟达官宣H20恢复中国供应,新款GPU震撼来袭

    电子发烧友原创 章鹰 今天,命运多舛的英伟H20芯片迎来了新转机。4月,美国政府决定禁止英伟
    的头像 发表于 07-16 02:01 9255次阅读
    <b class='flag-5'>英伟</b>达官宣<b class='flag-5'>H</b>20恢复中国供应,新款<b class='flag-5'>GPU</b>震撼来袭

    英伟 H100 GPU 掉卡?做好这五点,让算力稳如泰山!

    H100服务器停工一天损失的算力成本可能比维修费还高。今天,我们给大家总结一套“防掉卡秘籍”,从日常管理到环境把控,手把手教你把掉卡风险压到最低。一、供电是“生命线”,这3点必须盯紧H100满载功耗
    的头像 发表于 09-05 11:03 754次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>H100</b> <b class='flag-5'>GPU</b> 掉卡?做好这五点,让算力稳如泰山!

    搞定英伟 H100 ECC 报错:从原理到维修,一步到位解烦忧

    最近,捷智算GPU维修室收到了不少H100服务器需要维修,故障问题集中为ECC报错。为了帮大家更好地认识和了解情况,下面就详细分享一下ECC报错系统化排查方法和维修流程。一、ECC报错
    的头像 发表于 08-14 18:05 1483次阅读
    搞定<b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>H100</b> ECC 报错:从原理到维修,一步到位解烦忧

    H20中国区卖爆!英伟紧急向台积电加订30万块

    ,性能上相当于英伟另一款主流GPU芯片H100的20%左右。   尽管如此,在美国解禁对H20芯片的出口后,需求仍然超出了想象。据路透社报
    的头像 发表于 07-30 08:08 3030次阅读

    英伟获美批准恢复H20在华销售,同步推出全新兼容GPU

    7月15日上午,央广财经记者从英伟方面确认,英伟已经获得美国批准,将恢复 H20 在中国的销售,并推出面向中国市场的全新且完全兼容的
    的头像 发表于 07-16 17:49 682次阅读

    GPU 维修干货 | 英伟 GPU H100 常见故障有哪些?

    上涨,英伟H100GPU凭借其强大的算力,成为AI训练、高性能计算领域的核心硬件。然而,随着使用场景的复杂化,H100服务器故障率也逐渐攀升,轻则影响业务进度,重
    的头像 发表于 05-05 09:03 2529次阅读
    <b class='flag-5'>GPU</b> 维修干货 | <b class='flag-5'>英伟</b><b class='flag-5'>达</b> <b class='flag-5'>GPU</b> <b class='flag-5'>H100</b> 常见故障有哪些?

    特朗普要叫停英伟对华特供版 英伟H20出口限制 或损失55亿美元

    是“中国特供版”人工智能芯片;是英伟公司为符合美国出口规定专门为中国市场开发的定制芯片,H20芯片在训练AI模型方面不如英伟其他芯片速度
    的头像 发表于 04-16 16:59 1901次阅读

    立讯技术亮相英伟GTC 2025大会

    日前,英伟年度技术盛会GTC 2025在美国加州圣何塞拉开帷幕。作为全球AI与计算领域的顶级峰会,GTC 2025汇聚了全球数千名开发者、企业领袖及学术专家,共同探讨AI与加速计算的
    的头像 发表于 03-28 09:16 1127次阅读
    立讯技术亮相<b class='flag-5'>英伟</b><b class='flag-5'>达</b><b class='flag-5'>GTC</b> 2025大会

    英伟GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代

    英伟GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代
    的头像 发表于 03-20 15:35 1238次阅读

    英伟GTC2025大会关键信息点总结 Blackwell Ultra 量子计算与机器人

    英伟 GTC 2025 大会关键信息点总结
    的头像 发表于 03-20 14:18 1399次阅读

    新思科技亮相英伟GTC 2025大会

    为了实现这一速度提升,新思科技在GTC全球AI大会上宣布,正在使用英伟 CUDA-X库优化其下一代半导体开发解决方案。公司还在扩大对英伟
    的头像 发表于 03-19 17:53 1143次阅读

    英伟GB300 NVL72加速研发,AOS成关键DrMOS供应商

    近日,英伟在高性能计算领域的研发步伐再次提速,其最新一代产品GB300 NVL72正加速推进。据天风证券分析师郭明錤于2月7日发布的博文透露,英伟
    的头像 发表于 02-10 17:10 1248次阅读

    英伟A100H100比较

    英伟A100H100都是针对高性能计算和人工智能任务设计的GPU,但在性能和特性上存在显著差异。以下是对这两款
    的头像 发表于 02-10 17:05 1.2w次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比较

    英伟GB200 NVL72服务器出货量调低

    近日,天风国际证券分析师郭明錤发布报告指出,英伟GB200 NVL72服务器的出货量将低于预期。据悉,由于该服务器的组装量产时间多次延期,导致今年的出货量预估范围调整至2.5万至3.5万台之间。
    的头像 发表于 01-22 18:16 1353次阅读

    英伟推出GB200 NVL4芯片!液冷UQD快接头崛起

    英伟GB200 NVL4高功耗芯片亮相,超算散热革新加速。UQD快速接头作为液冷关键部件,于变局中登场,迎来机遇曙光。 在 2024 年美国超级计算大会(SC24)这场备受全球关注的科技盛会
    的头像 发表于 01-10 16:58 1852次阅读
    <b class='flag-5'>英伟</b><b class='flag-5'>达</b>推出GB200 <b class='flag-5'>NVL</b>4芯片!液冷UQD快接头崛起