英伟达GTC:ChatGPT专用Hopper GPU H100 NVL来了
ChatGPT 一经推出火爆程度让人咋舌,似乎一夜之间就将生成式 AI、大语言模型推到了风口浪尖。英伟达估计也要笑出声来,黄仁勋预计英伟达2023年的生成式人工智能的收入将相当大,人工智能及其基础设施即服务(infrastructure as-a-service)产品将拓展其商业模式。
要之前此前NVIDIA就已经入局,在2016年,NVIDIA就向OpenAI交付了第一台NVIDIA DGX AI超级计算机——支持 ChatGPT 的大型语言模型突破背后的引擎。现在GPT-4需要的算力更大,对速度需求更强烈。



现在英伟达面向人工智能及其基础设施强发力,GPU提速,ChatGPT专用Hopper GPU H100 NVL性能强大,ChatGPT专用GPU可提速10倍,H100 NVL是专门为LLM设计的GPU,采用了Transformer加速解决方案,可用于处理ChatGPT。相比于英伟达HGX A100,一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。
-
gpu
+关注
关注
28文章
5110浏览量
134512 -
AI
+关注
关注
90文章
38274浏览量
297330 -
英伟达
+关注
关注
23文章
4047浏览量
97762 -
gtc
+关注
关注
0文章
73浏览量
4725 -
ChatGPT
+关注
关注
31文章
1596浏览量
10095 -
H100
+关注
关注
0文章
33浏览量
565
发布评论请先 登录
英伟达 H100 GPU 掉卡?做好这五点,让算力稳如泰山!
搞定英伟达 H100 ECC 报错:从原理到维修,一步到位解烦忧
H20中国区卖爆!英伟达紧急向台积电加订30万块
英伟达获美批准恢复H20在华销售,同步推出全新兼容GPU
GPU 维修干货 | 英伟达 GPU H100 常见故障有哪些?
特朗普要叫停英伟达对华特供版 英伟达H20出口限制 或损失55亿美元
立讯技术亮相英伟达GTC 2025大会
英伟达GTC25亮点:NVIDIA Blackwell Ultra 开启 AI 推理新时代
新思科技亮相英伟达GTC 2025大会
英伟达GB300 NVL72加速研发,AOS成关键DrMOS供应商
英伟达GB200 NVL72服务器出货量调低
英伟达推出GB200 NVL4芯片!液冷UQD快接头崛起

英伟达GTC:ChatGPT专用Hopper GPU H100 NVL来了
评论