0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT对GPU算力的需求测算与分析

智能计算芯世界 来源:智能计算芯世界 2023-02-21 09:43 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

GPGPU的核心壁垒是高精度浮点计算及CUDA生态。从高精度浮点计算能力来看,国内GPU产品与国外产品的计算性能仍或有一代以上差距;在软件和生态层面与英伟达CUDA生态的差距则更为明显。

AI计算GPU领域,国内壁仞科技发布的BR100产品在FP32单精度计算性能上实现超越NVIDIA A100芯片,但是不支持FP64双精度计算;天数智芯推出的天垓100的FP32单精度计算性能实现超越A100芯片,但是在INT8整数计算性能方面却低于A100;海光推出的DCU实现了FP64双精度浮点计算,但是其性能为A100的60%左右,大概相当于其4年前水平。因此,从高精度浮点计算能力来看,国内GPU产品与国外产品的计算性能仍或有一代以上差距。

虽然目前国内产品的计算性能和软件生态实力与国际厂商还有差距,但是,国内厂商依然在奋起直追,努力实现GPGPU的国产化突破。长久来看,美国对中国高端GPU的禁售令反而给国产GPGPU和AI芯片厂商带来快速发展的机会。

短期来看,我们认为对高端通用计算GPU的禁令可能会影响英伟达和AMD的GPU产品在中国的销售,中国AI计算、超级计算和云计算产业进步受到一定的阻碍。可使用英伟达和AMD还没有被禁止的及国产厂商的中高计算性能CPU、GPU、ASIC芯片等替代。

长期来看,国产CPU、GPU、AI芯片厂商受益于庞大的国内市场,叠加国内信创市场带来国产化需求增量,我们预期国内AI芯片的国产化比例将显著提升,借此机会进行产品升级,逐渐达到国际先进水平,突破封锁。

252d9224-b179-11ed-bfe3-dac502259ad0.png

25601a32-b179-11ed-bfe3-dac502259ad0.png

25c4ce14-b179-11ed-bfe3-dac502259ad0.png

26200658-b179-11ed-bfe3-dac502259ad0.png

26702eee-b179-11ed-bfe3-dac502259ad0.png

269a6c2c-b179-11ed-bfe3-dac502259ad0.png

26e77c10-b179-11ed-bfe3-dac502259ad0.png

2734b1e2-b179-11ed-bfe3-dac502259ad0.png

27a7ff58-b179-11ed-bfe3-dac502259ad0.png

2818d76e-b179-11ed-bfe3-dac502259ad0.png

2871b690-b179-11ed-bfe3-dac502259ad0.png

28bdec54-b179-11ed-bfe3-dac502259ad0.png

2904abf8-b179-11ed-bfe3-dac502259ad0.png

292f6e1a-b179-11ed-bfe3-dac502259ad0.png

29829590-b179-11ed-bfe3-dac502259ad0.png

29baab24-b179-11ed-bfe3-dac502259ad0.png

29f2e7b4-b179-11ed-bfe3-dac502259ad0.png

2a2451f0-b179-11ed-bfe3-dac502259ad0.png

2a734e4a-b179-11ed-bfe3-dac502259ad0.png

2aaf76d6-b179-11ed-bfe3-dac502259ad0.png

2af9dece-b179-11ed-bfe3-dac502259ad0.png

2b16e636-b179-11ed-bfe3-dac502259ad0.png

2b695d94-b179-11ed-bfe3-dac502259ad0.png

2ba82718-b179-11ed-bfe3-dac502259ad0.png

2bdfcee8-b179-11ed-bfe3-dac502259ad0.png

2c1b7f56-b179-11ed-bfe3-dac502259ad0.png

2c82d1ba-b179-11ed-bfe3-dac502259ad0.png

2cc716fe-b179-11ed-bfe3-dac502259ad0.png

2d2c8066-b179-11ed-bfe3-dac502259ad0.png

2d710cb8-b179-11ed-bfe3-dac502259ad0.png

2db79ebc-b179-11ed-bfe3-dac502259ad0.png

2df3a6e6-b179-11ed-bfe3-dac502259ad0.png

本文选自“ChatGPT对GPU算力的需求测算与相关分析”,以上为部分内容,完整报告请参看原文。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53534

    浏览量

    458975
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134443
  • ChatGPT
    +关注

    关注

    31

    文章

    1596

    浏览量

    10070

原文标题:ChatGPT对GPU算力的需求测算与分析

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    AI中心的能耗挑战:CM5A 2000 H01霍尔闭环电流传感器在AI中心(AIDC)的应用分析

    随着DeepSeek、ChatGPT、Sora等大模型的迭代升级,全球AI中心正经历前所未有的扩张。据统计,单次大模型训练的耗电量相当于数万户家庭一个月的用电总和,而AI
    的头像 发表于 11-05 17:43 518次阅读
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>中心的能耗挑战:CM5A 2000 H01霍尔闭环电流传感器在AI<b class='flag-5'>算</b><b class='flag-5'>力</b>中心(AIDC)的应用<b class='flag-5'>分析</b>

    如何看懂GPU架构?一分钟带你了解GPU参数指标

    分析GPU核心参数体系:、显存大小、显存带宽、热门架构特性等关键指标,旨在帮您理解不同应用场景下,如何选择最合适的GPU
    的头像 发表于 10-09 09:28 575次阅读
    如何看懂<b class='flag-5'>GPU</b>架构?一分钟带你了解<b class='flag-5'>GPU</b>参数指标

    热插拔集群

    热插拔集群指在无需停机的情况下,动态增减计算节点或硬件的基础设施,其核心价值在于实现资源的弹性伸缩和业务连续性。以下从关键技术、应用场景及优势三个维度
    的头像 发表于 06-26 09:20 704次阅读

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】+NVlink技术从应用到原理

    前言 【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」书中的芯片知识是比较接近当前的顶尖芯片水平的,同时包含了芯片架构的基础知识,但该部分知识比较晦涩难懂,或许是由于我一
    发表于 06-18 19:31

    搭建中心,从了解的GPU 特性开始

    需求也在不断攀升。无论是企业进行数据分析、模型训练,还是科研机构开展复杂的科学计算,都需要强大的
    的头像 发表于 04-24 11:08 2979次阅读
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,从了解的<b class='flag-5'>GPU</b> 特性开始

    芯片的生态突围与革命

    据的爆发式增长,大芯片已成为科技竞争的核心领域之一。   大芯片的核心应用场景丰富多样。在人工智能训练与推理方面,大模型(如 GPT、Llama)的训练需要超大规模
    的头像 发表于 04-13 00:02 2605次阅读

    智能最具潜力的行业领域

    ‌; 数据治理与联合创新‌:民生银行与华为、阿里云等共建AI实验室,通过“数据湖+模型体系”提升服务精准度‌; 需求驱动‌:金融大模型推理对GPU
    的头像 发表于 04-11 08:20 1024次阅读
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潜力的行业领域

    DeepSeek推动AI需求:800G光模块的关键作用

    随着人工智能技术的飞速发展,AI需求正以前所未有的速度增长。DeepSeek等大模型的训练与推理任务对
    发表于 03-25 12:00

    GPU 加速计算:突破传统瓶颈的利刃

    在数字化时代,数据呈爆炸式增长,传统的已难以满足复杂计算任务的需求。无论是人工智能的深度学习、大数据的分析处理,还是科学研究中的模拟计算,都对
    的头像 发表于 02-17 10:36 514次阅读

    GPU租用平台有什么好处

    当今,GPU租用平台为科研机构、企业乃至个人开发者提供了灵活高效的解决方案。下面,AI部落小编带您深入探讨
    的头像 发表于 02-07 10:39 713次阅读

    中心的如何衡量?

    作为当下科技发展的重要基础设施,其的衡量关乎其能否高效支撑人工智能、大数据分析等智能应用的运行。以下是对智中心算衡量的详细阐述:一、
    的头像 发表于 01-16 14:03 4185次阅读
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    中心会取代通用中心吗?

    随着人工智能(AI)技术的飞速发展,计算需求不断攀升,数据中心行业正经历着前所未有的变革。传统的通用中心与新兴的智中心之间的竞争日益激烈。那么,在这样的背景下,通用
    的头像 发表于 01-06 14:45 888次阅读
    智<b class='flag-5'>算</b>中心会取代通用<b class='flag-5'>算</b><b class='flag-5'>力</b>中心吗?

    未来边缘GPU在车联网中的创新应用(下)

    本文来源:壹灵海科技随着5G通信技术的普及和人工智能技术的飞速发展,边缘GPU将在车联网领域发挥更加重要的作用。5G网络的高带宽和低延迟特性为车联网提供了强大的支持,使得车辆能够实时地交换大量
    的头像 发表于 12-19 11:16 820次阅读
    未来边缘<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在车联网中的创新应用(下)