0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT算力:研究框架(2023)

架构师技术联盟 来源:半导体风向标 2023-02-13 16:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

ChatGPT热潮席卷全球。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。

ChatGPT的“背后英雄”:芯片,国内GPUCPUFPGAAI芯片及光模块产业链蓄势待发。

1)GPU:支撑强大算力需求。由于具备并行计算能力,可兼容训练和推理,目前GPU被广泛应用于加速芯片;

2)CPU:可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求;

3)FPGA:可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势;

4)ASIC:极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构,在功耗、可靠性和集成度上具有优势;

5)光模块:容易被忽略的算力瓶颈。伴随数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。

7061a750-aac9-11ed-bfe3-dac502259ad0.png

707b08c6-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

01

算力需求爆发拉动芯片量价齐升

71942fa8-aac9-11ed-bfe3-dac502259ad0.png

71ab79c4-aac9-11ed-bfe3-dac502259ad0.png

71d8096c-aac9-11ed-bfe3-dac502259ad0.png

71fe7f34-aac9-11ed-bfe3-dac502259ad0.png

725587e8-aac9-11ed-bfe3-dac502259ad0.png

7284c79c-aac9-11ed-bfe3-dac502259ad0.png

72c456a0-aac9-11ed-bfe3-dac502259ad0.png

72ee34f2-aac9-11ed-bfe3-dac502259ad0.png

731e7220-aac9-11ed-bfe3-dac502259ad0.png

7380b03e-aac9-11ed-bfe3-dac502259ad0.png

73c52a7a-aac9-11ed-bfe3-dac502259ad0.png

73f2f25c-aac9-11ed-bfe3-dac502259ad0.png

74d5d158-aac9-11ed-bfe3-dac502259ad0.png

02

技术创新引领本土产业链弯道突围

750996c8-aac9-11ed-bfe3-dac502259ad0.png

752b4fca-aac9-11ed-bfe3-dac502259ad0.png

754880cc-aac9-11ed-bfe3-dac502259ad0.png

75787e62-aac9-11ed-bfe3-dac502259ad0.png

75c63170-aac9-11ed-bfe3-dac502259ad0.png

75ef1414-aac9-11ed-bfe3-dac502259ad0.png

7613659e-aac9-11ed-bfe3-dac502259ad0.png

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5590

    浏览量

    123890
  • 算力
    +关注

    关注

    2

    文章

    1385

    浏览量

    16554
  • ChatGPT
    +关注

    关注

    30

    文章

    1596

    浏览量

    10066

原文标题:ChatGPT算力:研究框架(2023)

文章出处:【微信号:架构师技术联盟,微信公众号:架构师技术联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    中国智能规模增长将超40%

    表示预计在2025年,中国智能规模增长将超过40%。 据中国信息通信研究院副院长 魏亮表示:目前,中国平台实现了100多个
    的头像 发表于 08-25 19:28 794次阅读

    华为联合中国移动研究院发布“路由AI推理及视联网应用样板”

    2025年8月20日;在第九届未来网络发展大会期间,华为联合中国移动研究院发布“路由AI推理及视联网应用样板”,标志着网络在商用探索
    的头像 发表于 08-25 19:23 1013次阅读

    一文看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI集群。AI的三要素,是、算法和数据。而AI
    的头像 发表于 07-23 12:18 947次阅读
    一文看懂AI<b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    软通智中标韶关公共服务平台项目

    日前,软通动力旗下软通智中标《韶关公共服务平台(一体化
    的头像 发表于 05-22 16:19 707次阅读

    芯片的生态突围与革命

    电子发烧友网报道(文 / 李弯弯)大芯片,即具备强大计算能力的集成电路芯片,主要应用于高性能计算(HPC)、人工智能(AI)、数据中心、自动驾驶等需要海量数据并行计算的场景。随着 AI 与大数
    的头像 发表于 04-13 00:02 2597次阅读

    领域常用名词解释

    本文系统地整理和解释了领域中常用的数十个关键名词,并按照以下维度进行了分类:基础概念、系统架构、硬件架构、基础运算类型、计算模式、相关软件架构与部署模式、浮点精度格式、类型、
    的头像 发表于 04-07 11:21 1197次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>领域常用名词解释

    【一文看懂】什么是端侧

    向您介绍全方面端侧:1.端侧的定义2.端侧的技术
    的头像 发表于 02-24 12:02 2909次阅读
    【一文看懂】什么是端侧<b class='flag-5'>算</b><b class='flag-5'>力</b>?

    AI:智能时代的核心驱动力

    引言在当今数字化时代,的重要性不言而喻。12月28日,央视和国务院国资委联合制作的纪录片《大国基石》第三期《引擎》中所强调的“
    的头像 发表于 01-22 12:58 1544次阅读
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>:智能时代的核心驱动力

    中心的如何衡量?

    作为当下科技发展的重要基础设施,其的衡量关乎其能否高效支撑人工智能、大数据分析等智能应用的运行。以下是对智中心算衡量的详细阐述:一、
    的头像 发表于 01-16 14:03 4172次阅读
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云报到:要更要“利”,“精装”触发大模型产业新变局?

    科技云报到:要更要“利”,“精装”触发大模型产业新变局?
    的头像 发表于 01-16 10:24 784次阅读

    浪潮信息与智源研究院携手共建大模型多元生态

    近日,浪潮信息与北京智源人工智能研究院正式签署战略合作协议,双方将紧密合作,共同构建大模型多元开源创新生态。 此次合作旨在提升大模型创新研发的
    的头像 发表于 12-31 11:49 872次阅读

    聚焦“一度”,九章云极DataCanvas公司推进标准化建设

    2023年底,新质生产被首次写入中央经济工作会议报告,指出“要以科技创新推动产业创新,特别是以颠覆性技术和前沿技术催生新产业、新模式、新动能,发展新质生产”。作为新质生产的代表,
    的头像 发表于 12-27 15:46 719次阅读
    聚焦“一度<b class='flag-5'>算</b><b class='flag-5'>力</b>”,九章云极DataCanvas公司推进<b class='flag-5'>算</b><b class='flag-5'>力</b>标准化建设

    杰和课堂|带你认识

    杰和课堂|带你认识力人工智能浪潮汹涌的今天,一词频繁出现在各类科技新闻、产业发展报告中。了解过杰和科技产品的读者们,也会在杰和各产品参数中发现
    的头像 发表于 12-06 10:24 2426次阅读
    杰和课堂|带你认识<b class='flag-5'>算</b><b class='flag-5'>力</b>