0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT算力:研究框架(2023)

架构师技术联盟 来源:半导体风向标 2023-02-13 16:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

ChatGPT热潮席卷全球。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。

ChatGPT的“背后英雄”:芯片,国内GPUCPUFPGAAI芯片及光模块产业链蓄势待发。

1)GPU:支撑强大算力需求。由于具备并行计算能力,可兼容训练和推理,目前GPU被广泛应用于加速芯片;

2)CPU:可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求;

3)FPGA:可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势;

4)ASIC:极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构,在功耗、可靠性和集成度上具有优势;

5)光模块:容易被忽略的算力瓶颈。伴随数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。

7061a750-aac9-11ed-bfe3-dac502259ad0.png

707b08c6-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

01

算力需求爆发拉动芯片量价齐升

71942fa8-aac9-11ed-bfe3-dac502259ad0.png

71ab79c4-aac9-11ed-bfe3-dac502259ad0.png

71d8096c-aac9-11ed-bfe3-dac502259ad0.png

71fe7f34-aac9-11ed-bfe3-dac502259ad0.png

725587e8-aac9-11ed-bfe3-dac502259ad0.png

7284c79c-aac9-11ed-bfe3-dac502259ad0.png

72c456a0-aac9-11ed-bfe3-dac502259ad0.png

72ee34f2-aac9-11ed-bfe3-dac502259ad0.png

731e7220-aac9-11ed-bfe3-dac502259ad0.png

7380b03e-aac9-11ed-bfe3-dac502259ad0.png

73c52a7a-aac9-11ed-bfe3-dac502259ad0.png

73f2f25c-aac9-11ed-bfe3-dac502259ad0.png

74d5d158-aac9-11ed-bfe3-dac502259ad0.png

02

技术创新引领本土产业链弯道突围

750996c8-aac9-11ed-bfe3-dac502259ad0.png

752b4fca-aac9-11ed-bfe3-dac502259ad0.png

754880cc-aac9-11ed-bfe3-dac502259ad0.png

75787e62-aac9-11ed-bfe3-dac502259ad0.png

75c63170-aac9-11ed-bfe3-dac502259ad0.png

75ef1414-aac9-11ed-bfe3-dac502259ad0.png

7613659e-aac9-11ed-bfe3-dac502259ad0.png

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5604

    浏览量

    124615
  • 算力
    +关注

    关注

    2

    文章

    1670

    浏览量

    16832
  • ChatGPT
    +关注

    关注

    31

    文章

    1600

    浏览量

    10391

原文标题:ChatGPT算力:研究框架(2023)

文章出处:【微信号:架构师技术联盟,微信公众号:架构师技术联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    力尽头是电力!AI爆发下,储能产业链UPS电源核心机遇全解析

    当下,全球科技圈最热的话题莫过于AI。从ChatGPT掀起的大模型浪潮,到各行各业争相布局的基础设施,一场围绕“”的军备竞赛正在全面
    的头像 发表于 03-26 11:23 385次阅读
    <b class='flag-5'>算</b>力尽头是电力!AI<b class='flag-5'>算</b><b class='flag-5'>力</b>爆发下,储能产业链UPS电源核心机遇全解析

    国产出海元年开启

      国产开启“大航海”时代。 黄仁勋前段时间访华时曾表示:“华为AI芯片取代英伟达只是时间问题。”彼时,这话多被解读为对老对手的客套。但在刚刚结束的2025世界人工智能大会上,华为昇腾384超
    的头像 发表于 03-24 15:15 502次阅读
    国产<b class='flag-5'>算</b><b class='flag-5'>力</b>出海元年开启

    软通动力打造“基建+睿动Token经济+OpenClaw”的运营新体系

    认知,以“本地优先+强执行+零门槛”三大核心优势,重构个人与企业的效率边界,主打“真正能做事的AI”,堪称2026年最值得入手的AI数字员工工具。在此背景下,软通动力率先打破产业壁垒,将基础设施、Token经济与OpenClaw(小龙虾)智能体
    的头像 发表于 03-06 14:13 794次阅读

    高达 1570 TOPS!支持多硬盘的高服务器 CSB2-N10

    CSB2-N10服务器内置10个分布式计算节点,单节点可提供6-157TOPS,可选瑞芯微、能、NVIDIA等平台。支持主流AI大模型的私有化部署、多种深度学习框架。拥有2个万兆
    的头像 发表于 01-06 16:33 725次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高达 1570 TOPS!支持多硬盘的高<b class='flag-5'>算</b><b class='flag-5'>力</b>服务器 CSB2-N10

    将AI送上太空,是终极方案还是疯狂幻想?评论区说出你的阵营!

    AI
    江苏易安联
    发布于 :2026年01月06日 09:43:34

    高达 1100 TOPS!内置 Jetson AGX Orin 模组的高服务器

    CSB1-N4AGXOrin最高可配置4个NVIDIAJetsonAGXOrin(64GB)计算节点,最高1100TOPS(INT8)。支持主流AI大模型的私有化部署、多种深度学习框架。拥有4个
    的头像 发表于 12-17 16:31 792次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高达 1100 TOPS!内置 Jetson AGX Orin 模组的高<b class='flag-5'>算</b><b class='flag-5'>力</b>服务器

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    什么是AI模组?

    未来,腾视科技将继续深耕AI模组领域,全力推动AI边缘计算行业的深度发展。随着AI技术的不断演进和物联网应用的持续拓展,腾视科技的AI模组将在更多领域发挥重要作用,实现实时、安
    的头像 发表于 09-19 15:26 2061次阅读
    什么是AI<b class='flag-5'>算</b><b class='flag-5'>力</b>模组?

    什么是AI模组?

    未来,腾视科技将继续深耕AI模组领域,全力推动AI边缘计算行业的深度发展。随着AI技术的不断演进和物联网应用的持续拓展,腾视科技的AI模组将在更多领域发挥重要作用,实现实时、安
    的头像 发表于 09-19 15:25 1026次阅读
    什么是AI<b class='flag-5'>算</b><b class='flag-5'>力</b>模组?

    昆仑芯科技亮相2025中国大会

    8月22日至24日,2025中国大会在山西大同举办,本届大会以“网筑基 智引未来”为主题,聚焦网络新趋势,共话
    的头像 发表于 08-27 15:11 2005次阅读

    中国智能规模增长将超40%

    表示预计在2025年,中国智能规模增长将超过40%。 据中国信息通信研究院副院长 魏亮表示:目前,中国平台实现了100多个
    的头像 发表于 08-25 19:28 1055次阅读

    华为联合中国移动研究院发布“路由AI推理及视联网应用样板”

    2025年8月20日;在第九届未来网络发展大会期间,华为联合中国移动研究院发布“路由AI推理及视联网应用样板”,标志着网络在商用探索
    的头像 发表于 08-25 19:23 1290次阅读

    一文看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI集群。AI的三要素,是、算法和数据。而AI
    的头像 发表于 07-23 12:18 1918次阅读
    一文看懂AI<b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    软通智完成超亿级A轮融资,加速AI产业布局

    机构跟投。 自2024年成立以来,软通智积极参与全国一体化网建设,以技术驱动互联互通体系构建,创新
    的头像 发表于 06-18 15:37 705次阅读

    软通智中标韶关公共服务平台项目

    日前,软通动力旗下软通智中标《韶关公共服务平台(一体化
    的头像 发表于 05-22 16:19 1147次阅读