0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT爆火背后的硬件产业链

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-02-12 06:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李弯弯)最近,ChatGPT持续火爆,随着微软在其搜索引擎必应中使用ChatGPT,谷歌、百度、阿里等都在计划推出类似ChatGPT的聊天机器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天机器人“巴德(Bard)”;百度2月7日确认正在研发“文心一言”;阿里2月9日透露类ChatGPT的对话机器人正在研发。

而无论是ChatGPT,还是巴德(Bard)、文心一言、阿里的对话机器人,它们要运行,都需要大量的算力,数据中心、算力芯片业因此成为热门。

对数据中心需求量大

ChatGPT背后有着巨额的算力成本,数据显示,ChatGPT的总算力消耗约为3640PF-days(即每秒一千万亿次计算,运行3640个整日)。随着更多ChatGPT同类产品出现,且在相关服务不断升级和更新的情况下,未来数据中心的负担会越来越重,对数据中心数量的需求也更大。

另外,数据中心在庞大的增量面前也透露出一个问题,便是网络设备的巨额能耗。数据中心是耗能大户。因此国家在去年11月1日在全国范围内强制实施了《数据中心能效限定值和能效等级》,决定在2025年实现节能量超过2143亿千瓦时。

近日工信部等七部门同样发布了《信息通信行业绿色低碳发展计划(2022-2025年)》,按照最新的国标要求到2025年,新建大型、超大型数据中心电能利用效率(PUE)降到1.3以下。

而在ChatGPT等AI技术发展的同时,降低能耗成了数据中心产业的趋势。对于数据中心而言,能耗主要来自三个方面:决定交换机性能的交换芯片、承载网络通信带宽的光模块、提高传输速率的SerDes。因此相关技术和芯片将会成为需求的重点。

事实上,在数据中心能耗问题方面,早在2020年,亚马逊、微软、谷歌等云计算巨头,思科、IBM、英特尔英伟达等网络设备及芯片龙头,就已在投入研发一项名为CPO的技术。CPO是通过将交换芯片和光模块整合,形成芯片和模组的共封装,可降低原来功耗的50%。

据LightCounting预测,按照端口数量统计,CPO的出货量将从2023年的5万件增加到2027年的450万件,以800G和1.6T CPO为主。目前我国已有不少企业在进行相关技术研发,包括新易盛、锐捷网络、联特科技、光迅科技等。

带动AI芯片需求增长

ChatGPT横空出世,意味着一系列AI应用进入大规模的落地阶段。业内人士认为,这将对AI芯片在训练和推理等环节支撑大量数据高效处理提出新的挑战,芯片算力、存储容量、带宽、软件栈等多个维度上的技术要求将提高,并推动AI芯片市场增长。

首先是GPU,GPU可以支撑强大的算力需求。以ChatGPT为例,具体来看,从AI模型构建的角度:第一阶段是用超大算力和数据构建预训练模型;第二阶段是在预训练模型上进行针对性训练。而GPU由于具备并行计算能力,可兼容训练和推理,所以目前被广泛应用。

ChatGPT训练模型中就已导入至少1万颗英伟达GPU,曾经风靡一时的AlphaGO也只需要8块GPU。ChatGPT推理部分使用微软的Azure云服务,也需要GPU进行运作。所以,ChatGPT的火热兴起对GPU的需求可见一斑。

在ChatGPT火热的浪潮中,英伟达是主要受益者。英伟达是全球GPU和AI计算平台的领军者,其高端GPU占据了AI算法训练市场绝大部分的份额,ChatGPT之前,AlphaGo、GPT-3等明星AI产品都在英伟达的硬件上运行。花旗集团预估,ChatGPT可能会在未来12个月内为英伟达带来30亿美元至110亿美元的销售额。

英伟达之外,IntelAMD也占据全球GPU主要市场。国内市场,目前在人工智能用GPU领域有所布局,包括摩尔线程、壁仞科技、沐曦、天数智芯、燧原科技等,不过整体产品应用情况仍不及英伟达等国际厂商。

随着AI应用进入大规模落地,可想而知除了GPU之外,其他AI训练、推理芯片也有很大的市场空间,像百度、阿里自己研发类ChatGPT的对话机器人,其本身也有在做训练芯片,另外还有寒武纪、鲲云科技、墨芯人工智能、瀚博半导体等厂商。

另外,从深度学习的角度来看,虽然GPU是最适合深度学习应用的芯片,但 CPUFPGA也能发挥其重要性。本身ChatGPT的运行需要大量的服务器支撑,而其中少不了对CPU的需求。FPGA作为可编程芯片,可以针对特定功能进行扩展,在AI模型构建第二阶段具有一定的发挥空间。FPGA与CPU结合,也可以共同用于深度学习模型,实现对大算力的需求。

小结

ChatGPT的爆火预示着人工智能的大规模落地应用成为可能,随着微软、谷歌、百度、阿里的入局,人工智能大模型的技术和应用也将更快向前推进。这必然造成对数据中心、服务器的大量需求,在“低碳”目标下,低能耗数据中心建设将会是未来发展重点。

同时,在ChatGPT等技术和应用的加速发展下,AI训练芯片、推理芯片的市场需求也将大幅提升,相关企业需要做好准备。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Labubu带!消费级3D打印产业链起飞

    ,Labubu 依托泡泡玛特在潮玩领域积累的品牌影响力与成熟市场渠道,更易获得消费者的关注与认可。   Labubu 的,对消费级 3D 打印产业产生了显著推动作用。国家统计局数据显示,2025 年 5 月我国 3D 打印设
    的头像 发表于 08-31 07:03 7791次阅读

    2026全球存储产业链排名

    2026全球存储产业链排名
    的头像 发表于 04-20 15:39 176次阅读
    2026全球存储<b class='flag-5'>产业链</b>排名

    极海半导体亮相2026中国电机产业链峰会

    3月26日,2026中国电机智造与创新应用暨电机产业链峰会在深圳成功举办。峰会聚焦智能家电、新能源汽车及人形机器人三大领域,汇聚行业专家及产业链代表。极海携创新电机芯片产品及解决方案亮相峰会,并在“电机驱动与控制技术研讨会(生活电器)”分会场发表主题演讲。
    的头像 发表于 03-30 09:27 1698次阅读

    【「芯片设计基石——EDA产业全景与未来展望」阅读体验】+ 芯片“卡脖子”引发对EDA的重视

    芯片设计和EDA领域中美博弈重大事件,分析其背后逻辑和影响。以上事件的本质是美国通过垄断全球科技话语权,,将半导体产业变成地缘政治工具,构建起一套针对中国半导体产业的“技术隔离墙”,维持自身在高端
    发表于 01-20 20:09

    创业公司自定义芯片,被上市公司抄怎么办?

    ,创业公司已经没有能力来跟进三伍微,技术上跟不上,供应成本也跟不上。即使做出一颗PIN to PIN芯片,也没有办法跟三伍微竞争。但上市公司不一样,技术上没有问题,供应上更没有问题。 在Wi-Fi FEM
    的头像 发表于 12-24 14:16 549次阅读

    芯导科技助力功率半导体产业链自主可控加速

    在地缘政治的影响下,供应自主可控已成为长期议题,推动国产半导体替代、保障产业链供应安全稳定,已成为国内产业界的共识与迫切需求。
    的头像 发表于 10-23 14:53 1217次阅读

    进迭时空荣膺中移物联网产业链核企业”

    9月18日,以“聚势强智启AI+”为主题的2025年中移物联网产业链大会在重庆尼依格罗酒店隆重召开。大会汇聚中国移动集团科创部、中移物联网有限公司等单位领导,以及高通、海思、海康威视等产业链上下游
    的头像 发表于 09-19 12:07 5814次阅读
    进迭时空荣膺中移物联网<b class='flag-5'>产业链</b> “<b class='flag-5'>链</b>核企业”

    芯盛智能亮相2025移动信息现代产业链大会

    2025年8月28日,以“移湘聚,强共赢”为主题的2025移动信息现代产业链大会在湖南长沙隆重召开。本次大会汇聚了产业链核心企业、高
    的头像 发表于 08-30 11:42 1598次阅读

    合创智行亮相2025移动信息现代产业链大会

    2025年8月28日,以 “移湘聚,强共赢” 为主题的2025移动信息现代产业链大会在湖南长沙召开。大会聚焦信息技术与实体经济深度融合,推动
    的头像 发表于 08-30 09:10 1628次阅读

    2025第五届中国BLDC电机产业链优秀企业年度评选

    2025第五届中国BLDC电机产业链优秀企业年度评选 智创潮涌,卓越登峰 时间:2025年7月-10月24日 地点:中国深圳 活动介绍 高效电机凭借高效能、高可靠性、低噪音等优势,在工业自动化、家电
    的头像 发表于 08-06 10:06 6728次阅读

    中国MEMS产业链领军企业具体有哪些?2025最新权威名单发布

    MEMS传感器产业链上的领军公司,这些公司是中国MEMS产业的中流砥柱,这些企业涵盖MEMS芯片制造、设计、设备等全产业链的头部公司,以下为这份名单里的国产MEMS公司: 罕王微电子(辽宁)有限公司
    的头像 发表于 08-05 18:35 5927次阅读

    2025电机产业链交流会圆满收官,技术分享与供需对接双驱动

    2025年3月27日,由Big-Bit商务网主办,《半导体器件应用》杂志承办的2025中国电机智造与创新应用暨电机产业链交流会(春季)于深圳登喜路国际大酒店圆满落下帷幕。 本届电机产业链交流会以
    的头像 发表于 07-18 14:49 1405次阅读
    2025电机<b class='flag-5'>产业链</b>交流会圆满收官,技术分享与供需对接双驱动

    DDR4价格飙升!国产替代产业链深度解析来了!

    上涨,引发市场广泛关注。这背后反映的是整个DRAM产业链的深层次变化,从上游芯片制造到下游应用市场,各个环节都在经历重新洗牌,国产供应正面临前所未有的发展机遇。作
    的头像 发表于 06-27 09:45 5288次阅读
    DDR4价格飙升!国产替代<b class='flag-5'>产业链</b>深度解析来了!

    华正新材AI产业链技术论坛精彩回顾

    为追踪行业发展趋势,促进产业链技术创新,近日,由华正新材主办的“AI背景下从芯片到设备、PCB/CCL与原物料的产业链技术全景解析”主题论坛在杭州青山湖成功举办。本次论坛聚焦AI算力爆发时代下“材料
    的头像 发表于 06-25 16:15 1329次阅读

    我国为什么要发展半导体全产业链

    我国发展半导体产业的核心目的,可综合政策导向、产业需求及国际竞争态势,从以下四个维度进行结构化分析:一、突破关键技术瓶颈,实现产业链自主可控1.应对外部技术封锁美国对华实施光刻机等核心设备出口管制
    的头像 发表于 06-09 13:27 1790次阅读
    我国为什么要发展半导体全<b class='flag-5'>产业链</b>