0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT爆火背后的硬件产业链

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-02-12 06:14 次阅读

电子发烧友网报道(文/李弯弯)最近,ChatGPT持续火爆,随着微软在其搜索引擎必应中使用ChatGPT,谷歌、百度、阿里等都在计划推出类似ChatGPT的聊天机器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天机器人“巴德(Bard)”;百度2月7日确认正在研发“文心一言”;阿里2月9日透露类ChatGPT的对话机器人正在研发。

而无论是ChatGPT,还是巴德(Bard)、文心一言、阿里的对话机器人,它们要运行,都需要大量的算力,数据中心、算力芯片业因此成为热门。

对数据中心需求量大

ChatGPT背后有着巨额的算力成本,数据显示,ChatGPT的总算力消耗约为3640PF-days(即每秒一千万亿次计算,运行3640个整日)。随着更多ChatGPT同类产品出现,且在相关服务不断升级和更新的情况下,未来数据中心的负担会越来越重,对数据中心数量的需求也更大。

另外,数据中心在庞大的增量面前也透露出一个问题,便是网络设备的巨额能耗。数据中心是耗能大户。因此国家在去年11月1日在全国范围内强制实施了《数据中心能效限定值和能效等级》,决定在2025年实现节能量超过2143亿千瓦时。

近日工信部等七部门同样发布了《信息通信行业绿色低碳发展计划(2022-2025年)》,按照最新的国标要求到2025年,新建大型、超大型数据中心电能利用效率(PUE)降到1.3以下。

而在ChatGPT等AI技术发展的同时,降低能耗成了数据中心产业的趋势。对于数据中心而言,能耗主要来自三个方面:决定交换机性能的交换芯片、承载网络通信带宽的光模块、提高传输速率的SerDes。因此相关技术和芯片将会成为需求的重点。

事实上,在数据中心能耗问题方面,早在2020年,亚马逊、微软、谷歌等云计算巨头,思科、IBM、英特尔英伟达等网络设备及芯片龙头,就已在投入研发一项名为CPO的技术。CPO是通过将交换芯片和光模块整合,形成芯片和模组的共封装,可降低原来功耗的50%。

据LightCounting预测,按照端口数量统计,CPO的出货量将从2023年的5万件增加到2027年的450万件,以800G和1.6T CPO为主。目前我国已有不少企业在进行相关技术研发,包括新易盛、锐捷网络、联特科技、光迅科技等。

带动AI芯片需求增长

ChatGPT横空出世,意味着一系列AI应用进入大规模的落地阶段。业内人士认为,这将对AI芯片在训练和推理等环节支撑大量数据高效处理提出新的挑战,芯片算力、存储容量、带宽、软件栈等多个维度上的技术要求将提高,并推动AI芯片市场增长。

首先是GPU,GPU可以支撑强大的算力需求。以ChatGPT为例,具体来看,从AI模型构建的角度:第一阶段是用超大算力和数据构建预训练模型;第二阶段是在预训练模型上进行针对性训练。而GPU由于具备并行计算能力,可兼容训练和推理,所以目前被广泛应用。

ChatGPT训练模型中就已导入至少1万颗英伟达GPU,曾经风靡一时的AlphaGO也只需要8块GPU。ChatGPT推理部分使用微软的Azure云服务,也需要GPU进行运作。所以,ChatGPT的火热兴起对GPU的需求可见一斑。

在ChatGPT火热的浪潮中,英伟达是主要受益者。英伟达是全球GPU和AI计算平台的领军者,其高端GPU占据了AI算法训练市场绝大部分的份额,ChatGPT之前,AlphaGo、GPT-3等明星AI产品都在英伟达的硬件上运行。花旗集团预估,ChatGPT可能会在未来12个月内为英伟达带来30亿美元至110亿美元的销售额。

英伟达之外,IntelAMD也占据全球GPU主要市场。国内市场,目前在人工智能用GPU领域有所布局,包括摩尔线程、壁仞科技、沐曦、天数智芯、燧原科技等,不过整体产品应用情况仍不及英伟达等国际厂商

随着AI应用进入大规模落地,可想而知除了GPU之外,其他AI训练、推理芯片也有很大的市场空间,像百度、阿里自己研发类ChatGPT的对话机器人,其本身也有在做训练芯片,另外还有寒武纪、鲲云科技、墨芯人工智能、瀚博半导体等厂商。

另外,从深度学习的角度来看,虽然GPU是最适合深度学习应用的芯片,但 CPUFPGA也能发挥其重要性。本身ChatGPT的运行需要大量的服务器支撑,而其中少不了对CPU的需求。FPGA作为可编程芯片,可以针对特定功能进行扩展,在AI模型构建第二阶段具有一定的发挥空间。FPGA与CPU结合,也可以共同用于深度学习模型,实现对大算力的需求。

小结

ChatGPT的爆火预示着人工智能的大规模落地应用成为可能,随着微软、谷歌、百度、阿里的入局,人工智能大模型的技术和应用也将更快向前推进。这必然造成对数据中心、服务器的大量需求,在“低碳”目标下,低能耗数据中心建设将会是未来发展重点。

同时,在ChatGPT等技术和应用的加速发展下,AI训练芯片、推理芯片的市场需求也将大幅提升,相关企业需要做好准备。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏

    评论

    相关推荐

    在FPGA设计中是否可以应用ChatGPT生成想要的程序呢

    当下AI人工智能崛起,很多开发领域都可看到ChatGPT的身影,FPGA设计中,是否也可以用ChatGPT辅助设计呢?
    发表于 03-28 23:41

    【国产FPGA+OMAPL138开发板体验】(原创)6.FPGA连接ChatGPT 4

    OMAP-L138(定点/浮点DSP C674x+ARM9)+ FPGA处理器的开发板。 编写一个用于FPGA访问ChatGPT 4的程序代码是一个相当复杂的任务,涉及到硬件设计、网络通信、数据处理等多个
    发表于 02-14 21:58

    华秋荣获亿邦动力2023产业互联网千峰奖,引领电子产业数字化变革

    2023年度亿邦动力产业互联网“千峰奖·数字供应” 这一殊荣,同时这也是华秋连续第四年获此荣誉。 本届千峰奖主题为 “谁在重构产业链” ,企业分为数字供应
    发表于 12-15 09:57

    华秋荣获亿邦动力2023产业互联网千峰奖

    2023年度亿邦动力产业互联网“千峰奖·数字供应” 这一殊荣,同时这也是华秋连续第四年获此荣誉。 本届千峰奖主题为 “谁在重构产业链” ,企业分为数字供应
    发表于 12-15 09:53

    智慧灯杆产业链企业图谱

    智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆
    发表于 12-11 17:36 1次下载

    持续科技赋能,引领电子产业链新范式!华秋喜获“2023深圳行业领袖企业100强”称号

    愈发频繁,多品种小批量混线生产模式呈现出飞速发展态势。 华秋通过“ 方案开发、DFM分析、PCB制造,元器件电商及SMT/PCBA加工 “一站式柔性供应服务体系,全面打通产业上、中、下游,形成了电子产业链
    发表于 12-08 09:55

    华秋供应,让硬科技创业更简单

    、国产EDA、高端设备及材料等方面,就如同本次路演的晋级项目。华秋,也将一如既往用电子产业链赋能硬件创业,助力电子产业高质量发展。 9月23日,由深圳华秋电子有限公司(以下简称华秋)主办、深圳市福田区
    发表于 09-26 10:24

    柔性电子供应企业的机会与挑战

    的要求。电子供应作为电子信息制造业其中的重要的一环,面对产业的发展与结构升级,机会与挑战并存。 从电子产业链的上中下游来看,上游主要是原材料及电子元器件供应商,中游是电子硬件模块的
    发表于 09-15 11:37

    产业东风,柔性电子供应企业的机会与挑战

    的要求。电子供应作为电子信息制造业其中的重要的一环,面对产业的发展与结构升级,机会与挑战并存。 从电子产业链的上中下游来看,上游主要是原材料及电子元器件供应商,中游是电子硬件模块的
    发表于 09-15 11:36

    ChatGPT看芯片产业机遇

    AIGC产业链主要分为上游算力硬件层、中游数据/算法软件层和下游行业应用层。硬件层依靠高性能AI芯片、服务器和数据中心为AIGC模型的训练提供算力支持,是承载行业发展的基础设施;数据/算法层软件层主要负责AI数据的采集、清洗
    的头像 发表于 07-19 15:21 915次阅读
    从<b class='flag-5'>ChatGPT</b>看芯片<b class='flag-5'>产业</b>机遇

    chatgpt是什么意思 ChatGPT背后的技术原理

      今天我们为大家带来的文章,深入浅出地阐释了ChatGPT背后的技术原理,没有NLP或算法经验的小伙伴,也可以轻松理解ChatGPT是如何工作的。  ChatGPT是一种机器学习自然
    发表于 07-18 17:12 0次下载

    【核芯观察】ChatGPT背后的算力芯片(三)

    在今年以来可以说是最热的赛道,而AI大模型对算力的需求爆发,也带动了AI服务器中各种类型的芯片需求,所以本期核芯观察将关注ChatGPT背后所用到的算力芯片产业链,梳理目前主流类型的AI算力芯片
    的头像 发表于 06-04 05:05 2117次阅读
    【核芯观察】<b class='flag-5'>ChatGPT</b><b class='flag-5'>背后</b>的算力芯片(三)

    ChatGPT浪潮下,看中国大语言模型产业发展

    ChatGPT的横空出世拉开了大语言模型产业和生成式AI产业蓬勃发展的序幕。本报告将着重分析“OpenAI ChatGPT的成功之路”、“中国类Ch
    的头像 发表于 06-01 16:49 801次阅读
    <b class='flag-5'>ChatGPT</b>浪潮下,看中国大语言模型<b class='flag-5'>产业</b>发展

    【核芯观察】ChatGPT背后的算力芯片(二)

    在今年以来可以说是最热的赛道,而AI大模型对算力的需求爆发,也带动了AI服务器中各种类型的芯片需求,所以本期核芯观察将关注ChatGPT背后所用到的算力芯片产业链,梳理目前主流类型的AI算力芯片
    的头像 发表于 05-28 00:34 2366次阅读
    【核芯观察】<b class='flag-5'>ChatGPT</b><b class='flag-5'>背后</b>的算力芯片(二)

    ChatGPT背后的算力芯片

    在今年以来可以说是最热的赛道,而AI大模型对算力的需求爆发,也带动了AI服务器中各种类型的芯片需求,所以本期核芯观察将关注ChatGPT背后所用到的算力芯片产业链,梳理目前主流类型的AI算力芯片
    的头像 发表于 05-21 00:01 3091次阅读
    <b class='flag-5'>ChatGPT</b><b class='flag-5'>背后</b>的算力芯片