0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT高算力推动DPU步入快车道,国产DPU蓄势待发

Robot Vision 来源:电子发烧友网 作者:李宁远 2023-03-12 06:53 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李宁远)OpenAI旗下的智能聊天机器人程序ChatGPT自去年年末发布后,在全球范围内掀起了人工智能热潮,热度持续至今。ChatGPT超出人们预期的智能化表现也带火了相关人工智能产业链。

ChatGPT的GPT,本质是生成型预训练变换模型,这种AI模型经过海量的数据训练,才有了高质量的内容输出。ChatGPT的出现,离不开背后庞大的基础算力做支持。高度依赖AI计算能力的ChatGPT也推高了算力需求。

爆火的ChatGPT,高算力需求推动DPU发展

随着众多国内外厂商入局智能聊天机器人行业的竞争,可以预见市场上类似于ChatGPT的机器人程序会如雨后春笋一般冒出来,而全球对于算力的需求也将随着此类技术应用的铺开出现快速的增长。

数据处理芯片DPU,被认为是继 CPUGPU 之后的 “第三颗主力芯片”。DPU是最近几年发展起来的专用处理器大类,是继CPU、GPU之后数据中心场景中重要的算力芯片,能够为高带宽、低延迟、数据密集的计算场景提供计算引擎,是未来处理超算流量和安全网络存储的核心硬件。

DPU市场现在处于百家争鸣的早期发展阶段,各厂商给出的定义有略有不同,这里选择市场上比较主流的英伟达给出的定义,“DPU是集数据中心基础架构于芯片的通用处理器,结合了标准的、高性能及软件可编程的多核CPU,与其它的SoC组件密切配合。同时结合了高性能网络接口,能以线速或网络中的可用速度解析、处理数据,并高效地将数据传输到GPU和CPU”。

相比于CPU和GPU典型的冯诺依曼架构,基于数据流驱动技术的DPU采用的是非冯诺依曼架构,不需要结束一阶段的计算任务后将数据输送到外部的DDR计数器存储,而是可以利用软件可动态重构处理器CGRA技术,合理分配和使用算力的同时,节约数据存储和传输带宽。当CPU算力达到瓶颈,DPU能够帮助CPU卸载低效应用的算力,当GPU专注数据加速计算,DPU可以帮助进行数据解析和处理提高数据接发效率。

在ChatGPT高算力需求的推动下,DPU开始进入发展快车道。

DPU市场将迎来爆发式增长,国产DPU蓄势待发

根据据赛迪顾问《中国DPU行业发展白皮书》对全球以及中国DPU市场的统计,预计到2025年全球DPU产业市场规模将超过245.3亿美元,复合增速达51.73%。而中国市场预计到2025年DPU产业规模将超过565.9亿元,复合增速达170.6%。

白皮书中特别提到,中国DPU市场在2022-2023年将会有爆发式的增长,而全球市场的爆发式增长阶段将会出现在2023-2024年。

DPU在行业内其实早已有了雏形,早在2013年,Amazon就研发过一款名为Nitro的轻量化Hypervisor配合定制化硬件,能将虚拟机的计算和 I/O子系统分离开来。直到2020年英伟达将基于Mellanox的Smart NIC命名为DPU并将其定位为继CPU和GPU之后数据中心的“第三颗主力芯片”,才算真正走到大家眼前被重视起来并掀起行业热潮。

根据赛迪顾问《中国DPU行业发展白皮书》中的数据,2020年国内的DPU市场仅有3.9亿元。而到了2021年,国内市场规模迅速发展到75.3亿元,可见这一赛道的火热。

从目前入局的厂商来看,英伟达、IntelAMD、Marvell、Broadcom、Amazon、Microsoft等国际厂商在近年来都有DPU或相似架构产品发布,入局早具备一定的先发优势,在底层能力上无疑要领先国内厂商。

国内华为,阿里等老牌厂商也在近几年针对服务器需求自研DPU,主要功能偏向于数据,存储与安全方面。同时国内还有一批初创企业加入了DPU赛道,如云豹智能、星云智联、芯启源、云脉芯联、中科驭数、大禹智芯等。

主要DPU厂商动态

英伟达:先进BlueField系列占据行业高点

在全球DPU市场,英伟达占据了超半数市场份额。目前英伟达的BlueField系列DPU已经发展至第三代,BlueField-3 是首款以线速处理软件定义网络、存储和网络安全的 DPU,速度可达400 Gb/s。BlueField-3可以搭载最多16个Armv8.2+ A78 Hercules核心,包含220亿个晶体管,拥有16GB板载DDR5显存,能够在I/O路径中提供强大的计算能力和多种可编程加速引擎。相比BlueField-2系列8 颗ARM A72 CPU 内核,处理性能提升了近10倍。

而BlueField-4根据英伟达官方消息,有望在2024年推出。除此之外,英伟达还将DPU与 Ampere架构的强大功能结合成融合加速器,进一步为AI驱动的工作负载带来出色的性能和强大的安全性。

英特尔:预计2024年推出400G IPU,2025年推出800G IPU

英特尔的IPU被业界视为英特尔版本的DPU,同样可以加速网络基础设施,释放CPU内核,实现应用程序性能的提升。E2000是目前英特尔处理性能最高的IPU,是英特尔利用从多代FPGA SmartNIC 中积累的经验和谷歌共同设计的,拥有多达16个Arm Neoverse N1核心,具备高度可编程性的数据包处理引擎。

从去年Intel Vision 2022大会上公布的最新的IPU路线图来看,2024年400 Gbps IPU有望面世,800G IPU则定在2025年。

芯启源:布局下一代7nm以下DPU产品

芯启源是目前国内唯一一家能够提供基于SoC架构的国产化25G智能网卡的供应商,已经推出了量产的DPU芯片4000及3800系列产品,并且已实现商业化落地。芯启源的下一个布局是7000系列DPU,根据相关信息,下一代DPU芯片将采用7nm以下工艺,能达到400G的吞吐量,具有600Mpps,RDMA/RoCEv2,国密SM3/SM4等的功能及性能。

星云智联:实力强劲的国内初创DPU芯片公司

星云智联是一家专注于数据中心通信互联架构、DPU芯片和解决方案研发的国内初创公司,其自主研发的NebulaX D1055AS是一款50G DPU芯片。NebulaX D1055AS在高速数据转发上,以纯硬件方式实现对数据流处理,以获得高吞吐量和低延时性能,在国内DPU赛道上有着强劲的实力。

云豹智能:DPU SoC有望今年量产

云豹智能主张软件定义芯片,此前发布过基于FPGA版本的DPU云霄,在可编程性上非常灵活。目前云豹智能的第一款DPU SoC正在设计研发阶段,根据相关消息,该DPU SoC有望在今年量产。

中科驭数:基于自研KPU架构布局DPU

中科驭数的KPU架构是基于中科驭数首创的软件定义加速器技术路线而研发的领域专用技术芯片架构,并基于该架构打造了首个拥有网络数据库一体化加速功能的DPU芯片,能提供高效能的算力支撑。在目前的产品进度上,根据相关报道,第三代12nm 400G DPU芯片的研发迭代已近尾声。

写在最后

DPU的诞生就是为了应对数据量以及计算复杂性的指数级增长,在ChatGPT将算力需求再推上一个新台阶后,DPU有力支撑起了算力效率的提升,在原本火热的市场里又一次加快了发展速度。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DPU
    DPU
    +关注

    关注

    0

    文章

    417

    浏览量

    27147
  • 算力
    +关注

    关注

    2

    文章

    1673

    浏览量

    16833
  • ChatGPT
    +关注

    关注

    31

    文章

    1600

    浏览量

    10393
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    天数智芯助力DeepLink异构力训推一体化升级

    当前,通用人工智能发展驶入快车道,大模型对力的需求呈现爆发式增长,异构力的高效协同成为释放力潜能、降低力成本的核心关键。
    的头像 发表于 03-26 09:30 443次阅读
    天数智芯助力DeepLink异构<b class='flag-5'>算</b>力训推一体化升级

    高速全双工通信:数据世界的“双向快车道

    了通信过程的“零等待”。二、四大核心特点1. 双向并发,实时交互可同时进行数据的发送与接收,无需切换时序,极大提升响应速度与交互体验。2. 高速传输,流畅稳定支持带宽数据流传输,适用于视频、音频等
    发表于 03-17 16:15

    沐曦股份携手模力方舟正式发布AI技能认证体系

    随着国产力硬件迈入迭代加速的快车道,构建蓬勃的开发者生态已成为推动产业高质量发展升级的关键引擎。为了连接产业实战需求与人才培养,为开发者提供真机实操的沃土,沐曦股份携手模力方舟正式发
    的头像 发表于 03-17 11:31 554次阅读

    基于DPU的智能盘框方案,华为如何大幅提升AI推理的效率?

    DPU
    脑极体
    发布于 :2026年01月20日 12:53:10

    行业快讯:第三代半导体驶入快车道,碳化硅器件成本有望三年内接近硅基

    行业快讯:第三代半导体驶入快车道,碳化硅器件成本有望三年内接近硅基
    的头像 发表于 01-16 11:41 544次阅读

    出海贸易快车道:50+国际采购团坐镇CES Asia2026 助企业足不出户链全球

    出海贸易快车道:50+国际采购团坐镇CES Asia2026 助企业足不出户链全球
    的头像 发表于 11-26 11:17 412次阅读

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 1219次阅读

    IP广域网助力力互联网建设进入快车道

    人工智能大模型等应用爆发式发展带动了智能力需求激增,全国各地纷纷建设大量智中心。在迎来新机遇的同时,力行业也面临数据安全、提高企业用效率,降低企业用
    的头像 发表于 09-25 10:40 869次阅读

    元禾控股投资先楫半导体:国产高性能MCU驶入机器人控制“快车道

    RISC-V高性能芯片赛道。此次融资不仅是对先楫半导体企业技术实力的认可,更标志着我们开启在机器人控制领域从“蓄势待发”到逼近爆发临界点的新篇章。随着全球智能机器人产
    的头像 发表于 09-08 08:35 3582次阅读
    元禾控股投资先楫半导体:<b class='flag-5'>国产</b>高性能MCU驶入机器人控制“<b class='flag-5'>快车道</b>”

    利用NVIDIA DPU重塑网络安全格局

    在第三届 NVIDIA DPU 黑客松竞赛中,我们见证了开发者与 NVIDIA 网络技术的深度碰撞。在 23 支参赛队伍中,有 5 支队伍脱颖而出,展现了在 AI 网络、存储和安全等领域的创新突破。
    的头像 发表于 08-20 14:31 1575次阅读

    CES Asia 2025蓄势待发,聚焦低空经济与AI,引领未来产业新变革

    医学影像和数据,为医生提供诊断参考,提高医疗服务的质量和效率。 为了更好地推动低空经济与人工智能的发展,CES Asia 2025 特别打造了两大核心主题论坛集群。全球顶尖专家、学者将在论坛上
    发表于 07-09 10:29

    上汽大众新款凌渡L GTS蓄势待发

    近日,大众“GT”持续光:在2025 ID.Festival上,上汽大众ID.3 GTX套件款正式上市,将GT文化带入电动时代;令人期待的是,大众另一辆全新“GT”车型——上汽大众新凌渡L GTS也已蓄势待发,将在不久后面世。
    的头像 发表于 06-28 16:11 1097次阅读

    第三届NVIDIA DPU黑客松开启报名

    第三届 NVIDIA DPU 中国虚拟黑客松(Hackathon)将于 6 月 28 日 - 6 月 30 日正式开启!作为备受广大开发者期待的年度赛事,它将提供与 NVIDIA 加速网络技术深度
    的头像 发表于 05-27 10:16 1011次阅读

    中科驭数携DPU全栈产品亮相福州数博会,赋能智时代力基建

    会”)也拉开帷幕。共有150多家企业参展,展会吸引了八万多名观众参观。作为国内DPU领域领军企业,中科驭数携三大产品线亮相展会,其创新的DPU技术方案成为专业观众关注焦点。据大会报告的数据显示,我国力总规模已达280EFLOP
    的头像 发表于 05-23 11:01 759次阅读
    中科驭数携<b class='flag-5'>DPU</b>全栈产品亮相福州数博会,赋能智<b class='flag-5'>算</b>时代<b class='flag-5'>算</b>力基建

    AI应用落地驶入快车道,产业应如何夯实力根基?

    电子发烧友网报道(文 / 吴子鹏)2025 年中国政府工作报告提出,“持续推进‘人工智能 +’行动”,并将 “支持大模型广泛应用” 首次写入报告。经过近几年的高速发展,大模型技术带动力、算法、数据
    发表于 05-06 08:04 1354次阅读
    AI应用落地驶入<b class='flag-5'>快车道</b>,产业应如何夯实<b class='flag-5'>算</b>力根基?