0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT高算力推动DPU步入快车道,国产DPU蓄势待发

Robot Vision 来源:电子发烧友网 作者:李宁远 2023-03-12 06:53 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李宁远)OpenAI旗下的智能聊天机器人程序ChatGPT自去年年末发布后,在全球范围内掀起了人工智能热潮,热度持续至今。ChatGPT超出人们预期的智能化表现也带火了相关人工智能产业链。

ChatGPT的GPT,本质是生成型预训练变换模型,这种AI模型经过海量的数据训练,才有了高质量的内容输出。ChatGPT的出现,离不开背后庞大的基础算力做支持。高度依赖AI计算能力的ChatGPT也推高了算力需求。

爆火的ChatGPT,高算力需求推动DPU发展

随着众多国内外厂商入局智能聊天机器人行业的竞争,可以预见市场上类似于ChatGPT的机器人程序会如雨后春笋一般冒出来,而全球对于算力的需求也将随着此类技术应用的铺开出现快速的增长。

数据处理芯片DPU,被认为是继 CPUGPU 之后的 “第三颗主力芯片”。DPU是最近几年发展起来的专用处理器大类,是继CPU、GPU之后数据中心场景中重要的算力芯片,能够为高带宽、低延迟、数据密集的计算场景提供计算引擎,是未来处理超算流量和安全网络存储的核心硬件。

DPU市场现在处于百家争鸣的早期发展阶段,各厂商给出的定义有略有不同,这里选择市场上比较主流的英伟达给出的定义,“DPU是集数据中心基础架构于芯片的通用处理器,结合了标准的、高性能及软件可编程的多核CPU,与其它的SoC组件密切配合。同时结合了高性能网络接口,能以线速或网络中的可用速度解析、处理数据,并高效地将数据传输到GPU和CPU”。

相比于CPU和GPU典型的冯诺依曼架构,基于数据流驱动技术的DPU采用的是非冯诺依曼架构,不需要结束一阶段的计算任务后将数据输送到外部的DDR计数器存储,而是可以利用软件可动态重构处理器CGRA技术,合理分配和使用算力的同时,节约数据存储和传输带宽。当CPU算力达到瓶颈,DPU能够帮助CPU卸载低效应用的算力,当GPU专注数据加速计算,DPU可以帮助进行数据解析和处理提高数据接发效率。

在ChatGPT高算力需求的推动下,DPU开始进入发展快车道。

DPU市场将迎来爆发式增长,国产DPU蓄势待发

根据据赛迪顾问《中国DPU行业发展白皮书》对全球以及中国DPU市场的统计,预计到2025年全球DPU产业市场规模将超过245.3亿美元,复合增速达51.73%。而中国市场预计到2025年DPU产业规模将超过565.9亿元,复合增速达170.6%。

白皮书中特别提到,中国DPU市场在2022-2023年将会有爆发式的增长,而全球市场的爆发式增长阶段将会出现在2023-2024年。

DPU在行业内其实早已有了雏形,早在2013年,Amazon就研发过一款名为Nitro的轻量化Hypervisor配合定制化硬件,能将虚拟机的计算和 I/O子系统分离开来。直到2020年英伟达将基于Mellanox的Smart NIC命名为DPU并将其定位为继CPU和GPU之后数据中心的“第三颗主力芯片”,才算真正走到大家眼前被重视起来并掀起行业热潮。

根据赛迪顾问《中国DPU行业发展白皮书》中的数据,2020年国内的DPU市场仅有3.9亿元。而到了2021年,国内市场规模迅速发展到75.3亿元,可见这一赛道的火热。

从目前入局的厂商来看,英伟达、IntelAMD、Marvell、Broadcom、Amazon、Microsoft等国际厂商在近年来都有DPU或相似架构产品发布,入局早具备一定的先发优势,在底层能力上无疑要领先国内厂商。

国内华为,阿里等老牌厂商也在近几年针对服务器需求自研DPU,主要功能偏向于数据,存储与安全方面。同时国内还有一批初创企业加入了DPU赛道,如云豹智能、星云智联、芯启源、云脉芯联、中科驭数、大禹智芯等。

主要DPU厂商动态

英伟达:先进BlueField系列占据行业高点

在全球DPU市场,英伟达占据了超半数市场份额。目前英伟达的BlueField系列DPU已经发展至第三代,BlueField-3 是首款以线速处理软件定义网络、存储和网络安全的 DPU,速度可达400 Gb/s。BlueField-3可以搭载最多16个Armv8.2+ A78 Hercules核心,包含220亿个晶体管,拥有16GB板载DDR5显存,能够在I/O路径中提供强大的计算能力和多种可编程加速引擎。相比BlueField-2系列8 颗ARM A72 CPU 内核,处理性能提升了近10倍。

而BlueField-4根据英伟达官方消息,有望在2024年推出。除此之外,英伟达还将DPU与 Ampere架构的强大功能结合成融合加速器,进一步为AI驱动的工作负载带来出色的性能和强大的安全性。

英特尔:预计2024年推出400G IPU,2025年推出800G IPU

英特尔的IPU被业界视为英特尔版本的DPU,同样可以加速网络基础设施,释放CPU内核,实现应用程序性能的提升。E2000是目前英特尔处理性能最高的IPU,是英特尔利用从多代FPGA SmartNIC 中积累的经验和谷歌共同设计的,拥有多达16个Arm Neoverse N1核心,具备高度可编程性的数据包处理引擎。

从去年Intel Vision 2022大会上公布的最新的IPU路线图来看,2024年400 Gbps IPU有望面世,800G IPU则定在2025年。

芯启源:布局下一代7nm以下DPU产品

芯启源是目前国内唯一一家能够提供基于SoC架构的国产化25G智能网卡的供应商,已经推出了量产的DPU芯片4000及3800系列产品,并且已实现商业化落地。芯启源的下一个布局是7000系列DPU,根据相关信息,下一代DPU芯片将采用7nm以下工艺,能达到400G的吞吐量,具有600Mpps,RDMA/RoCEv2,国密SM3/SM4等的功能及性能。

星云智联:实力强劲的国内初创DPU芯片公司

星云智联是一家专注于数据中心通信互联架构、DPU芯片和解决方案研发的国内初创公司,其自主研发的NebulaX D1055AS是一款50G DPU芯片。NebulaX D1055AS在高速数据转发上,以纯硬件方式实现对数据流处理,以获得高吞吐量和低延时性能,在国内DPU赛道上有着强劲的实力。

云豹智能:DPU SoC有望今年量产

云豹智能主张软件定义芯片,此前发布过基于FPGA版本的DPU云霄,在可编程性上非常灵活。目前云豹智能的第一款DPU SoC正在设计研发阶段,根据相关消息,该DPU SoC有望在今年量产。

中科驭数:基于自研KPU架构布局DPU

中科驭数的KPU架构是基于中科驭数首创的软件定义加速器技术路线而研发的领域专用技术芯片架构,并基于该架构打造了首个拥有网络数据库一体化加速功能的DPU芯片,能提供高效能的算力支撑。在目前的产品进度上,根据相关报道,第三代12nm 400G DPU芯片的研发迭代已近尾声。

写在最后

DPU的诞生就是为了应对数据量以及计算复杂性的指数级增长,在ChatGPT将算力需求再推上一个新台阶后,DPU有力支撑起了算力效率的提升,在原本火热的市场里又一次加快了发展速度。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DPU
    DPU
    +关注

    关注

    0

    文章

    407

    浏览量

    26199
  • 算力
    +关注

    关注

    2

    文章

    1385

    浏览量

    16564
  • ChatGPT
    +关注

    关注

    31

    文章

    1596

    浏览量

    10072
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    出海贸易快车道:50+国际采购团坐镇CES Asia2026 助企业足不出户链全球

    出海贸易快车道:50+国际采购团坐镇CES Asia2026 助企业足不出户链全球
    的头像 发表于 11-26 11:17 90次阅读

    NVIDIA推出全新BlueField-4 DPU

    全新 NVIDIA BlueField DPU 具有 800Gb/s 的吞吐量,其集成的 NVIDIA ConnectX-9 SuperNIC 和 NVIDIA DOCA 微服务为 AI 数据存储、网络和安全带来突破性的加速。
    的头像 发表于 11-03 14:48 591次阅读

    IP广域网助力力互联网建设进入快车道

    人工智能大模型等应用爆发式发展带动了智能力需求激增,全国各地纷纷建设大量智中心。在迎来新机遇的同时,力行业也面临数据安全、提高企业用效率,降低企业用
    的头像 发表于 09-25 10:40 492次阅读

    元禾控股投资先楫半导体:国产高性能MCU驶入机器人控制“快车道

    RISC-V高性能芯片赛道。此次融资不仅是对先楫半导体企业技术实力的认可,更标志着我们开启在机器人控制领域从“蓄势待发”到逼近爆发临界点的新篇章。随着全球智能机器人产
    的头像 发表于 09-08 08:35 3106次阅读
    元禾控股投资先楫半导体:<b class='flag-5'>国产</b>高性能MCU驶入机器人控制“<b class='flag-5'>快车道</b>”

    上汽大众新款凌渡L GTS蓄势待发

    近日,大众“GT”持续光:在2025 ID.Festival上,上汽大众ID.3 GTX套件款正式上市,将GT文化带入电动时代;令人期待的是,大众另一辆全新“GT”车型——上汽大众新凌渡L GTS也已蓄势待发,将在不久后面世。
    的头像 发表于 06-28 16:11 752次阅读

    第三届NVIDIA DPU黑客松开启报名

    第三届 NVIDIA DPU 中国虚拟黑客松(Hackathon)将于 6 月 28 日 - 6 月 30 日正式开启!作为备受广大开发者期待的年度赛事,它将提供与 NVIDIA 加速网络技术深度
    的头像 发表于 05-27 10:16 743次阅读

    中科驭数携DPU全栈产品亮相福州数博会,赋能智时代力基建

    会”)也拉开帷幕。共有150多家企业参展,展会吸引了八万多名观众参观。作为国内DPU领域领军企业,中科驭数携三大产品线亮相展会,其创新的DPU技术方案成为专业观众关注焦点。据大会报告的数据显示,我国力总规模已达280EFLOP
    的头像 发表于 05-23 11:01 505次阅读
    中科驭数携<b class='flag-5'>DPU</b>全栈产品亮相福州数博会,赋能智<b class='flag-5'>算</b>时代<b class='flag-5'>算</b>力基建

    罗克韦尔推动轨交装备制造业数字化转型

    地下轨道交通是一座城市高速运作的“大动脉”。近年来,随着国内各大城市地铁规划和建设步入快车道,大数据、人工智能等数字化技术也得到了大范围应用,“绿智城轨”建设已成为势不可挡的趋势。在这一进程中,轨交装备制造业的数字化转型,是不可忽视的核心
    的头像 发表于 04-07 15:09 671次阅读

    DPU232—高度集成USB到UART桥接控制器 国产替代方案

    DPU232是一款高度集成的USB到UART桥接控制器,提供了一种简单的解决方案,可以使用最少的元器件和PCB空间,将RS232接口转换为USB接口。DPU232包括一个USB2.0全速功能控制器
    发表于 04-01 10:53

    鸿蒙摄像机,一场智能安防的“平权革命”

    摄像机遇见鸿蒙,企业级安防市场正蓄势待发
    的头像 发表于 03-28 11:39 3301次阅读
    鸿蒙摄像机,一场智能安防的“平权革命”

    1750亿美元资金蓄势待发,OpenAI加速AI基础设施建设

    更为震撼的信息:目前,大约有1750亿美元的资金已经蓄势待发,准备用于人工智能基础设施的配置。这笔巨额资金的投入,将极大地推动人工智能技术的研发和应用,为行业的快速发展提供强有力的支撑。 OpenAI作为人工智能领域的佼佼者,一直致力于推
    的头像 发表于 02-08 09:37 624次阅读

    在NVIDIA BlueField-3 DPU上运行WEKA客户端的实际优势

    WEKA是可扩展软件定义数据平台的先驱,NVIDIA 正在与其合作,将 WEKA 先进的数据平台解决方案与功能强大的NVIDIA BlueField DPU相结合。
    的头像 发表于 01-07 09:43 1046次阅读
    在NVIDIA BlueField-3 <b class='flag-5'>DPU</b>上运行WEKA客户端的实际优势

    中科驭数凭借在DPU芯片领域的积累被认定为北京市知识产权优势单位

    。 作为DPU新型力基础设施领军企业,中科驭数一直致力于推动DPU领域的技术创新和最佳实践,并将知识产权视为推动企业发展的重要力量之一。以
    的头像 发表于 12-31 18:49 1039次阅读
    中科驭数凭借在<b class='flag-5'>DPU</b>芯片领域的积累被认定为北京市知识产权优势单位

    2025年全球半导体八大趋势,万年芯蓄势待发

    推动下,半导体行业正迎来新的繁荣景象。万年芯作为业内芯片封装测试知名企业,正蓄势待发,以科技产品推动国产替代,以减少对外依赖,增强国内产业的自主可控能力。八大趋势
    的头像 发表于 12-17 16:53 2829次阅读
    2025年全球半导体八大趋势,万年芯<b class='flag-5'>蓄势待发</b>