0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU 技术发展概况系列(二)DPU的作用

中科驭数(北京)科技有限公司 2022-03-31 11:27 次阅读

DPU最直接的作用是作为CPU的卸载引擎,接管网络虚拟化、硬件资源池化等基础设施层服务,释放CPU的算力到上层应用。以网络协议处理为例,要线速处理10G的网络需要的大约4个Xeon CPU的核,也就是说,单是做网络数据包处理,就可以占去一个8核高端CPU一半的算力。如果考虑40G、100G的高速网络,性能的开销就更加难以承受了。Amazon把这些开销都称之为“Datacenter Tax”,即还未运行业务程序,先接入网络数据就要占去的计算资源。AWS Nitro产品家族旨在将数据中心开销(为虚拟机提供远程资源,加密解密,故障跟踪,安全策略等服务程序)全部从CPU卸载到Nitro加速卡上,将给上层应用释放30%的原本用于支付“Tax”的算力!

DPU可以成为新的数据网关,将安全隐私提升到一个新的高度。在网络环境下,网络接口是理想的隐私的边界,但是加密、解密算法开销都很大,例如国密标准的非对称加密算法SM2、哈希算法SM3和对称分组密码算法SM4。如果用CPU来处理,就只能做少部分数据量的加密。在未来,随着区块链承载的业务的逐渐成熟,运行共识算法POW,验签等也会消耗掉大量的CPU算力。而这些都可以通过将其固化在DPU中来实现,甚至DPU将成为一个可信根。

DPU也可以成为存储的入口,将分布式的存储和远程访问本地化。随着SSD性价比逐渐可接受,部分存储迁移到SSD器件上已经成为可能,传统的面向机械硬盘的SATA协议并不适用于SSD存储,所以,将SSD通过本地PCIe或高速网络接入系统就成为必选的技术路线。NVMe(Non Volatile Memory Express)就是用于接入SSD存储的高速接口标准协议,可以通过PCIe作为底层传输协议,将SSD的带宽优势充分发挥出来。同时,在分布式系统中,还可通过NVMeover Fabrics(NVMe-oF)协议扩展到InfiniBand、Ethernet、或Fibre channel节点中,以RDMA的形式实现存储的共享和远程访问。这些新的协议处理都可以集成在DPU中以实现对CPU的透明处理。进而,DPU将可能承接各种互连协议控制器的角色,在灵活性和性能方面达到一个更优的平衡点。

DPU将成为算法加速的沙盒,成为最灵活的加速器载体。DPU不完全是一颗固化的ASIC,在CXL、CCIX等标准组织所倡导CPU、GPU与DPU等数据一致性访问协议的铺垫下,将更进一步扫清DPU编程障碍,结合FPGA等可编程器件,可定制硬件将有更大的发挥空间,“软件硬件化”将成为常态,异构计算的潜能将因各种DPU的普及而彻底发挥出来。在出现“Killer Application”的领域都有可能出现与之相对应的DPU,诸如传统数据库应用如OLAP、OLTP,5G边缘计算,智能驾驶V2X等等。

来源:专用数据处理器(DPU)技术白皮书,中国科学院计算技术研究所,鄢贵海等

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • DPU
    DPU
    +关注

    关注

    0

    文章

    292

    浏览量

    23965
收藏 人收藏

    评论

    相关推荐

    明天线上见!DPU构建高性能云算力底座——DPU技术开放日最新议程公布!

    技术在不同行业中的应用解决方案有哪些?能带来怎样的业务效果? 3月29日本周五,中科驭数集结产品大咖及解决方案专家团,诚邀您参加以“DPU构建高性能云算力底座”为主题的线上DPU技术
    的头像 发表于 04-03 18:12 709次阅读

    DPU技术发展及落地实战

    Nitro DPU系统提供了密钥、网络、安全、服务器和监控等功能支持,释放了底层服务资源供客户的虚拟机使用,并且NitroDPU使AWS可以提供更多的裸金属实例类型,甚至将特定实例的网络性能提升到100Gbps。
    发表于 12-26 09:36 338次阅读
    <b class='flag-5'>DPU</b><b class='flag-5'>技术发展</b>及落地实战

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    的FPGA-DPU技术。不过英伟达技术系列更接近于上层应用,部署于机房之中。技术精通方向,在
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    首先感谢电子发烧友论坛提供的试读机会。 第一周先阅读了DPU技术发展背景,了解到DPU是结合了高性能及软件可编程的多核CPU、高性能网络接口,以及各种灵活和可编程的加速引擎。DPU
    发表于 12-21 10:47

    《数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    成本和提高性能。 2.人工智能和机器学习:DPU可以在人工智能和机器学习应用中发挥重要作用。它可以加速模型训练和推理过程,提高算法的执行效率和响应速度。这对于需要实时决策和处理大量数据的应用非常关键,如
    发表于 12-08 18:03

    什么是DPU

    什么是DPU? 相信很多人对于CPU(中央处理器)已经非常熟悉了。灵活、响应迅速的CPU多年来一直是大多数计算机中唯一的可编程元件。 近年来,GPU(图形处理单元)逐渐成为了计算的中心。最初GPU
    发表于 11-03 10:55

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    ,对DPU在现代数据中心中的应用有重要的普及作用。广大读者能深入了解DPU技术发展、软硬件特性、软硬件安装、开发环境实践、应用用例和生态体系。对期望基于NVIDIA BlueFiel
    发表于 10-24 15:21

    《揭秘 NVIDIA DPU &amp; DOCA》 第八讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA BlueField DPU 的价值,同时助力
    的头像 发表于 08-03 19:20 365次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第八讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 第七讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA BlueField DPU 的价值,同时助力
    的头像 发表于 07-27 18:10 273次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第七讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 第六讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA BlueField DPU 的价值,同时助力
    的头像 发表于 07-20 18:15 310次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第六讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 第五讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA BlueField DPU 的价值,同时助力
    的头像 发表于 07-12 19:10 309次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第五讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 第四讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA BlueField DPU 的价值,同时助力
    的头像 发表于 07-06 20:10 204次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第四讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 第三讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA BlueField DPU 的价值,同时助力
    的头像 发表于 06-29 21:35 225次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第三讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 第二讲上线!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA DPU 的价值,同时助力开发人员利用
    的头像 发表于 06-16 11:45 343次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第二讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 开讲啦!

    NVIDIA DOCA 软件框架,从 DPU技术发展背景,价值定位,到用户案例,DOCA 服务及安装部署等角度全方位揭秘,以帮助企业正确认识 NVIDIA DPU 的价值,同时助力开发人员利用
    的头像 发表于 06-08 20:55 357次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 开讲啦!