0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DPU走进巨头视线

ss 来源:Ai芯天下 作者:Ai芯天下 2020-11-09 11:30 次阅读

最近几年,随着系统中的CPU承受越来越多的网络和存储工作负载,DPU已成为以数据为中心加速计算模型的第三个成员。

那么,DPU能否真正承担起与CPU、GPU一样的计算重要性,实现数据中心的一次巨大革新?其创新点到底在哪里?这些仍然是我们要去回顾和考察的问题。

DPU将成未来计算支柱之一

DPU,是Data Processing Unit的缩写,也就是所谓的数据处理单元。

DPU的主要作用就在于替代了数据中心原本用来处理分布式存储和网络通信的CPU处理器资源。

目前服务器要处理的资料日益增多,除了原有的加解密、封包压缩外,加速器也让服务器要处理的资料量变得更庞大,就会造成原有CPU在处理安全能力表现上出现瓶颈。

如果有了DPU的出现,就可以先在DPU将大量的信息先做消化,接着再传递给CPU做其他的分配,如此一来能减少CPU约30%的消耗。

在DPU之前,智能网卡(SmartNIC)正在网络安全和网络互连协议方面逐渐取代CPU。

而现在DPU的出现,相当于是智能网卡的升级替代版本。

一方面增强了智能网卡对网络安全和网络协议的处理能力;

一方面又整合和加强了分布式存储的处理能力。

从而在这两个领域更好地替代CPU,从而释放CPU的算力给到其他更多应用。

所有的这些DPU功能对于实现隔离的裸机云原生计算至关重要,它也将定义下一代云规模计算。

DPU走进巨头视线的原因

①DPU更安全,因为控制平面可以在系统内和系统集群之间与数据平面分离。DPU可以执行原本需要CPU处理的网络、存储和安全等任务。CPU的不少运算能力可以被释放出来,去执行广泛的企业应用。

②DPU释放了服务器的容量,以便它们可以恢复到应用程序计算。在一些具有大量I / O和沉重虚拟化的系统上内核成本缩减一半,因此吞吐量提高了2倍。

③DPU丰富的、灵活和可编程的加速引擎可减轻和改善AI机器学习应用的性能。

④DPU能充当数据中心的“第三插槽”,补充CPU和GPU,同时在单位功率和空间内带来前所未有的好处。该公司还表示,这些好处是安全可靠的。

⑤高帧率、高动态范围显示,这些其实都需要顶级的DPU来实现。

⑥对于智能汽车来说,未来的超大屏当然也需要强力的DPU和VPU来支撑。

⑦DPU引入机器学习算法,可对数据进行智能管理、控制和分析,从而减少闪存擦写次数,延长SSD使用寿命;还可减少盘内计算和总线数据量,减轻主机CPU的负担。

英伟达最为看重DPU并发力

英伟达在DPU上的技术突破,来自于去年收购以色列芯片制造公司Mellanox之后,在这家公司的硬件基础上开发出BlueFeild系列的两款DPU——英伟达BlueField-2 DPU与BlueField-2X DPU。

BlueField-2 DPU具有英伟达Mellanox Connext-6 SmartNIC的所有特点,与8个64位的A72ARM处理器内核一起,实现可完全编程,并能提供每秒200千兆比特的数据传输速率,从而加速关键数据中心的安全、网络和存储任务。

最核心的一点是单个BlueField-2 DPU可以提供相当于消耗125个CPU内核所提供的数据中心服务,从而有效释放CPU内核的算力资源。

英伟达发力DPU建设的深层目的,一个是DPU试图再一次复制GPU替代显示加速卡成为通用显示芯片的路径,再一个是DOCA试图再一次复制CUDA在GPU通用化过程中所起到的开创生态之功。

国际巨头开始纷纷提前布局

根据THENEXTPLATFORM的分析指出,在2020年,SmartNIC正在演变成DPU,每个人都想在这个领域分一杯羹。

在这个领域的玩家或者潜在玩家主要包括Broadcom,英特尔,英伟达,Netronome,Pensando,Fungible和赛灵思,还包括云供应商三大巨头。

近水楼台先得月,Broadcom是商品以太网NIC控制器市场上无可争议的领导者。Broadcom的Stingray架构采用了单芯片方法,与其他竞争对手的许多芯片板相比,单芯片SmartNIC解决方案在板级生产的成本始终较低。

英特尔也对用于超大规模生产者和云构建者的可编程以太网交换和SmartNIC更感兴趣,在DPU上,英特尔主要是将CPU和FPGA结合在一起。

赛灵思是SmartNIC领域中另一位杰出的FPGA进入者,其Alveo U25将双SFP28端口直接连接到Zynq系列芯片,包括6GB DDR4内存,Zynq的FPGA和Arm内核可通过该芯片上运行的程序对其进行访问。

Fungible公司的DPU起到数据中心结构控制和网络层的作用,通过减少资源等待的次数和动态构成服务器的基础结构,来提高数据中心的效率。

其生产的DPU将网络资源总拥有成本降低到原来的四分之一,计算能力降低到原来的一半,存储降低到原来的五分之一以下,总成本降低到原来的三分之一。

除了上述供应商,全球的云厂商巨头也都在部署SmartNIC,而且三家云供应商正在设计自己的系统级芯片架构,他们就是阿里云的X-Dragon,亚马逊AWS的Nitro和微软Azure的Catapult。

结尾:

DPU可以和CPU、GPU相结合,构成完全可编程的单一AI计算单元,实现前所未有的安全性和算力支持。

CPU、GPU、DPU将代表未来计算的三大支柱。这三者之间,CPU用于通用计算,GPU用于加速计算,而DPU在数据中心周围移动数据,进行数据处理。

责任编辑:xj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10442

    浏览量

    206546
  • 数据中心
    +关注

    关注

    15

    文章

    4187

    浏览量

    70007
  • DPU
    DPU
    +关注

    关注

    0

    文章

    294

    浏览量

    23965
收藏 人收藏

    评论

    相关推荐

    明天线上见!DPU构建高性能云算力底座——DPU技术开放日最新议程公布!

    算力,是数字经济时代的新质生产力。随着人工智能、智算中心建设等需求不断拓展,DPU在各行各业数据中心的应用逐步深入。异构算力代表DPU在新质生产力建设中,能否给出别开生面的答案,应战算力难题?DPU
    的头像 发表于 04-03 18:12 719次阅读

    中科驭数DPU技术开放日秀“肌肉”:云原生网络、RDMA、安全加速、低延时网络等方案组团亮相

    DPU技术开放日既是对DPU技术应用的典型方案展示,也是DPU技术在重要细分场景走向成熟的标志。
    的头像 发表于 04-01 11:48 233次阅读
    中科驭数<b class='flag-5'>DPU</b>技术开放日秀“肌肉”:云原生网络、RDMA、安全加速、低延时网络等方案组团亮相

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍了关于DPU在计算机架构中的应用。 对于DPU来说,是一种平行于CPU和GPU
    发表于 12-24 10:54

    《数据处理器:DPU编程入门》读书笔记

    首先感谢电子发烧友论坛提供的试读机会。 第一周先阅读了DPU的技术发展背景,了解到DPU是结合了高性能及软件可编程的多核CPU、高性能网络接口,以及各种灵活和可编程的加速引擎。DPU的主要作用是卸载
    发表于 12-21 10:47

    《数据处理器:DPU编程入门》+初步熟悉这本书的结构和主要内容

    dpu:推出的主要意义是为了减轻CPU的数据处理负担,使得cpu可以更具专注自己的通用计算处理运算。 1、DPU数据处理器,演进的核心驱动力是什么? 计算工作负载的不断增长是DPU演进的核心驱动力
    发表于 12-08 18:03

    走进创新雄安,中科驭数携DPU系列产品亮相雄安中关村创新论坛

    11月30日 ,由北京市科学技术委员会、中关村科技园区管理委员会等单位主办的中关村论坛系列技术交易活动走进雄安暨2023雄安中关村创新论坛在河北雄安新区顺利举行,中科驭数副总裁 朱 玉 振 受邀出席
    的头像 发表于 12-01 18:50 263次阅读
    <b class='flag-5'>走进</b>创新雄安,中科驭数携<b class='flag-5'>DPU</b>系列产品亮相雄安中关村创新论坛

    什么是DPU

    什么是DPU? 相信很多人对于CPU(中央处理器)已经非常熟悉了。灵活、响应迅速的CPU多年来一直是大多数计算机中唯一的可编程元件。 近年来,GPU(图形处理单元)逐渐成为了计算的中心。最初GPU
    发表于 11-03 10:55

    解码 DPU 编程,投稿赢取好礼!

    NVIDIA 发布首部 DPU 和 DOCA 编程入门书籍 前不久 NVIDIA 推出了备受业界好评的首部 DPU 处理器编程入门书籍 —— 《数据处理器:DPU 编程入门》 ,许多读者纷纷留言
    的头像 发表于 11-01 20:25 228次阅读
    解码 <b class='flag-5'>DPU</b> 编程,投稿赢取好礼!

    【书籍评测活动NO.23】数据处理器:DPU编程入门

    资格! “DPU将是未来计算的三大支柱之一。CPU用于通用计算,GPU用于加速计算,而DPU在数据中心移动数据,进行数据处理。” ——NVIDIA 创始人兼首席执行官黄仁勋于 GTC 2020
    发表于 10-24 15:21

    NVIDIA 发布首部 DPU 和 DOCA 编程入门书籍

    为使用NVIDIA® BlueField® 系列  DPU 和 NVIDIA DOCA™ 开发环境的开发者提供实用指南   北京时间 2023 年 10 月 17 日,NVIDIA 今日宣布
    发表于 10-18 11:34 220次阅读
    NVIDIA 发布首部 <b class='flag-5'>DPU</b> 和 DOCA 编程入门书籍

    【KV260视觉入门套件试用体验】部署DPU镜像并开发一个图像识别程序

    一.部署DPU镜像到KV260 DPU镜像有关介绍:DPU(Data Processing Unit)镜像是一个包含特定配置和预安装软件的虚拟化环境,用于运行数据处理任务。它可以帮助工程师快速部署
    发表于 09-18 14:15

    在不同应用场景下DPU不同的性能要求阐述

    DPU本质上是通过DPU卡上资源,解耦计算、控制、存储,利用CPU、GPU、FPGA加速器等异构处理单元,通过以智能卡为接口的网络实现高效的数据分发和调度。市面上流行的DPU产品基本上都实现了3类功能卸载,包括网络功能卸载、存储
    的头像 发表于 08-09 16:40 1669次阅读
    在不同应用场景下<b class='flag-5'>DPU</b>不同的性能要求阐述

    《揭秘 NVIDIA DPU &amp; DOCA》 第二讲上线!

    由 NVIDIA 专家主讲的 《揭秘 NVIDIA DPU DOCA》 系列视频在知乎重磅推出! 在总共八期的视频中,专家将带您深度了解 NVIDIA BlueField DPU 及其灵魂伴侣
    的头像 发表于 06-16 11:45 346次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第二讲上线!

    《揭秘 NVIDIA DPU &amp; DOCA》 开讲啦!

    由 NVIDIA 专家主讲的 《揭秘 NVIDIA DPU DOCA》 系列视频在知乎 重磅推出 ! 在总共八期的视频中,专家将带您深度了解 NVIDIA BlueField DPU 及其灵魂伴侣
    的头像 发表于 06-08 20:55 362次阅读
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 开讲啦!

    DPU,云厂商的节约成本的王牌

    电子发烧友网报道(文/周凯扬)随着AI计算在数据中心逐渐占据主导地位,整个服务器系统架构中的虚拟化、网络交换对硬件提出了更高的需求,为了降低进一步CPU的负载,DPU也就应运而生。通过使用DPU
    的头像 发表于 06-08 09:19 1703次阅读