侵权投诉

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

借助 NVIDIA 融合加速器开发套件加速数据中心 AI

NVIDIA_China 来源:NVIDIA 英伟达 作者:NVIDIA 英伟达 2021-11-16 16:12 次阅读

现代数据中心变得越来越难以管理。应用程序和 PB 级日志数据之间有数十亿条可能的连接路径。静态规则不足以适应动态微服务的安全策略,而且人工已经无法应对数量庞大的日志数据的分析。

AI 是通往未来安全和自主管理式数据中心的唯一出路。

NVIDIA 融合加速器在业界率先推出 AI 增强型 DPU。它将 GPU 的强大计算能力与 DPU 的网络加速和安全优势相结合,为 AI 增强型数据中心管理创造了统一平台。融合加速器可将 AI 生成的规则应用于数据中心网络中的每个数据包,为实现实时安全和管理创造新的可能性。图像展示了将 BlueField-2 DPU 和 Ampere GPU 相结合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大会上,我们推出了两款新型融合加速器。A100X 在单一模组中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 则融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有独特的能力,除了 BlueField-2 的卸载、隔离和加速网络功能,进一步拓展到 AI 推理和训练功能。

两款加速器都包含一个集成的 PCIe 交换机实现DPU 和 GPU 连接。集成交换机能够消除对主机资源的争用,实现线速 GPUDirect RDMA 性能。集成交换机还通过隔离 GPU 和网卡之间移动的数据来提高安全性。

AI 增强型 DPU

融合加速器支持两种运行模式:

标准模式 – BlueField-2 DPU 和 GPU 分别独立运行。

BlueField-X模式 – PCI 交换机进行了重新配置,GPU 将专用于 DPU,并且对于主机系统不可见。

在 BlueField-X 模式下,只有 DPU 上运行的操作系统可见到GPU。BlueField-X 模式在业界首创了一种新型加速器类型:GPU 加速的 DPU。图像展示了在 BlueField-X 模式下,主机服务器中的 CPU 连接到融合加速器。融合加速器的 PCIe 交换机连接到 CPU 和 DPU。而 GPU 仅通过 PCIe 交换机与 DPU连接。

在 BlueField-X 模式下,GPU 可以对流经 DPU 的数据运行 AI 模型,成为 “bump in the wire”。保障安全同时,无性能损耗。AI 模型无需消耗主机资源,实现完全加速。

有了 BlueField-X,AI 模型可以在每个服务器的融合加速器上直接本地运行。这使 Morpheus 能够更快地分析更多数据,同时消除代价很高的数据移动,并缩小恶意攻击面。由 BlueField-X 加速的 Morpheus 使用案例包括恶意软件检测、数据泄漏预防和动态防火墙规则创建等。

Morpheus 示例仅仅是 BlueField-X 实现加速的一种使用场景。我们的客户经常与我们分享一些我们尚未考虑到的新想法。为了对 AI 增强的网络进行更多创造性的探索,我们现正推出 NVIDIA 融合加速器开发套件

结合此开发套件,我们为有意构建新一代加速 AI 网络应用的特定客户和合作伙伴提供 A30X 加速器的抢先体验计划。在边缘计算或数据中心管理中探索 BlueField-X 的新应用场景。以下例子为您做参考:

透明视频预处理 – Bump-in-the-wire 视频预处理(解密、交错、格式转换等),以提高 IVA 吞吐量和摄像头密度。

小基站 RU 解决方案 – RAN 信号处理聚合加速器,以增加商业 gNodeB 服务器上的用户密度和吞吐量。

计算存储 – Bump-in-the-wire 存储加密、索引和哈希,为长期存储主机数据准备处理卸载昂贵的 CPU 资源。

作弊检测 – 检测流式游戏服务中的恶意游戏/作弊

开始使用 NVIDIA 融合加速器开发套件

NVIDIA 融合加速器开发套件包含有结合 CUDA 和 NVIDIA DOCA 的示例应用程序,以及帮助安装、配置新型融合加速器的文档。最重要的是,可提供 A30X 及应用支持来换取用户的宝贵反馈。

要开始使用,只需在 NVIDIA 融合加速器开发套件网页上完成注册。获得批准后,一旦硬件准备好发货,将由工作人员主动联系。之后就可以开启新一代加速应用之旅了。

编辑:jq

原文标题:GTC21 | 借助 NVIDIA 融合加速器开发套件加速数据中心 AI

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    基于NVIDIA BlueField DPU的裸金属服务器解决方案

    NVIDIA BlueField DPU 实现裸金属的弹性扩展、自动部署与极致性能。
    的头像 NVIDIA英伟达企业解决方案 发表于 01-21 09:36 117次 阅读

    NVIDIA Merlin助力网络巨头获得点击量

    基于深度学习的系统可以为数十亿在线消费者提高推荐内容的相关性。
    的头像 NVIDIA英伟达企业解决方案 发表于 01-21 09:27 97次 阅读

    易华录亮相第十六届中国IDC产业年度盛典

    第十六届中国IDC产业年度盛典在深圳举办,大会由中国IDC产业年度大典组委会主办,中国IDC圈、Cl....
    的头像 易华录 发表于 01-20 16:15 193次 阅读

    华为助力民生银行开启智能运维新篇章

    金融行业是当前数字化发展最靠前的行业,如今,金融服务已和我们的生活息息相关,你的一笔转账交易,一项燃....
    的头像 华为数据通信 发表于 01-20 10:42 263次 阅读

    【论坛精华】Station M2 之功能测试+性能测试(第二篇)

    上一期我们对StationM2极客主机进行了全面的开箱介绍→【论坛精选】StationM2开箱视频与....
    的头像 StationPC 发表于 01-20 09:44 9次 阅读
    【论坛精华】Station M2 之功能测试+性能测试(第二篇)

    电梯IP五方对讲的常见问题以及解决方法

    一、分机呼主机没有反应? 1、如果是多部分机可以多呼几台分机测试一下,若分机均呼不通,则是码不对,看....
    发表于 01-19 14:12 16次 阅读

    英伟达揭牌DPU和DOCA卓越中心授权合作伙伴 并指出DPU生态发展之路

    在日前举行的“NVIDIA DOCA  中国开发者社区发展研讨会”,英伟达开发者生态事业部在线上向行....
    的头像 电子麦克风 发表于 01-18 11:20 1093次 阅读
    英伟达揭牌DPU和DOCA卓越中心授权合作伙伴 并指出DPU生态发展之路

    主机如何确定IIC总线上的器件的地址

    1.解读单片机IO口模拟IIC程序设计解读单片机IO口模拟IIC程序设计2.单片机 IIC 总线协议 和 详细例程单片机 IIC ...
    发表于 01-18 07:11 0次 阅读

    摩尔线程与同方计算机携手共同打造数智化算力底座

    近日,摩尔线程智能科技(北京)有限责任公司(简称:摩尔线程)与同方计算机有限公司(简称:同方计算机)....
    发表于 01-17 16:58 27次 阅读

    奥拓电子亮相第十八届中国国际社会公共安全博览会

    第十八届中国国际社会公共安全博览会将在在深圳福田会展中心举行。奥拓电子(展位号6T04)将携智慧社区....
    的头像 AOTO奥拓 发表于 01-17 11:47 259次 阅读

    Rambus DDR5:赋能中国下一代数据中心

    在5G、物联网、人工智能/机器学习(AI/ML)等大趋势的共同推动下,中国的数据流量正在呈指数增长。....
    发表于 01-14 11:53 347次 阅读
    Rambus DDR5:赋能中国下一代数据中心

    服务器托管具体指的是什么意思

    服务器托管是什么 服务器托管是指为了提高网站的访问速度,将您的服务器及相关设备托管到具有完善机房设施....
    发表于 01-14 10:35 12次 阅读

    维谛数据中心机房解决方案提供全面支撑

    作为当前医疗产业的重要发展方向,智慧医院通过融合物联网、AI、大数据、云计算等技术,极大地提高诊疗效....
    发表于 01-14 09:43 18次 阅读

    3nm工艺节点量产延迟!台积电和Intel将在CPU、GPU产品上深度合作

    根据台湾供应链消息,台积电原本竹科宝山将建设的研发中心已经迅速改为3纳米生产据点,只服务英特尔,此举....
    的头像 zhangyingwlw 发表于 01-13 13:46 1018次 阅读
    3nm工艺节点量产延迟!台积电和Intel将在CPU、GPU产品上深度合作

    【玩家评测】Station P2极客主机初上手体验,超多图预警

    本期要介绍的东西有点意思,叫做“stationP2便携式主机”简单来说就是一个ARM架构的,能刷入多....
    的头像 StationPC 发表于 01-13 09:43 14次 阅读
    【玩家评测】Station P2极客主机初上手体验,超多图预警

    城墙上的“云镜派”,如何守护云上资产安全?

    2022年1月9日,腾讯主机安全旗舰版重磅发布。是时候为大家介绍一下他们了——城墙上的卫士,云镜派。....
    的头像 脑极体 发表于 01-13 09:26 975次 阅读
    城墙上的“云镜派”,如何守护云上资产安全?

    能源效率管理解决方案:为数据中心提供动环监测

    1,概述 新一轮电力改革实施六年,实现了工商用户电力市场化。随着《关于进一步深化燃煤发电上网电价市场....
    发表于 01-13 09:18 289次 阅读

    新型数据中心的必选项:“超融合”的三重价值

    回首2021年,科技产业发生了若干大事。其中,“双碳”发展目标的确立以及东数西算工程的启动绝对能名列....
    的头像 脑极体 发表于 01-11 09:11 859次 阅读

    企业该如何做好能耗管控,以应对电力交易市场化挑战

    前言 一场危机迫使一场变革。受电煤供应紧张、价格飙升等因素影响,今年第三季度,全国20多个省份实施了....
    发表于 01-11 08:38 257次 阅读

    MX6UL芯片上没有GPU是不是意味着不支持OpenGL呢

    使用MX6UL QT5.6编译openGL 例程,报图片中的错误 MX6UL芯片上没有GPU,是不是意味着不支持OpenGL? 如果支...
    发表于 01-11 07:54 0次 阅读

    芯动科技重兵布局中国高端5纳米GPU蓝海

    你是否满腹才华,在寻找硬科技大舞台建功立业?你是否能征善战,期待在行业主赛场一展身手?你是否怀揣梦想....
    的头像 芯动科技 发表于 01-10 16:35 1327次 阅读

    游戏党必备,小主机竟然可以充当游戏加速器?

    “大吉大利,今晚吃鸡”。这句话是不是很熟悉,爆红于游戏【绝地求生:大逃杀】的胜利提示语!当游戏胜利结....
    的头像 StationPC 发表于 01-10 15:02 20次 阅读
    游戏党必备,小主机竟然可以充当游戏加速器?

    iPDU在数据中心电源管理中的作用

    虽然智能机架PDU(iPDU)在当今的数据中心中变得越来越普遍,但许多数据中心仍在选择和使用基本PD....
    发表于 01-10 13:17 7次 阅读
    iPDU在数据中心电源管理中的作用

    imx6q的GPU频率是否可以降低?

    核心板FETIMX6Q-C V1.2,底板:OK_MX6Q_C_V1.3, 运行LCD界面程序后CPU温度回答到50度左右,触摸后感觉烫...
    发表于 01-10 07:30 0次 阅读

    当云服务变成云云云云服务,谁能带领企业穿越云层?

    云基础设施越用越多,丰富的选择却成为了数据与决策流动的沟壑。一家企业常常会选择多个云供应商,从云服务....
    的头像 脑极体 发表于 01-08 11:25 1385次 阅读
    当云服务变成云云云云服务,谁能带领企业穿越云层?

    Nvidia GPU风扇和电源显示ERR! 解决办法

    问题最近在Ubuntu上使用Nvidia GPU训练模型的时候,如果机器锁屏一段时间再打开的时候鼠标....
    发表于 01-07 14:35 18次 阅读
    Nvidia GPU风扇和电源显示ERR! 解决办法

    2021可信隐私计算高峰论坛暨数据安全产业峰会上百家争鸣

    随着深度学习、CAE仿真、大数据分析、动画渲染、图像分析、高性能计算的快速发展和个性化服务的不断演进....
    发表于 01-06 17:11 23次 阅读
    2021可信隐私计算高峰论坛暨数据安全产业峰会上百家争鸣

    深度学习、元宇宙推动之下,高性能计算得到快速发展

    在深度学习、元宇宙的迅速推动下,大数据分析、高性能计算、人工智能、CAE仿真等领域得到快速发展。 仅....
    发表于 01-06 17:09 30次 阅读

    显卡的结构及性能指标

    显卡是计算机最基本的组成部分之一,以便实现真正的人机交互,为图形信息进行计算以及渲染,提供给显示器信....
    的头像 我快闭嘴 发表于 01-06 16:31 391次 阅读

    普华基础软件推动中国信创产业与市场的稳步发展

    近日,由《信创产业》主导的信创产业实干者年终大盘点结果公布。榜单对基础硬件、基础软件、云、应用软件、....
    的头像 普华基础软件 发表于 01-06 15:59 355次 阅读

    记一次主机无法启动的经历:无任何输出,显示屏键盘鼠标网线电源指示灯均熄灭+ 以太网无法识别

    有一次搬了一台主机之后,主机就出现问题了,具体表现如下:1. 显示屏无信号输入;2. 键盘鼠标网线电....
    发表于 01-06 15:25 18次 阅读
    记一次主机无法启动的经历:无任何输出,显示屏键盘鼠标网线电源指示灯均熄灭+ 以太网无法识别

    知行科技已获得多家主机厂多个车型的量产订单

    在亿欧(EqualOcean)主办的World Innovators Meet (WIM) 2021....
    的头像 知行科技iMotion 发表于 01-06 14:37 285次 阅读

    PC老电源的再利用

    最近因项目需要,测试 一块VEGA显卡的 OPENCL性能,but 遇到一个尴尬的事情......原....
    发表于 01-06 12:48 18次 阅读
    PC老电源的再利用

    科华数据:看得见的智慧金融,看不见的数据中心

    刚刚闭幕的进博会,观众在展馆内60多家商户、100多台自助售卖机上直观感受到了数字人民币支付的便捷;....
    发表于 01-05 16:08 34次 阅读
    科华数据:看得见的智慧金融,看不见的数据中心

    Semtech宣布正式量产Tri-Edge™ PAM4 CDR芯片组,支持100G数据中心光纤链路

    全新CDR芯片组基于业界领先的200G和400G GN2558、GN2559 Tri-Edge芯片组....
    发表于 01-05 14:18 1003次 阅读
    Semtech宣布正式量产Tri-Edge™ PAM4 CDR芯片组,支持100G数据中心光纤链路

    芯动科技全系高端DDR存储接口解决方案

    在第三届硬核中国芯领袖峰会上,芯动科技凭借全球顶尖的全系高端DDR存储接口解决方案,成功斩获“硬核中....
    的头像 芯动科技Innosilicon 发表于 01-05 09:17 1243次 阅读

    GPU究竟是什么 GPU芯片研发有多难

    “近几年大火的概念实现都离不开GPU。”GPU IP巨头Imagination中国战略市场及生态副总....
    的头像 芯动科技Innosilicon 发表于 01-05 09:07 513次 阅读

    三星OLED笔记本电脑的亮点介绍

    搭载在笔记本电脑上的三星新款OLED有着低于1.4mm的拖影长度(Blur length)和低于15....
    的头像 三星半导体和显示官方 发表于 01-05 08:28 298次 阅读

    433M无线通讯的一些常识分享

    一、433M无线通讯的一些常识主机是防盗报警主机,所以必须要配合周围传感器形成一道防御网络,比如说门磁传感器装在大门,开门后...
    发表于 01-05 07:50 0次 阅读

    由浅入深介绍USB原理

    理论学习本章将由浅入深介绍USB原理,逐步解释以下问题:    第一节:USB从接入到使用,讲述USB设备接入主机后经历...
    发表于 01-05 07:39 0次 阅读

    请问一下FCU2303+1046A支持Qt吗

    请问一下,现在FCU2303+1046A支持Qt了吗?
    发表于 01-05 07:10 0次 阅读

    如何在OK1012A-C上安装opencv呢

    最近手边有项目,需要在OK1012A-C上安装opencv,请问能否实现? ...
    发表于 01-05 06:29 0次 阅读

    NVIDIA DGX SuperPOD 方案满足服务大模型的计算需求

    基于京东部署的 DGX SuperPOD 集群 “天琴α”,京东探索研究院联合悉尼大学共同研发了织女....
    的头像 NVIDIA英伟达 发表于 01-04 17:38 311次 阅读

    NVIDIA A100 Tensor Core GPU加速深势科技云原生科学计算平台Lebesgue落地

    氨基酸链条的不同折叠会构成功能各异的蛋白质,锂离子的传输运动影响着电池的性能与使用寿命,这些在人类的....
    的头像 NVIDIA英伟达 发表于 01-04 17:19 307次 阅读

    NVIDIA DPU 存储性能为存储安全提供性能保障

    DPU(数据处理器)将服务器和存储之间的 IOPS 性能提升至 4100 万以上,超过之前世界纪录的....
    的头像 NVIDIA英伟达 发表于 01-04 17:15 302次 阅读

    数字化转型如何影响数据中心基础设施的转型

    传统数据中心的设计模式发生了很大的变化。数据中心的架构和电气原理可以在过去的手册和草图中实现。但是,....
    发表于 01-04 16:33 33次 阅读

    NVIDIA GPU在微尺度工业设计平台的应用

    氨基酸链条的不同折叠会构成功能各异的蛋白质,锂离子的传输运动影响着电池的性能与使用寿命,这些在人类的....
    的头像 NVIDIA英伟达企业解决方案 发表于 01-04 14:41 288次 阅读

    AI和GPU加速半导体设计

    根据NVIDIA首席科学家在国际设计自动化会议(DAC)在线主题演讲中详细介绍的研究,机器学习和加速....
    的头像 NVIDIA英伟达企业解决方案 发表于 01-04 14:35 503次 阅读

    NVIDIA BlueField-2 DPU性能测试方法

    DPU(数据处理器)将服务器和存储之间的 IOPS 性能提升至 4100 万以上,超过之前世界纪录的....
    的头像 NVIDIA英伟达企业解决方案 发表于 01-04 14:25 250次 阅读

    数据中心供配电系统的节能设计及监控产品选型

    时代的进步带动了各行业突破式的发展,为各行业带去了高新的科技技术,尤其是以信息技术为依托的数据中心自....
    发表于 01-04 13:59 56次 阅读

    芯动科技荣获“中国芯”首届优秀支撑服务企业奖

    2021第十六届“中国芯”集成电路产业促进大会暨“中国芯”优秀奖发布仪式在珠海隆重举行。芯动科技作为....
    的头像 芯动科技Innosilicon 发表于 01-04 08:25 354次 阅读

    华为携手合作伙伴共拓产业数字化新蓝海

    以“云云协同,共创云上新价值”为主题的“华为云&华为终端云服务创新峰会2022”在北京拉开帷幕。华为....
    的头像 华为开发者社区 发表于 01-03 11:12 535次 阅读

    在Ubuntu上使用Nvidia GPU训练模型

    问题最近在Ubuntu上使用Nvidia GPU训练模型的时候,没有问题,过一会再训练出现非常卡顿,使用nvidia-smi查看发现,显示GP...
    发表于 01-03 08:24 0次 阅读

    nagios监控vsphere ESXi主机硬件状态

    nagios监控vsphere ESXi主机硬件状态(CPU风扇、电源模块、硬盘、温度)esxi 的只读账户和密码(本文以chkhardware/chkreadon...
    发表于 01-03 06:13 0次 阅读

    摩尔线程与长城超云达成战略合作,共赢数据中心未来

    近日,摩尔线程与长城超云(北京)科技有限公司(简称:长城超云)达成战略合作。 双方将发挥各自在技术创....
    的头像 互联网科技 发表于 01-02 16:10 206次 阅读
    摩尔线程与长城超云达成战略合作,共赢数据中心未来

    如何选择VPS主机管理面板

    VPS主机管理面板是网络服务器功能和设置的主管管理所必需的-它允许您监控一个或多个站点的工作。控制面....
    发表于 12-31 17:41 31次 阅读

    鸿芯微纳携手合作伙伴积极推进EDA生态建设

    在12月于无锡举办的中国集成电路设计产业2021年会(ICCAD2021)高峰论坛上,深圳鸿芯微纳技....
    的头像 鸿芯微纳 发表于 12-31 14:42 726次 阅读

    智算中心如何更好的支撑地方社会经济发展

    12月,“中国科学院人工智能产学研创新联盟2021年会暨第三期人工智能创新大讲堂”在京举办。会上,联....
    的头像 中科曙光 发表于 12-31 11:44 748次 阅读

    智能机架PDU有哪些优势

    虽然智能机架PDU(iPDU)在当今的数据中心中变得越来越普遍,但许多数据中心仍在选择和使用基本PDU而不是“智能”设备。与...
    发表于 12-30 07:54 0次 阅读