0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA利用 NVIDIA EGX 平台帮助企业将 AI 推向边缘

lhl545545 来源:与非网 作者:与非网 2020-10-09 15:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIA 宣布全球领先的科技公司广泛采用 NVIDIA EGX AI 平台,为企业和边缘数据中心带来安全的、全新 GPU 加速的软件、服务和服务器。

数百家视觉 AI、5G、CloudRAN、安全和互联网企业与业内主要服务器制造商,如戴尔技术(Dell Technologies)、浪潮(Inspur)、联想(Lenovo)和超微(Supermicro),以及业内领先软件基础设施提供商,如 Canonical、Cloudera、红帽(Red Hat)、SUSE 和 VMware 利用 NVIDIA EGX 平台帮助企业将 AI 推向边缘。

全球各大行业都将受益于 EGX AI 平台,包括制造业、医疗保健、零售、物流、农业、电信、公共安全和广电媒体,快速高效地大规模部署 AI。

NVIDIA 还宣布,EGX 平台正将 NVIDIA Ampere GPU 和 BlueField-2 DPU 功能整合在一张 PCIe 卡上,为企业提供一个通用平台从而构建安全且速度更快的数据中心。BlueField-2 DPU 内含强大的 Arm CPU 核心,可用于为运行在 GPU 上的 AI 推理模型创建可信的区域。

NVIDIA 创始人兼首席执行官黄仁勋在 GTC 大会主题演讲中宣布了这一消息,他表示:“全球所有公司都将采用 AI 来完善自身业务的方方面面。为支持这一进行中的巨大改变,NVIDIA 创建了一个加速计算平台,以助力公司实现数据中心现代化,并将 AI 部署在任何地点。”

专为边缘和数据中心优化的 AI 软件

EGX 平台的核心是一个可在 NVIDIA NGC 上使用的优化 AI 软件堆栈,该软件目录提供了一系列行业特定的 AI 工具包和预培训的模型,降低了在 NVIDIA 认证系统上构建和部署 AI 应用程序的难度。

NVIDIA 的 AI 应用框架被 Deep North、Everseen 和 Whiteboard Coordinator 等领先的 AI 软件供应商用于构建和部署医疗、零售、物流和智慧城市解决方案。

NVIDIA vGPU 软件产品和 GPUDirect RDMA 技术赋予 NVIDIA GPU 全带宽发送和接收数据的能力,以实现最佳性能。

为确保企业可大规模部署 AI,NVIDIA 正在与 Canonical、Cloudera、红帽、SUSE 和 VMware 等领先的平台企业合作,以确保其旗舰虚拟化解决方案、操作系统、Kubernetes 和数据分析平台在裸机或虚拟环境中运行时,针对 NVIDIA AI 软件进行全面优化。

部署和管理各地 EGX 服务器

未来,企业数据中心将被分散部署在不同地点,包括办公大楼、工厂、仓库、基站、学校、商店和银行,而非集中部署在某一个地点。

为简化并保护在 AI 应用程序和模型在这些服务器上的大规模部署和管理,NVIDIA 宣布推出一款名为 NVIDIA Fleet Command 的 早期试用计划。该混合云平台集边缘计算的安全性、实时处理能力、远程管理和 SaaS 的简便性于一身。

Fleet Command 可通过统一的控制平面,集中管理遍布各处的服务器,包括工厂、医院、零售商店,甚至城市街道。其一键配置、无线软件更新、远程访问、详细的监控仪表板的特点帮助运营团队减轻 IT 工作的负担,以充分利用 AI 应用程序并最大化运营效率。

全球供应链解决方案领导者 KION 集团是最早参与 Fleet Command 早期试用的公司之一,它利用 NVIDIA EGX AI 平台,为其智慧仓库系统开发 AI 应用程序,提高了零售配送中心的吞吐量和效率。

此外,伊利诺伊州首屈一指、全美排名前十的 Northwestern Memorial 医院正在与 Whiteboard Coordinator 合作,将 Fleet Command 用于其物联网传感器平台,该平台应用于其诊所和医疗中心内,具备计算机视觉语音识别蓝牙跟踪功能。

Whiteboard Coordinator 首席执行官 Andrew Gostine 博士表示:“Whiteboard Coordinator 与领先的医疗保健机构合作,可随时随地从云端管理其应用程序、服务器和软件部署。通过 NVIDIA Fleet Command,只需几次点击即可在各地医院远程部署一套医疗保健 AI 应用程序,并实现安全的管理。这使我们能够将更多的精力专注于为患者提供治疗,而无需在管理基础设施上花费大量时间。”

现已支持 NVIDIA AI 软件的服务器可通过华硕(ASUS)、源讯(Atos)、戴尔技术(Dell Technologies)、富士通(Fujitsu)、技嘉科技(GIGABYTE)、新华三(H3C)、浪潮(Inspur)、联想(Lenovo)、云达科技(Quanta/QCT)和超微(Supermicro)获取。

NVIDIA Fleet Command 早期试用计划已向符合条件的客户开放。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134461
  • 服务器
    +关注

    关注

    13

    文章

    10094

    浏览量

    90883
  • AI
    AI
    +关注

    关注

    89

    文章

    38091

    浏览量

    296612
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA IGX Thor 机器人处理器实时物理 AI 引入工业和医疗边缘场景

    NVIDIA IGX Thor,这是一个功能强大的工业级平台,专为实时物理 AI 直接部署于边缘端而打造。该
    的头像 发表于 10-29 10:31 909次阅读
    <b class='flag-5'>NVIDIA</b> IGX Thor 机器人处理器<b class='flag-5'>将</b>实时物理 <b class='flag-5'>AI</b> 引入工业和医疗<b class='flag-5'>边缘</b>场景

    研华科技推出基于NVIDIA Jetson Thor平台边缘AI新品MIC-743

    研华重磅推出基于NVIDIA Jetson Thor平台边缘AI新品 MIC-743,这款突破性产品以高达2070 FP4 TOPS的AI
    的头像 发表于 08-29 14:53 1680次阅读

    全球各大品牌利用NVIDIA AI技术提升运营效率

    欧莱雅、LVMH 集团和雀巢利用 NVIDIA 加速的智能体 AI 和物理 AI,大幅提升产品设计、营销及物流等方面的运营效率。
    的头像 发表于 06-19 14:36 963次阅读

    NVIDIA技术助力企业创建主权AI智能体

    AI Factory 的经验证设计加速基础设施与软件(包括全新 NVIDIA NIM 微服务和经扩展的 NVIDIA Blueprint)相结合,为各国和
    的头像 发表于 06-16 14:28 1086次阅读

    NVIDIA计划打造全球首个工业AI平台

    NVIDIA 宣布,其正在为欧洲制造商构建全球首个工业 AI 云。这家总部位于德国的 AI 工厂配备 1 万个 GPU,包括通过 NVIDIA
    的头像 发表于 06-16 14:17 1081次阅读

    企业使用NVIDIA NeMo微服务构建AI智能体平台

    已发布的 NeMo 微服务可与合作伙伴平台集成,作为创建 AI 智能体的构建模块,使用商业智能与强大的逻辑推理模型 (包括 NVIDIA Llama Nemotron) 处理更多任务。
    的头像 发表于 04-27 15:05 999次阅读

    Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用

    -Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用 Cognizant将在关键增长领域提供解决方案,包括企业AI
    的头像 发表于 03-26 14:42 578次阅读
    Cognizant将与<b class='flag-5'>NVIDIA</b>合作部署神经人工智能<b class='flag-5'>平台</b>,加速<b class='flag-5'>企业</b>人工智能应用

    英伟达GTC2025亮点:Oracle与NVIDIA合作助力企业加速代理式AI推理

    基础设施以及生成式 AI 服务首次实现集成,以帮助全球企业组织加速创建代理式 AI 应用。 此次 Oracle Cloud Infrastructure (OCI) 与
    的头像 发表于 03-21 12:01 1176次阅读
    英伟达GTC2025亮点:Oracle与<b class='flag-5'>NVIDIA</b>合作助力<b class='flag-5'>企业</b>加速代理式<b class='flag-5'>AI</b>推理

    英伟达GTC2025亮点:NVIDIA与行业领先存储企业共同推出面向AI时代的新型企业基础设施

    存储提供商构建搭载 AI 查询智能体的基础设施,利用 NVIDIA 计算、网络和软件,针对复杂查询进行推理并快速生成准确响应 NVIDIA 推出了
    的头像 发表于 03-21 09:42 1061次阅读

    Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成式 AI 服务首次实现集成,以
    发表于 03-19 15:24 470次阅读
    Oracle 与 <b class='flag-5'>NVIDIA</b> 合作助力<b class='flag-5'>企业</b>加速代理式 <b class='flag-5'>AI</b> 推理

    NVIDIA 与行业领先的存储企业共同推出面向 AI 时代的新型企业基础设施

    :即企业存储平台,搭载由 NVIDIA 加速计算、网络和软件驱动的 AI 查询智能体。   NVIDIA 认证的存储提供
    发表于 03-19 10:11 414次阅读
    <b class='flag-5'>NVIDIA</b> 与行业领先的存储<b class='flag-5'>企业</b>共同推出面向 <b class='flag-5'>AI</b> 时代的新型<b class='flag-5'>企业</b>基础设施

    Amphitrite借助NVIDIA Earth-2平台优化船舶航线

    作为 NVIDIA 初创加速计划的成员,这家初创公司帮助船舶充分利用洋流和 AI 的力量,通过 NVIDIA Earth-2
    的头像 发表于 02-14 10:04 953次阅读

    交通运输领先企业率先采用NVIDIA Cosmos平台

    支撑自动驾驶汽车开发有三个关键计算平台NVIDIA DGX 平台用于在数据中心训练基于 AI 的堆栈;运行在NVIDIA OVX
    的头像 发表于 01-09 16:02 900次阅读

    NVIDIA Cosmos世界基础模型平台发布

    NVIDIA 宣布推出NVIDIA Cosmos,该平台由先进的生成式世界基础模型、高级 tokenizer、护栏和加速视频处理管线组成,推动自动驾驶汽车(AV)和机器人等物理
    的头像 发表于 01-08 10:39 1030次阅读

    联发科与NVIDIA合作 为NVIDIA 个人AI超级计算机设计NVIDIA GB10超级芯片

    ,为各类采用Arm架构SoC的设备提供卓越的AI、通信、多媒体与高能效用户体验。联发科丰富的专业技术带入此次与NVIDIA的合作中,以共同打造业界先进的平台。 联发科副董事
    的头像 发表于 01-07 16:26 830次阅读