0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA利用 NVIDIA EGX 平台帮助企业将 AI 推向边缘

lhl545545 来源:与非网 作者:与非网 2020-10-09 15:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

NVIDIA 宣布全球领先的科技公司广泛采用 NVIDIA EGX AI 平台,为企业和边缘数据中心带来安全的、全新 GPU 加速的软件、服务和服务器。

数百家视觉 AI、5G、CloudRAN、安全和互联网企业与业内主要服务器制造商,如戴尔技术(Dell Technologies)、浪潮(Inspur)、联想(Lenovo)和超微(Supermicro),以及业内领先软件基础设施提供商,如 Canonical、Cloudera、红帽(Red Hat)、SUSE 和 VMware 利用 NVIDIA EGX 平台帮助企业将 AI 推向边缘。

全球各大行业都将受益于 EGX AI 平台,包括制造业、医疗保健、零售、物流、农业、电信、公共安全和广电媒体,快速高效地大规模部署 AI。

NVIDIA 还宣布,EGX 平台正将 NVIDIA Ampere GPU 和 BlueField-2 DPU 功能整合在一张 PCIe 卡上,为企业提供一个通用平台从而构建安全且速度更快的数据中心。BlueField-2 DPU 内含强大的 Arm CPU 核心,可用于为运行在 GPU 上的 AI 推理模型创建可信的区域。

NVIDIA 创始人兼首席执行官黄仁勋在 GTC 大会主题演讲中宣布了这一消息,他表示:“全球所有公司都将采用 AI 来完善自身业务的方方面面。为支持这一进行中的巨大改变,NVIDIA 创建了一个加速计算平台,以助力公司实现数据中心现代化,并将 AI 部署在任何地点。”

专为边缘和数据中心优化的 AI 软件

EGX 平台的核心是一个可在 NVIDIA NGC 上使用的优化 AI 软件堆栈,该软件目录提供了一系列行业特定的 AI 工具包和预培训的模型,降低了在 NVIDIA 认证系统上构建和部署 AI 应用程序的难度。

NVIDIA 的 AI 应用框架被 Deep North、Everseen 和 Whiteboard Coordinator 等领先的 AI 软件供应商用于构建和部署医疗、零售、物流和智慧城市解决方案。

NVIDIA vGPU 软件产品和 GPUDirect RDMA 技术赋予 NVIDIA GPU 全带宽发送和接收数据的能力,以实现最佳性能。

为确保企业可大规模部署 AI,NVIDIA 正在与 Canonical、Cloudera、红帽、SUSE 和 VMware 等领先的平台企业合作,以确保其旗舰虚拟化解决方案、操作系统、Kubernetes 和数据分析平台在裸机或虚拟环境中运行时,针对 NVIDIA AI 软件进行全面优化。

部署和管理各地 EGX 服务器

未来,企业数据中心将被分散部署在不同地点,包括办公大楼、工厂、仓库、基站、学校、商店和银行,而非集中部署在某一个地点。

为简化并保护在 AI 应用程序和模型在这些服务器上的大规模部署和管理,NVIDIA 宣布推出一款名为 NVIDIA Fleet Command 的 早期试用计划。该混合云平台集边缘计算的安全性、实时处理能力、远程管理和 SaaS 的简便性于一身。

Fleet Command 可通过统一的控制平面,集中管理遍布各处的服务器,包括工厂、医院、零售商店,甚至城市街道。其一键配置、无线软件更新、远程访问、详细的监控仪表板的特点帮助运营团队减轻 IT 工作的负担,以充分利用 AI 应用程序并最大化运营效率。

全球供应链解决方案领导者 KION 集团是最早参与 Fleet Command 早期试用的公司之一,它利用 NVIDIA EGX AI 平台,为其智慧仓库系统开发 AI 应用程序,提高了零售配送中心的吞吐量和效率。

此外,伊利诺伊州首屈一指、全美排名前十的 Northwestern Memorial 医院正在与 Whiteboard Coordinator 合作,将 Fleet Command 用于其物联网传感器平台,该平台应用于其诊所和医疗中心内,具备计算机视觉语音识别蓝牙跟踪功能。

Whiteboard Coordinator 首席执行官 Andrew Gostine 博士表示:“Whiteboard Coordinator 与领先的医疗保健机构合作,可随时随地从云端管理其应用程序、服务器和软件部署。通过 NVIDIA Fleet Command,只需几次点击即可在各地医院远程部署一套医疗保健 AI 应用程序,并实现安全的管理。这使我们能够将更多的精力专注于为患者提供治疗,而无需在管理基础设施上花费大量时间。”

现已支持 NVIDIA AI 软件的服务器可通过华硕(ASUS)、源讯(Atos)、戴尔技术(Dell Technologies)、富士通(Fujitsu)、技嘉科技(GIGABYTE)、新华三(H3C)、浪潮(Inspur)、联想(Lenovo)、云达科技(Quanta/QCT)和超微(Supermicro)获取。

NVIDIA Fleet Command 早期试用计划已向符合条件的客户开放。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5321

    浏览量

    136210
  • 服务器
    +关注

    关注

    14

    文章

    10440

    浏览量

    91849
  • AI
    AI
    +关注

    关注

    91

    文章

    41976

    浏览量

    303072
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    QNX与NVIDIA深化战略合作,共筑安全关键型边缘AI新生态

    近期,BlackBerry旗下QNX业务部门与NVIDIA的深度合作再升级,双方通过**QNX OS for Safety 8.0**与**NVIDIA IGX Thor Halos Safety
    的头像 发表于 04-27 09:43 726次阅读

    BlackBerry QNX与NVIDIA深化合作:重构安全关键型边缘AI系统的技术范式

    Halos Safety Stack功能安全平台,为机器人、医疗设备、工业自动化等受严格监管领域打造下一代边缘AI系统解决方案。这一合作标志着安全关键型AI应用从“功能实现”向“确定
    的头像 发表于 04-23 10:10 861次阅读

    NVIDIA与电信领导企业共建AI网格

    AT&T、T-Mobile、Comcast、Spectrum 等公司正在使用 NVIDIA AI 基础设施构建 AI 网格,Personal AI、Linker Vision、Serv
    的头像 发表于 04-10 16:16 439次阅读

    NVIDIA Jetson模型赋能AI边缘端落地

    开源生成式 AI 模型不再局限于数据中心,而是开始深入到现实世界的各种机器中。从 Orin 到 Thor,NVIDIA Jetson 系列正在成为运行 NVIDIA Nemotron、Cosmos
    的头像 发表于 03-16 16:27 787次阅读
    <b class='flag-5'>NVIDIA</b> Jetson模型赋能<b class='flag-5'>AI</b>在<b class='flag-5'>边缘</b>端落地

    生命科学领先企业采用 NVIDIA BioNeMo 平台加速 AI 驱动的药物研发

    Discovery、Basecamp Research、Boltz 及生态系统领先企业 NVIDIA BioNeMo、代理式 AI 与物理 A
    的头像 发表于 01-14 11:40 742次阅读
    生命科学领先<b class='flag-5'>企业</b>采用 <b class='flag-5'>NVIDIA</b> BioNeMo <b class='flag-5'>平台</b>加速 <b class='flag-5'>AI</b> 驱动的药物研发

    NVIDIA DGX SuperPOD为Rubin平台横向扩展提供蓝图

    NVIDIA DGX Rubin 系统整合了 NVIDIA 在计算、网络和软件领域的最新突破,推理 token 成本降至 NVIDIA Blackwell
    的头像 发表于 01-14 09:14 1003次阅读

    超擎数智为您深度解析NVIDIA Quantum-X800 InfiniBand平台

    NVIDIA
    专精特新
    发布于 :2026年01月08日 19:47:03

    如何在NVIDIA Jetson平台上运行最新的开源AI模型

    在小型、低功耗的边缘设备上运行先进的 AI 和计算机视觉工作流正变得越来越具有挑战性。机器人、智能摄像头和自主设备需要实时智能来感知、理解并做出反应,而无需依赖云端。NVIDIA Jetson
    的头像 发表于 12-24 10:38 2044次阅读
    如何在<b class='flag-5'>NVIDIA</b> Jetson<b class='flag-5'>平台</b>上运行最新的开源<b class='flag-5'>AI</b>模型

    NVIDIA扩大与微软合作推动AI超级工厂建设

    在 Microsoft Ignite 大会上,NVIDIA 扩大与微软的合作,包括在由 NVIDIA Blackwell 平台驱动的全新 Microsoft Fairwater AI
    的头像 发表于 12-01 09:52 1086次阅读

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布了 NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据生成。借助 NVIDIA Omniverse 库和 Co
    的头像 发表于 12-01 09:25 1624次阅读

    NVIDIA IGX Thor 机器人处理器实时物理 AI 引入工业和医疗边缘场景

    NVIDIA IGX Thor,这是一个功能强大的工业级平台,专为实时物理 AI 直接部署于边缘端而打造。该
    的头像 发表于 10-29 10:31 1543次阅读
    <b class='flag-5'>NVIDIA</b> IGX Thor 机器人处理器<b class='flag-5'>将</b>实时物理 <b class='flag-5'>AI</b> 引入工业和医疗<b class='flag-5'>边缘</b>场景

    研华科技推出基于NVIDIA Jetson Thor平台边缘AI新品MIC-743

    研华重磅推出基于NVIDIA Jetson Thor平台边缘AI新品 MIC-743,这款突破性产品以高达2070 FP4 TOPS的AI
    的头像 发表于 08-29 14:53 2504次阅读

    全球各大品牌利用NVIDIA AI技术提升运营效率

    欧莱雅、LVMH 集团和雀巢利用 NVIDIA 加速的智能体 AI 和物理 AI,大幅提升产品设计、营销及物流等方面的运营效率。
    的头像 发表于 06-19 14:36 1439次阅读

    NVIDIA技术助力企业创建主权AI智能体

    AI Factory 的经验证设计加速基础设施与软件(包括全新 NVIDIA NIM 微服务和经扩展的 NVIDIA Blueprint)相结合,为各国和
    的头像 发表于 06-16 14:28 1610次阅读

    NVIDIA计划打造全球首个工业AI平台

    NVIDIA 宣布,其正在为欧洲制造商构建全球首个工业 AI 云。这家总部位于德国的 AI 工厂配备 1 万个 GPU,包括通过 NVIDIA
    的头像 发表于 06-16 14:17 1734次阅读