0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

NVIDIA英伟达 来源:未知 2023-08-23 19:10 次阅读

戴尔科技、慧与和联想即将推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服务器,以支持 VMware Private AI Foundation with NVIDIA

拉斯维加斯 — VMware Explore — 太平洋时间 2023 年 8 月 22 日 — NVIDIA 宣布,全球领先的系统制造商将推出 AI 就绪型服务器,其支持同发布的 VMware Private AI Foundation with NVIDIA,帮助企业使用自有业务数据来定制和部署生成式 AI 应用。

NVIDIA AI 就绪型服务器将采用 NVIDIA L40S GPUNVIDIA BlueField-3 DPUNVIDIA AI Enterprise 软件使企业能够微调生成式 AI 基础模型并部署生成式 AI 应用,比如智能聊天机器人、搜索和摘要工具等。这些服务器还提供由 NVIDIA 加速的基础设施和软件,以支持 VMware Private AI Foundation with NVIDIA。

作为全球领先的系统制造商的戴尔科技、慧与和联想,将于年底前推出搭载 NVIDIA L40S 的服务器,以加速推进企业级 AI 的发展。

NVIDIA 创始人兼首席执行官黄仁勋表示:“全新的计算时代已经来临,各行各业的企业都在竞相采用生成式 AI。我们正在通过涵盖全球顶尖软件和系统合作伙伴的生态系统,将生成式 AI 带给全球企业。”

对于将部署 VMware Private AI Foundation with NVIDIA 的企业来说,NVIDIA AI 就绪型服务器是一个理想的平台。

VMware 首席执行官 Raghu Raghuram 表示:“生成式 AI 正在大力推动数字化转型进程,企业需要一种全面集成的解决方案,以更加安全地构建应用,从而推动业务发展。通过 VMware、NVIDIA、以及我们服务器制造商合作伙伴的专业知识相结合,企业将能够在确保数据隐私、安全和可控性的前提下开发和部署 AI。”

助推企业生成式 AI 转型

各行各业正在竞相将生成式 AI 用于药物研发、零售产品描述、智能虚拟助手、制造模拟、欺诈检测等各种用途,NVIDIA AI 就绪型服务器将为这些行业提供全栈加速基础设施和软件。

这些服务器采用 NVIDIA AI Enterprise,即 NVIDIA AI 平台的操作系统。该软件为 100 多个框架、预训练模型、工具套件和软件提供生产就绪型企业级支持和安全性,包括用于 LLM 的 NVIDIA NeMo、用于模拟的 NVIDIA Modulus、用于数据科学的 NVIDIA RAPIDS 和用于生产型 AI 的 NVIDIA Triton 推理服务器

专为处理包含数十亿参数的复杂 AI 工作负载而打造的 L40S GPU 搭载第四代 Tensor Core 和 FP8 Transformer 引擎,可提供超 1.45 PFLOPS 的张量处理能力,其训练性能是 NVIDIA A100 Tensor Core GPU 的 1.7 倍。

相较于 NVIDIA A100 GPU,NVIDIA L40S 可将智能聊天机器人、助手、搜索和摘要等生成式 AI 应用中的生成式 AI 推理性能提高 1.2 倍。

通过集成 NVIDIA BlueField DPU,可加速、卸载和隔离巨大计算工作负载,其中包含虚拟化、网络、存储、安全,以及其他云原生 AI 服务,以进一步提高速度。

NVIDIA ConnectX-7 智能网卡提供先进的硬件卸载和超低延迟,可为数据密集型生成式 AI 工作负载提供同类领先的可扩展性能。

推动企业生成式 AI 部署的庞大生态系统

全球领先的计算机制造商正在构建 NVIDIA AI 就绪型服务器,包括戴尔 PowerEdge R760xa、适用于 VMware Private AI Foundation with NVIDIA 的慧与 ProLiant Gen11 服务器以及联想 ThinkSystem SR675 V3。

戴尔科技主席兼首席执行官 Michael Dell 表示:“生成式 AI 是创新的‘催化剂’,将助力解决一些全球性的重大挑战。而采用 NVIDIA AI 就绪型服务器的戴尔生成式 AI 解决方案将扮演至关重要的角色,即通过推动生产力水平实现前所未有的提升,并变革工业运营的方式,以加速人类的进程。”

慧与总裁兼首席执行官 Antonio Neri 表示:“生成式 AI 将推动企业生产力规模的全新扩展 —— 从赋能聊天机器人和数字助理,到帮助设计和开发新的解决方案。我们很高兴能继续与 NVIDIA 密切合作,在一系列企业级调优和推理工作负载解决方案中采用 NVIDIA 的 GPU 和软件,这将加速生成式 AI 的部署。”

联想集团主席兼首席执行官杨元庆表示:“企业迫切希望采用生成式 AI 来推动智能化转型。通过与 NVIDIA 和 VMware 合作,联想正在进一步扩大自身在生成式 AI 领域的领先地位,并巩固自身的独特定位,即在客户采用 AI 的旅程中为其提供帮助。”

供应情况

搭载 L40S GPU 和 BlueField DPU 的 NVIDIA AI 就绪型服务器将于年底前上市,云服务提供商预计将在未来几个月提供实例。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击“阅读原文”扫描下方海报二维码,关注更多会议及活动信息


原文标题:全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3327

    浏览量

    87768

原文标题:全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA发布生成AI服务,推动药物研发、医疗科技和数字医疗发展

    NVIDIA 今日推出二十多项全新微服务,使全球医疗企业能够在任何地点和任何云上充分利用生成
    的头像 发表于 03-20 10:03 1389次阅读

    NVIDIA推出生成AI服务,供开发者在CUDA GPU系统中创建部署生成AI助手

    NVIDIA 于今日推出数十项企业生成AI服务
    的头像 发表于 03-20 09:56 255次阅读

    NVIDIA 通过企业生成AI服务为聊天机器人、AI 助手和摘要工具带来商业智能

    服务,支持企业将自定义大语言模型与企业数据相连接,使其 AI 应用能够提供高度准确的响应。 NVIDIA NeMo Retriever
    的头像 发表于 11-29 21:05 379次阅读

    NVIDIA全新AI以太网络平台大幅提升AI性能

    NVIDIA 近日宣布,三家头部系统制造商将率先在其服务器产品阵容中集成专为 AI 量身定制的 NVIDIA Spectrum-X™ 以太网
    的头像 发表于 11-27 14:31 415次阅读

    戴尔科技、慧与和联想即将推出 NVIDIA 全新 AI 以太网络平台

    通信网络性能提高了 1.6 倍。 这三家头部系统制造商的新系统,整合了 Spectrum-X 与 NVIDIA Tensor Core GPU、N
    的头像 发表于 11-21 21:50 329次阅读
    戴尔科技、慧与和联想即将<b class='flag-5'>推出</b> <b class='flag-5'>NVIDIA</b> 全新 <b class='flag-5'>AI</b> 以太网络平台

    戴尔科技、慧与和联想即将推出 NVIDIA 全新 AI 以太网络平台

    ,其 AI 通信网络性能提高了 1.6 倍。   这三家头部系统制造商的新系统,整合了 Spectrum-X 与 NVIDIA Tensor
    发表于 11-21 18:18 156次阅读
    戴尔科技、慧与和联想即将<b class='flag-5'>推出</b> <b class='flag-5'>NVIDIA</b> 全新 <b class='flag-5'>AI</b> 以太网络平台

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的生成AI Foundry 服务

    AI Enterprise 软件进行部署 NVIDIA 于今日推出一项 AI foundry 服务,助力
    的头像 发表于 11-16 21:15 296次阅读

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的 生成AI Foundry 服务

    AI Enterprise 软件进行部署       Microsoft Ignite — 2023 年 11 月 15 日 — NVIDIA 于今日推出一项 AI foundry
    发表于 11-16 14:13 142次阅读
    <b class='flag-5'>NVIDIA</b> 在 Microsoft Azure 上<b class='flag-5'>推出</b>面向<b class='flag-5'>全球</b><b class='flag-5'>企业</b>和初创公司的 <b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> Foundry <b class='flag-5'>服务</b>

    SC23 | NVIDIA全球领先AI 计算平台 Hopper 再添新动力

    世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例。 11月13日,NVIDIA
    的头像 发表于 11-14 20:05 286次阅读
    SC23 | <b class='flag-5'>NVIDIA</b> 为<b class='flag-5'>全球</b><b class='flag-5'>领先</b>的 <b class='flag-5'>AI</b> 计算平台 Hopper 再添新动力

    NVIDIA全球领先AI 计算平台 Hopper 再添新动力

    世界顶级服务器制造商和云服务提供商即将推出 HGX H200 系统与云实例     丹佛 - SC23 - 太平洋 时间 2023 年 11
    发表于 11-14 14:30 112次阅读
    <b class='flag-5'>NVIDIA</b> 为<b class='flag-5'>全球</b><b class='flag-5'>领先</b>的 <b class='flag-5'>AI</b> 计算平台 Hopper 再添新动力

    AI智能呼叫中心

    对这些数据的深入分析,呼叫中心可以有效改进服务质量、优化流程并提升业绩,此外,AI智能呼叫中心还可以基于数据分析的结果,进行智能预测并制定更加科学的策略,
    发表于 09-20 17:53

    NVIDIA AI Enterprise 4.0 推出,助力企业构建生产就绪生成AI 为业务赋能

    时。NVIDIA 正在将专业知识投入到解决方案的开发过程中,助力企业实现这样的飞跃。 推出 NVIDIA AI Enterprise 4.0
    的头像 发表于 09-19 20:20 391次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Enterprise 4.0 <b class='flag-5'>推出</b>,助力<b class='flag-5'>企业</b>构建生产<b class='flag-5'>就绪</b>的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 为业务赋能

    SIGGRAPH 2023 | NVIDIA全球数据中心系统制造商大力推动 AI 与工业数字化的发展

    年 8 月 8 日 —   NVIDIA 宣布推出搭载全新 NVIDIA L40S GPU 的 NVIDIA OVX 服务器。这款功能强大
    的头像 发表于 08-09 19:10 284次阅读

    COMPUTEX2023 | NVIDIA MGX 为系统制造商提供模块化架构,以满足全球数据中心多样化加速计算需求

    多样化的加速计算需求,NVIDIA 今天在 COMPUTEX 发布了 NVIDIA MGX 服务器规范 。该规范为系统制造商提供了一个模块化参考架构,以快速、经济高效地
    的头像 发表于 05-30 01:40 642次阅读
    COMPUTEX2023 | <b class='flag-5'>NVIDIA</b> MGX 为<b class='flag-5'>系统制造商</b>提供模块化架构,以满足<b class='flag-5'>全球</b>数据中心多样化加速计算需求

    NVIDIA 与微软合作加速企业就绪生成AI

    就绪的平台,使全球 Azure 客户能够使用 NVIDIA AI Enterprise(NVIDIA
    的头像 发表于 05-25 09:15 376次阅读
    <b class='flag-5'>NVIDIA</b> 与微软合作加速<b class='flag-5'>企业</b><b class='flag-5'>就绪</b>的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b>