0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

VMware 与 NVIDIA 为企业开启生成式 AI 时代

NVIDIA英伟达 来源:未知 2023-08-23 19:10 次阅读

全新 VMware Private AI Foundation With NVIDIA 帮助企业为生成式 AI 在业务中的应用做好准备;该平台将在数据隐私性、安全性和可控性方面提供进一步支持

wKgaomToSVOAMzbiAABx-_e1Wvg287.png

拉斯维加斯 — VMware Explore — 太平洋时间 2023 年 8 月 22 日 — VMware(NYSE:VMW)和 NVIDIA(NASDAQ:NVDA)于今日宣布扩展双方的战略合作伙伴关系,帮助数十万家使用 VMware 云基础架构的企业做好准备,迎接AI时代的到来。

VMware Private AI Foundation with NVIDIA 将使企业能够自定义模型并运行各种生成式 AI 应用,如智能聊天机器人、助手、搜索和摘要等。该平台将作为全集成式解决方案,采用 NVIDIA 提供的生成式 AI 软件和加速计算,基于 VMware Cloud Foundation 构建,并针对 AI 进行了优化。

VMware 首席执行官 Raghu Raghuram 表示:“生成式 AI 与多云可谓珠联璧合。客户的数据无处不在,遍布其数据中心、边缘、云等多处。我们将与 NVIDIA 一同助力企业放心地在数据附近运行生成式 AI 工作负载,并解决其在企业数据隐私、安全和控制方面的问题。”

NVIDIA 创始人兼首席执行官黄仁勋表示:“世界各地的企业都在竞相将生成式 AI 整合到自身业务中。通过与 VMware 扩大合作,我们将能够为金融服务、医疗、制造等领域的数十万家客户提供其所需的全栈式软件和计算,使其能够使用基于自身数据定制的应用,充分挖掘生成式 AI 的潜力。”

全栈式计算大幅提升生成式 AI 的性能

为更快实现业务效益,企业希望简化并提高生成式 AI 应用的开发、测试和部署效率。根据麦肯锡的预测,生成式 AI 每年可为全球经济带来多达 4.4 万亿美元的增长。

VMware Private AI Foundation with NVIDIA 将助力企业充分利用这一能力,以定制大语言模型,创建供内部使用的更加安全的私有模型,将生成式 AI 作为一项服务提供给用户,并更加安全地大规模运行推理工作负载。

该平台计划提供的各种集成式 AI 工具,将帮助企业经济高效地运行使用其私有数据训练而成的成熟模型。这一建立在 VMware Cloud FoundationNVIDIA AI Enterprise 软件上的平台预计能够提供以下方面的优势:

  • 隐私:将通过能够保护数据隐私并确保访问安全的架构,使客户能够在任何数据所在地轻松运行 AI 服务。

  • 选择:从 NVIDIA NeMo 到 Llama 2 等,企业在构建和运行其模型的位置上,将拥有广泛的选择空间,包括领先的 OEM 硬件配置以及未来的公有云和服务提供商解决方案。

  • 性能:近期的行业基准测试表明,某些用例在 NVIDIA 加速基础设施上运行的性能与裸机性能相当,甚至超过了裸机性能。

  • 数据中心规模:虚拟化环境中的 GPU 扩展优化使 AI 工作负载能够在单个虚拟机和多个节点上扩展到最多 16 颗 vGPU/GPU,从而加快生成式 AI 模型的微调和部署速度。

  • 更低的成本:将最大程度地利用 GPU、DPU 和 CPU 的所有计算资源以降低总体成本,并创建可在各个团队间高效共享的池化资源环境。

  • 加速存储:VMware vSAN Express Storage Architecture 提供性能经过优化的 NVMe 存储,并支持通过 RDMA 实现 GPUDirect 存储,从而无需 CPU 即可实现从存储到 GPU 的直接 I/O 传输。

  • 加速网络vSphere 与 NVIDIA NVSwitch 技术之间的深度集成将进一步确保多 GPU 模型的执行不会出现 GPU 间瓶颈问题。

  • 快速部署和价值实现时间:vSphere Deep Learning VM 镜像和镜像库将提供稳定的统包解决方案镜像,该镜像预先安装了各种框架和性能经过优化的库,可实现快速原型开发。

该平台将采用的 NVIDIA NeMo 是 NVIDIA AI Enterprise(NVIDIA AI 平台的操作系统)中包含的端到端云原生框架,可助力企业在几乎任何地点构建、自定义和部署生成式 AI 模型。NeMo 集自定义框架、护栏工具包、数据整理工具和预训练模型于一身,使企业能够以一种简单、经济且快速的方式来采用生成式 AI。

为将生成式 AI 部署到生产中,NeMo 使用 TensorRT for Large Language Models(TRT-LLM),以加速并优化 NVIDIA GPU 上最新 LLM 的推理性能。通过 NeMo,VMware Private AI Foundation with NVIDIA 将使企业能够导入自己的数据,并在 VMware 混合云基础架构上构建和运行自定义生成式 AI 模型。

在 VMware Explore 2023 大会上,NVIDIA 与 VMware 重点介绍了企业内部的开发人员如何使用全新 NVIDIA AI Workbench 提取社区模型(例如 Hugging Face 上提供的 Llama 2),对这些模型进行远程自定义并在 VMware 环境中部署生产级生成式 AI。

生态圈对 VMware Private AI Foundation With NVIDIA 的广泛支持

VMware Private AI Foundation with NVIDIA 将得到戴尔、慧与和联想的支持。这三家企业将率先提供搭载 NVIDIA L40S GPUNVIDIA BlueField-3 DPUNVIDIA ConnectX-7 智能网卡的系统,这些系统将加速企业 LLM 定制和推理工作负载。

相较于 NVIDIA A100 Tensor Core GPU,NVIDIA L40S GPU 可将生成式 AI 的推理性能和训练性能分别提高 1.2 倍和 1.7 倍。

NVIDIA BlueField-3 DPU 可加速、卸载和隔离 GPU 或 CPU 上的巨大计算工作负载,其中包含虚拟化、网络、存储、安全,以及其他云原生 AI 服务。

NVIDIA ConnectX-7 智能网卡可为数据中心基础设施提供智能、加速网络,以承载全球一些要求严苛的 AI 工作负载。

VMware Private AI Foundation with NVIDIA 建立在两家公司长达十年的合作基础之上。双方的联合研发成果优化了 VMware 的云基础架构,使其能够以媲美裸机的性能运行 NVIDIA AI Enterprise。VMware Cloud Foundation 所提供的资源及基础架构管理与灵活性将进一步惠及双方共同的客户。

供应情况

VMware 计划于 2024 年初发布 VMware Private AI Foundation with NVIDIA。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击“阅读原文”扫描下方海报二维码,关注更多会议及活动信息


原文标题:VMware 与 NVIDIA 为企业开启生成式 AI 时代

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    21

    文章

    3059

    浏览量

    87040

原文标题:VMware 与 NVIDIA 为企业开启生成式 AI 时代

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA生成AI开启药物研发与设计的新纪元

    NVIDIA BioNeMo 现已提供十余个生成AI 模型以及云服务,正在推动计算机辅助药物发现生态系统的发展。
    的头像 发表于 01-10 16:00 201次阅读
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>生成</b>式<b class='flag-5'>AI</b><b class='flag-5'>开启</b>药物研发与设计的新纪元

    NVIDIA 通过企业生成AI 微服务为聊天机器人、AI 助手和摘要工具带来商业智能

    微服务,支持企业将自定义大语言模型与企业数据相连接,使其 AI 应用能够提供高度准确的响应。 NVIDIA NeMo Retriever 是 NV
    的头像 发表于 11-29 21:05 316次阅读

    NVIDIA 通过企业生成AI 微服务 为聊天机器人、AI 助手和摘要工具带来商业智能

    — 太平洋时间 2023 年 11 月 28 日 — NVIDIA 今日宣布推出一项生成AI 微服务,支持企业将自定义大语言模型与企业
    发表于 11-29 14:37 113次阅读
    <b class='flag-5'>NVIDIA</b> 通过<b class='flag-5'>企业</b>级<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 微服务 为聊天机器人、<b class='flag-5'>AI</b> 助手和摘要工具带来商业智能

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的生成AI Foundry 服务

    AI Enterprise 软件进行部署 NVIDIA 于今日推出一项 AI foundry 服务,助力企业和初创公司在 Microsoft Azure 上开发、调优和部署其自定义
    的头像 发表于 11-16 21:15 251次阅读

    NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的 生成AI Foundry 服务

    Models、NVIDIA NeMo™ 框架和工具,以及 NVIDIA DGX™ 云 AI 超算服务三大要素,为企业提供创建自定义生成
    发表于 11-16 14:13 103次阅读
    <b class='flag-5'>NVIDIA</b> 在 Microsoft Azure 上推出面向全球<b class='flag-5'>企业</b>和初创公司的 <b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> Foundry 服务

    利用 NVIDIA Jetson 实现生成AI

    近日,NVIDIA 发布了 Jetson 生成AI 实验室(Jetson Generative AI Lab),使开发者能够通过 NVIDIA
    的头像 发表于 11-07 21:25 342次阅读
    利用 <b class='flag-5'>NVIDIA</b> Jetson 实现<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b>

    NVIDIA AI Enterprise 4.0 推出,助力企业构建生产就绪的生成AI 为业务赋能

    时。NVIDIA 正在将专业知识投入到解决方案的开发过程中,助力企业实现这样的飞跃。 推出 NVIDIA AI Enterprise 4.0 最新版 
    的头像 发表于 09-19 20:20 350次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Enterprise 4.0 推出,助力<b class='flag-5'>企业</b>构建生产就绪的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 为业务赋能

    全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成AI 性能

    Private AI Foundation with NVIDIA ,帮助企业使用自有业务数据来定制和部署生成AI 应用。
    的头像 发表于 08-23 19:10 332次阅读

    七夕遇见 AI:观看黄仁勋在 VMware Explore 2023 的现场演讲

    可让您在混合平台上轻松灵活地运行业务应用程序。加入我们,了解 NVIDIAVMware 如何帮助您的组织采用生成AI 并为您的企业
    的头像 发表于 08-22 19:25 554次阅读
    七夕遇见 <b class='flag-5'>AI</b>:观看黄仁勋在 <b class='flag-5'>VMware</b> Explore 2023 的现场演讲

    七夕遇见 AI:观看黄仁勋在 VMware Explore 2023 的现场演讲(互动有礼)

    可让您在混合平台上轻松灵活地运行业务应用程序。加入我们,了解 NVIDIAVMware 如何帮助您的组织采用生成AI 并为您的企业
    的头像 发表于 08-22 19:20 472次阅读

    SIGGRAPH 2023 | NVIDIA AI Workbench 助力全球企业加速采用自定义生成AI

    从 PC 和工作站到企业数据中心、公有云和 NVIDIA DGX 云,新推出的开发者套件在 NVIDIA AI 平台上引入了简化的模型优化与部署。 洛杉矶 — SIGGRAPH — 太
    的头像 发表于 08-09 19:10 237次阅读

    ServiceNow、NVIDIA 和埃森哲携手合作,助力企业加快采用生成AI

    (NYSE: ACN)近日宣布推出 AI 灯塔计划。这个业界首创的计划旨在快速推进企业生成AI 功能的开发和采用。 在 ServiceNow、
    的头像 发表于 07-31 20:40 422次阅读
    ServiceNow、<b class='flag-5'>NVIDIA</b> 和埃森哲携手合作,助力<b class='flag-5'>企业</b>加快采用<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b>

    NVIDIA CEO 黄仁勋与欧洲生成AI 初创企业高管探讨成功之道

    在柏林举行的 NVIDIA AI 生态系统招待会上,NVIDIA 创始人兼首席执行官黄仁勋与创业者们探讨了新机遇及气候科学等问题。 上周,三家知名的欧洲生成
    的头像 发表于 07-13 21:15 344次阅读
    <b class='flag-5'>NVIDIA</b> CEO 黄仁勋与欧洲<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 初创<b class='flag-5'>企业</b>高管探讨成功之道

    NVIDIA 与微软合作加速企业就绪的生成AI

    年 5 月 23 日——  NVIDIA 今天宣布将 NVIDIA AI Enterprise 软件套件 集成到微软的 Azure 机器学习中,以帮助企业加速推进
    的头像 发表于 05-25 09:15 326次阅读
    <b class='flag-5'>NVIDIA</b> 与微软合作加速<b class='flag-5'>企业</b>就绪的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b>

    ServiceNow与NVIDIA宣布联合打造面向企业IT的生成AI

    2023年5月17日 - ServiceNow和NVIDIA今日宣布达成合作伙伴关系,将共同开发强大的企业生成AI功能,通过实现更快、更智能的工作流自动化来转变业务流程。
    的头像 发表于 05-19 18:06 1730次阅读
    ServiceNow与<b class='flag-5'>NVIDIA</b>宣布联合打造面向<b class='flag-5'>企业</b>IT的<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>