0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA AI Enterprise 4.0 推出,助力企业构建生产就绪的生成式 AI 为业务赋能

NVIDIA英伟达企业解决方案 来源:未知 2023-09-19 20:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

8060e548-56e6-11ee-939d-92fbcf53809c.gif

生成式 AI 已经跨越鸿沟并达到“ iPhone 时刻”,现在必须能够扩展以满足指数级增长的需求。可靠性和正常运行时间对于打造企业级生成式 AI 至关重要,尤其是当 AI 成为业务运转的核心时。NVIDIA 正在将专业知识投入到解决方案的开发过程中,助力企业实现这样的飞跃。

推出 NVIDIA AI Enterprise 4.0

最新版NVIDIA AI Enterprise助力利用生成式 AI 进行创新的企业加速开发,为企业提供生产就绪型支持、可管理性、安全性和可靠性。

使用 NVIDIA NeMo 快速大规模

训练、定制和部署大语言模型

生成式 AI 模型具有数十亿个参数,需要高效的数据训练管道。训练模型的复杂性、针对特定领域任务进行定制以及大规模部署模型都需要专业知识和计算资源。

NVIDIA AI Enterprise 4.0包括NVIDIA NeMo,这是一个端到端云原生框架,用于大规模数据管理、大语言模型的加速训练和定制,以及在用户首选平台上优化推理。从云到桌面工作站,NVIDIA NeMo 提供了一个简单易用的方案,并通过加速的基础设施实现性能优化,大幅缩短解决方案的开发时间,提高了投资回报率。

使用 AI 工作流更快地构建生成式 AI 应用

NVIDIA AI Enterprise 4.0引入了两种新的 AI 工作流,用于构建生成式 AI 应用:采用检索增强生成技术的 AI 聊天机器人和鱼叉式网络钓鱼检测。

生成式 AI 知识库聊天机器人工作流利用检索增强生成技术,能够加快基于专有数据进行调优的生成式 AI 聊天机器人的开发和部署。这些聊天机器人从公司的知识库中检索信息,并用自然语言生成实时回答,从而实现准确地回答特定领域的问题。它使用预训练的大语言模型、NeMo 、NVIDIA Triton 推理服务器,以及包括 Langchain 和矢量数据库在内的第三方工具来训练和部署知识库问答系统。

鱼叉式网络钓鱼检测 AI 工作流使用 NVIDIA Morpheus 和包含 NVIDIA NeMo 的生成式 AI 来训练一个模型,该模型在邮件进入收件箱之前就能检测到高达 90% 的鱼叉式网络钓鱼电子邮件。

防范鱼叉式网络钓鱼电子邮件是一大挑战。原因是鱼叉式网络钓鱼电子邮件与正常电子邮件难以区分,欺诈和合法电子邮件之间的唯一区别是发件人的意图。这也是为什么传统的鱼叉式网络钓鱼检测机制无法满足要求的原因。

随时随地开发 AI

企业采用 AI 可能需要更多熟练的 AI 开发者和数据科学家。组织将需要一个由优化的硬件和软件组成的灵活的高性能基础设施,以最大限度地提高生产力并加快 AI 开发。结合用于工作站的 NVIDIA RTX 6000 Ada 架构 GPU,NVIDIA AI Enterprise 4.0 为 AI 开发者提供了一个单独的平台,开发者可以在这个平台上开发 AI 应用并将其部署到生产中。

除了桌面工作站,NVIDIA 还为 AI 工作负载提供了完整的基础设施组合,包括 NVIDIA H100、L40S、L4 GPU,以及与 NVIDIA BlueField 数据处理单元的加速联网。通过HPE Machine Learning Data Management ( HPE 机器学习数据管理)、HPE Machine Learning Development Environment ( HPE 机器学习开发环境)、Ubuntu KVM 和 Nutanix AHV 虚拟化支持,组织可以使用本地基础设施来运行 AI 工作负载。

管理 AI 工作负载和基础设施

NVIDIA Triton Management Service 是 NVIDIA AI Enterprise 4.0 的独家补充,通过高效利用 GPU 资源的模型编排,可自动在 Kubernetes 中部署多个 Triton 推理服务器。通过从多个来源加载模型和分配计算资源,它简化了部署。Triton 管理服务可以在 NVIDIA LaunchPad 上试用。

NVIDIA AI Enterprise 4.0 还包括集群管理软件 NVIDIA Base Command Manager Essentials,用于简化集群配置、工作负载管理、基础设施监测和使用情况报告。通过动态扩展和基于策略的资源分配,它能够简化 AI 工作负载的管理和部署,同时确保集群的完整性。

新的 AI 软件、工具和预训练的基础模型

NVIDIA AI Enterprise 4.0 还提供更多的框架和工具以推进 AI 开发。NVIDIA Modulus 是一个用于通过简单的 Python 接口构建、训练和调优物理机器学习模型的框架。

通过 Modulus,用户可以利用 AI 增强工程模拟,并进行跨学科的企业级数字孪生应用建模,包括计算流体动力学(CFD)、结构力学和电磁学。Deep Graph Library 容器旨在实现和训练图神经网络,帮助科学家研究分子或金融服务的图结构,以检测欺诈。

最后,还有三个专有预训练基础模型,它们是 NVIDIA TAO 的一部分,能够加快视觉 AI 、缺陷检测和零售损失预防等行业应用投入生产所需的时间。

NVIDIA AI Enterprise 4.0是迄今为止对该平台最全面的升级。凭借企业级的安全性、稳定性、可管理性和支持,企业可以期待可靠的 AI 正常运行时间和不间断的 AI 卓越表现。

开始使用 NVIDIA AI Enterprise

快速使用NVIDIA AI Enterprise的三种方式:

  • 注册 NVIDIA LaunchPad,可在短期内访问试用实验室。

  • 注册现有本地或云基础设施的 90 天免费评估版。

  • 通过 NVIDIA 合作伙伴网络或包括 AWS、Microsoft Azure 和谷歌云在内的大型云服务提供商购买。

NVIDIA AI Enterprise 90 天评估版现已推出。点击“阅读原文”,通过访问 NGC,即可获取免费试用。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。扫描下方海报二维码,关注更多会议及活动信息。

80748878-56e6-11ee-939d-92fbcf53809c.jpg


原文标题:NVIDIA AI Enterprise 4.0 推出,助力企业构建生产就绪的生成式 AI 为业务赋能

文章出处:【微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4047

    浏览量

    97762

原文标题:NVIDIA AI Enterprise 4.0 推出,助力企业构建生产就绪的生成式 AI 为业务赋能

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    生成AI虚拟调试——fe.screen-sim的架构价值

    生成AI虚拟调试——fe.screen-sim的架构价值
    的头像 发表于 12-04 14:59 627次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b>虚拟调试——fe.screen-sim的架构价值

    NVIDIA AI技术助力欧洲医疗健康行业发展

    构建全球规模最大的生物多样性数据库,到打造罕见病研究的 AI 工厂,NVIDIAAI
    的头像 发表于 06-19 14:40 3191次阅读

    SAP与亚马逊云科技推出AI联合创新计划,打造生成AI解决方案,助力客户应对市场波动与供应链复杂性

    北京 2025年5月26日 /美通社/ -- 在SAP蓝宝石大会上,亚马逊云科技与SAP宣布启动全新的AI联合创新计划,帮助合作伙伴构建生成AI
    的头像 发表于 05-26 16:54 444次阅读

    SAP与亚马逊云科技推出AI联合创新计划,打造生成AI解决方案, 助力客户应对市场波动与供应链复杂性

    北京 ——2025 年 5 月 26 日 在SAP蓝宝石大会上,亚马逊云科技与SAP宣布启动全新的AI联合创新计划,帮助合作伙伴构建生成AI
    发表于 05-26 11:44 1102次阅读

    NVIDIA助力安利生成AI在效能和安全上破局

    依托 NVIDIA AI Enterprise 企业级解决方案,安利正在构建安全、高效、可扩展的 AI
    的头像 发表于 05-10 09:28 1079次阅读

    NVIDIA AI Enterprise助力AI智能体重构工作模式

    无论是为人道主义援助、客户服务还是医疗健康而开发,基于NVIDIA AI Enterprise软件平台构建AI 智能体构成了新型数字劳动
    的头像 发表于 03-25 14:59 850次阅读

    英伟达GTC2025亮点:Oracle与NVIDIA合作助力企业加速代理式AI推理

    基础设施以及生成 AI 服务首次实现集成,以帮助全球企业组织加速创建代理式 AI 应用。 此次 Oracle Cloud Infrast
    的头像 发表于 03-21 12:01 1209次阅读
    英伟达GTC2025亮点:Oracle与<b class='flag-5'>NVIDIA</b>合作<b class='flag-5'>助力</b><b class='flag-5'>企业</b>加速代理式<b class='flag-5'>AI</b>推理

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入开发

    助力 AI、智能制造和物联网行业的发展。未来,Banana Pi 将继续深化与Renesas的技术合作,推动更多高性能嵌入解决方案的落地。 ” BPI-AI2N开发板
    发表于 03-19 17:54

    Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成
    发表于 03-19 15:24 475次阅读
    Oracle 与 <b class='flag-5'>NVIDIA</b> 合作<b class='flag-5'>助力</b><b class='flag-5'>企业</b>加速代理式 <b class='flag-5'>AI</b> 推理

    NVIDIA 与行业领先的存储企业共同推出面向 AI 时代的新型企业基础设施

    存储提供商构建搭载 AI 查询智能体的基础设施,利用 NVIDIA 计算、网络和软件,针对复杂查询进行推理并快速生成准确响应   美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间
    发表于 03-19 10:11 421次阅读
    <b class='flag-5'>NVIDIA</b> 与行业领先的存储<b class='flag-5'>企业</b>共同<b class='flag-5'>推出</b>面向 <b class='flag-5'>AI</b> 时代的新型<b class='flag-5'>企业</b>基础设施

    NVIDIA 推出开放推理 AI 模型系列,助力开发者和企业构建代理式 AI 平台

    月 18 日 ——  NVIDIA 今日发布具有推理功能的开源 Llama Nemotron 模型系列,旨在为开发者和企业提供业务就绪型基础,助力
    发表于 03-19 09:31 338次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>推出</b>开放推理 <b class='flag-5'>AI</b> 模型系列,<b class='flag-5'>助力</b>开发者和<b class='flag-5'>企业</b><b class='flag-5'>构建</b>代理式 <b class='flag-5'>AI</b> 平台

    富士通如何解锁生成AI红利 从人才进化到业务

    正面临一道必答题:您准备好驾驭这场生产力革命了吗? 生成AI有望带来巨大的经济价值。然而现实当中,许多企业陷入“工具先行,人才掉队”的困境
    的头像 发表于 02-25 17:32 1101次阅读

    聚云科技荣获亚马逊云科技生成AI能力认证 助力企业加速生成AI应用落地

    、数据处理、模型调优到应用集成与部署等方面,助力企业加速生成AI应用落地。此外,聚云科技还基于亚马逊云科技打造RAGPro
    发表于 02-14 13:41 331次阅读

    NVIDIA推出多个生成AI模型和蓝图

    NVIDIA 宣布推出多个生成 AI 模型和蓝图,将 NVIDIA Omniverse 一体化
    的头像 发表于 01-08 10:48 1054次阅读

    NVIDIA 推出高性价比的生成 AI 超级计算机

    Jetson Orin Nano Super 可将生成 AI 性能提升至1.7 倍,支持科技爱好者、开发者和学生使用的主流模型。     NVIDIA
    发表于 12-18 17:01 955次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>推出</b>高性价比的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 超级计算机