0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

NVIDIA英伟达 来源:未知 2023-08-23 19:10 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

戴尔科技、慧与和联想即将推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服务器,以支持 VMware Private AI Foundation with NVIDIA

拉斯维加斯 — VMware Explore — 太平洋时间 2023 年 8 月 22 日 — NVIDIA 宣布,全球领先的系统制造商将推出 AI 就绪型服务器,其支持同发布的 VMware Private AI Foundation with NVIDIA,帮助企业使用自有业务数据来定制和部署生成式 AI 应用。

NVIDIA AI 就绪型服务器将采用 NVIDIA L40S GPUNVIDIA BlueField-3 DPUNVIDIA AI Enterprise 软件使企业能够微调生成式 AI 基础模型并部署生成式 AI 应用,比如智能聊天机器人、搜索和摘要工具等。这些服务器还提供由 NVIDIA 加速的基础设施和软件,以支持 VMware Private AI Foundation with NVIDIA。

作为全球领先的系统制造商的戴尔科技、慧与和联想,将于年底前推出搭载 NVIDIA L40S 的服务器,以加速推进企业级 AI 的发展。

NVIDIA 创始人兼首席执行官黄仁勋表示:“全新的计算时代已经来临,各行各业的企业都在竞相采用生成式 AI。我们正在通过涵盖全球顶尖软件和系统合作伙伴的生态系统,将生成式 AI 带给全球企业。”

对于将部署 VMware Private AI Foundation with NVIDIA 的企业来说,NVIDIA AI 就绪型服务器是一个理想的平台。

VMware 首席执行官 Raghu Raghuram 表示:“生成式 AI 正在大力推动数字化转型进程,企业需要一种全面集成的解决方案,以更加安全地构建应用,从而推动业务发展。通过 VMware、NVIDIA、以及我们服务器制造商合作伙伴的专业知识相结合,企业将能够在确保数据隐私、安全和可控性的前提下开发和部署 AI。”

助推企业生成式 AI 转型

各行各业正在竞相将生成式 AI 用于药物研发、零售产品描述、智能虚拟助手、制造模拟、欺诈检测等各种用途,NVIDIA AI 就绪型服务器将为这些行业提供全栈加速基础设施和软件。

这些服务器采用 NVIDIA AI Enterprise,即 NVIDIA AI 平台的操作系统。该软件为 100 多个框架、预训练模型、工具套件和软件提供生产就绪型企业级支持和安全性,包括用于 LLM 的 NVIDIA NeMo、用于模拟的 NVIDIA Modulus、用于数据科学的 NVIDIA RAPIDS 和用于生产型 AI 的 NVIDIA Triton 推理服务器

专为处理包含数十亿参数的复杂 AI 工作负载而打造的 L40S GPU 搭载第四代 Tensor Core 和 FP8 Transformer 引擎,可提供超 1.45 PFLOPS 的张量处理能力,其训练性能是 NVIDIA A100 Tensor Core GPU 的 1.7 倍。

相较于 NVIDIA A100 GPU,NVIDIA L40S 可将智能聊天机器人、助手、搜索和摘要等生成式 AI 应用中的生成式 AI 推理性能提高 1.2 倍。

通过集成 NVIDIA BlueField DPU,可加速、卸载和隔离巨大计算工作负载,其中包含虚拟化、网络、存储、安全,以及其他云原生 AI 服务,以进一步提高速度。

NVIDIA ConnectX-7 智能网卡提供先进的硬件卸载和超低延迟,可为数据密集型生成式 AI 工作负载提供同类领先的可扩展性能。

推动企业生成式 AI 部署的庞大生态系统

全球领先的计算机制造商正在构建 NVIDIA AI 就绪型服务器,包括戴尔 PowerEdge R760xa、适用于 VMware Private AI Foundation with NVIDIA 的慧与 ProLiant Gen11 服务器以及联想 ThinkSystem SR675 V3。

戴尔科技主席兼首席执行官 Michael Dell 表示:“生成式 AI 是创新的‘催化剂’,将助力解决一些全球性的重大挑战。而采用 NVIDIA AI 就绪型服务器的戴尔生成式 AI 解决方案将扮演至关重要的角色,即通过推动生产力水平实现前所未有的提升,并变革工业运营的方式,以加速人类的进程。”

慧与总裁兼首席执行官 Antonio Neri 表示:“生成式 AI 将推动企业生产力规模的全新扩展 —— 从赋能聊天机器人和数字助理,到帮助设计和开发新的解决方案。我们很高兴能继续与 NVIDIA 密切合作,在一系列企业级调优和推理工作负载解决方案中采用 NVIDIA 的 GPU 和软件,这将加速生成式 AI 的部署。”

联想集团主席兼首席执行官杨元庆表示:“企业迫切希望采用生成式 AI 来推动智能化转型。通过与 NVIDIA 和 VMware 合作,联想正在进一步扩大自身在生成式 AI 领域的领先地位,并巩固自身的独特定位,即在客户采用 AI 的旅程中为其提供帮助。”

供应情况

搭载 L40S GPU 和 BlueField DPU 的 NVIDIA AI 就绪型服务器将于年底前上市,云服务提供商预计将在未来几个月提供实例。

GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击“阅读原文”扫描下方海报二维码,关注更多会议及活动信息。


原文标题:全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    23

    文章

    4112

    浏览量

    99597

原文标题:全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Supermicro率先发布NVIDIA BlueField-4 STX存储服务器提升AI推理性能

      Supermicro凭借其基于NVIDIA STX AI存储参考架构打造的上下文内存(CMX)存储服务器,进一步彰显其行业领先地位。 BlueField-4 STX存储
    的头像 发表于 03-19 15:46 168次阅读
    Supermicro率先发布<b class='flag-5'>NVIDIA</b> BlueField-4 STX存储<b class='flag-5'>服务器</b>,<b class='flag-5'>提升</b><b class='flag-5'>AI</b>推理<b class='flag-5'>性能</b>

    嵌入AI开发必看:杜绝幻觉,才是工业级IDE的核心底气

    AI浪潮正在重塑嵌入开发范式,代码生成效率大幅提升的同时,“AI幻觉”问题却成为工业场景落地的
    发表于 03-18 13:49

    全球首创!RISC-V+AI架构高性能服务器CPU成功点亮

    自主研发、全球首创的RISC-V+AI融合架构智算服务器CPU已顺利完成芯片点亮,并成功启动Linux操作系统。本次芯片点亮是蓝芯算力和联想CFC团队联合技术攻关的成果。   蓝芯算力
    的头像 发表于 02-28 09:22 6609次阅读

    利用BigQuery MCP服务器开发面向数据分析的生成AI应用

    AI 智能体接入企业数据,其实不需要复杂的自定义集成或耗费数周开发。12 月,我们推出了面向 Google 服务的全托管远程 Mode
    的头像 发表于 02-25 10:22 432次阅读
    利用BigQuery MCP<b class='flag-5'>服务器</b>开发面向数据分析的<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>应用

    AFM Microelectronics射频微波MLCC领军制造商

    AFM Microelectronics射频微波MLCC领军制造商AFM Microelectronics是一家位于美国加利福尼亚州圣地亚哥的知名多层陶瓷电容器(MLCC)制造商,专注于射频(RF
    发表于 01-12 09:00

    睿海光电800G光模块助力全球AI基建升级

    测试。 四、合作案例:赋能全球头部客户AI与云计算升级 睿海光电的解决方案已深入多个行业标杆场景: 数据中心互联:东南亚某顶级IDC服务商部署800G SR8硅光模块,单机架带宽
    发表于 08-13 19:05

    加速AI未来,睿海光电800G OSFP光模块重构数据中心互联标准

    在人工智能算力需求呈指数级增长的2025年,数据传输效率已成为制约AI发展的关键瓶颈。作为全球AI光模块领域的标杆企业,深圳市睿海光电凭借技术领先
    发表于 08-13 16:38

    NVIDIA通过全新 Omniverse库、Cosmos物理AI模型及AI计算基础设施,机器人领域开启新篇章

    Gaussian Splatting(3DGS)库支持大规模世界重建 · 全新 NVIDIA Cosmos 模型支持世界生成与空间推理 · 全新 NVIDIA RTX PRO Blackwell
    的头像 发表于 08-12 11:29 1971次阅读
    <b class='flag-5'>NVIDIA</b>通过全新 Omniverse库、Cosmos物理<b class='flag-5'>AI</b>模型及<b class='flag-5'>AI</b>计算基础设施,<b class='flag-5'>为</b>机器人领域开启新篇章

    TE推出SILVER 跨接连接,您了解吗?-赫联电子

      全球连接与传感领域领军企业TE Connectivity (TE) 针对 SFF-TA-1002 推出的行业领先的 Sliver 跨接
    发表于 06-30 10:01

    全球各大品牌利用NVIDIA AI技术提升运营效率

    欧莱雅、LVMH 集团和雀巢利用 NVIDIA 加速的智能体 AI 和物理 AI大幅提升产品设计、营销及物流等方面的运营效率。
    的头像 发表于 06-19 14:36 1340次阅读

    NVIDIA计划打造全球首个工业AI云平台

    NVIDIA 宣布,其正在为欧洲制造商构建全球首个工业 AI 云。这家总部位于德国的 AI 工厂将配备 1 万个 GPU,包括通过
    的头像 发表于 06-16 14:17 1601次阅读

    Dify携手亚马逊云科技加速全球企业生成AI应用规模化落地

    科技遍布全球的基础设施与亚马逊云科技Marketplace,Dify将产品迅速推广至全球汽车、制造、零售快消、医疗健康和游戏等多个行业逾百家企业
    的头像 发表于 06-07 16:00 1000次阅读

    Jupiter Microwave:微波频段通信波导组件领域的领军制造商

    Jupiter Microwave:微波频段通信波导组件领域的领军制造商Jupiter Microwave 是一家专注于微波频段通信系统中波导组件制造领先
    发表于 05-30 09:22

    RAKsmart服务器如何助力企业破解AI转型的难题

    当今,企业AI转型已成为提升竞争力的核心战略。然而,算力不足、成本失控、部署复杂等问题却成为横亘在转型路上的“三座大山”。面对这一挑战,RAKsmart服务器凭借其技术创新与
    的头像 发表于 05-27 10:00 538次阅读

    NVIDIA发布AI优先DGX个人计算系统

    NVIDIA 宣布,多家行业领先系统制造商将打造 NVIDIA DGX Spark。
    的头像 发表于 05-22 09:39 1244次阅读