0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA 为 1 亿台 Windows RTX PC 和工作站提供全新生成式 AI 功能与突破性性能

NVIDIA英伟达 来源:未知 2023-05-31 03:50 次阅读

搭载 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的开发与部署;即将推出的 Max-Q 低功耗 AI 推理将提高能效比。

生成式 AI 正在迅速开创一个计算的新时代,为生产力、内容创作、游戏等多领域带来了变革。NVIDIA NeMo 和 DLSS 3 帧生成技术、Meta LLaMa、ChatGPT、Adobe Firefly、Stable Diffusion 等生成式 AI 模型和应用能够使用神经网络来识别现有数据中的模式和结构,以此生成新的原创内容。

专为 GeForce RTX 和 NVIDIA RTX GPU 优化的生成式 AI 模型具有高达 1,400 Tensor TFLOP 的 AI 推理性能,运行速度比同类其他设备快 5 倍。这要得益于 RTX GPU 中用于加速 AI 计算的专用硬件 Tensor Cores以及常规的软件改进。上周在 Microsoft Build 大会上发布的增强功能等软件方面的改进使得像 Stable Diffusion 这样充分利用新的 DirectML 优化功能的生成式 AI 模型性能翻倍。

随着越来越多的 AI 推理在本地设备上运行,PC 将需要强大而高效的硬件以支持这些复杂的任务。为了满足这一需求,RTX GPU 将添加用于 AI 工作负载的 Max-Q 低功耗推理。在执行轻量级的推理任务时,GPU 将以极低的功耗运行,而在运行繁重负载如生成式 AI 工作时,则可升至极高的性能水平。

为了创建新的 AI 应用,在 Windows 11 上运行的整个 RTX 加速 AI 开发堆栈现已向开发者开放,使 AI 模型的开发、训练和部署变得更容易。开发者首先会通过Windows Subsystem for Linux(WSL)上经过优化的深度学习框架开发和微调模型。

然后开发者可以无缝上云并在各个主要云服务商(CSP)提供的相同 NVIDIA AI 堆栈上进行训练。接下来,开发者使用全新 Microsoft Olive 等工具优化训练好的模型以实现快速推理,最后面向专为 AI 优化的系统的 1 亿多 RTX PC 和工作站部署 AI 应用和功能。

微软 Windows 芯片和系统集成副总裁 Pavan Davuluri 表示:“未来几年,AI 将成为推动 Windows 客户创新的最大驱动力。我们正在与 NVIDIA 开展软硬件优化方面的合作,以此为开发者提供变革性的、高性能的、易于部署的体验。”

迄今为止,超过 400 款已发布的应用和游戏由 RTX AI 提供加速,该阵容还在持续壮大中。

在拉开了 Computex 2023 序幕的主题演讲中,NVIDIA 创始人兼首席执行官黄仁勋介绍了用于游戏开发的新生成式 AI——NVIDIA ACE 游戏开发版(NVIDIA Avatar Cloud Engine (ACE) for Games)。

通过 AI 驱动的自然语言互动,这项自定义 AI 模型代工服务使游戏中的非玩家角色(NPC)更加智能,从而彻底改变游戏体验。中间件、工具和游戏开发者可以使用 “ACE 游戏开发版(ACE for Games)” 在他们的软件和游戏中建立并部署定制化的语音、对话和动画 AI 模型。

在 RTX 上运行的生成式 AI 无处不在

从服务器到云,再到设备,在 RTX GPU 上运行的生成式 AI 无处不在。NVIDIA 的加速 AI 计算具有低时延、全栈式的特点。多年来,我们一直在优化 AI 软硬件架构的各个部分,包括 RTX GPU 上的专用 AI 硬件——第四代 Tensor Core。

通过对驱动的定期优化,能够确保峰值性能。最新 NVIDIA 驱动在与经 Olive 优化的模型和 DirectML 更新结合后,能够在 Windows 11 上大幅提升开发者的速度。例如在 Stable Diffusion 中,使用 DirectML 优化路径的开发者将干扰时间缩短了两倍。

借助基于 NVIDIA Ada Lovelace 架构打造的最新一代 RTX 笔记本电脑和移动工作站,用户可以在任何地方运行生成式 AI。新一代移动平台的外形尺寸只有 14 英寸,重量仅为 3 磅左右,将性能和便携性提升至新高。戴尔、惠普、联想、华硕等制造商正在 RTX GPU 和 Tensor Cores 的支持下,推动生成式 AI 时代的发展。

  • “随着各个行业继续部署 AI,预计到 2030 年,AI 需求的年增长率将超过 37%,企业和消费者将越来越需要合适的技术以实现 AI 的开发和落地,比如生成式 AI 等。多年来,联想一直致力于开发适用于 AI 工作负载的产品和解决方案,进而助力扩展生成式 AI 的应用范围——从设备到服务器、再到云。联想 ThinkPad、ThinkStation、ThinkBook、Yoga、Legion 和 LOQ 等搭载 NVIDIA RTX GPU 的 PC 正在推动生成式 AI 的变革浪潮,在节省时间、创作内容、完成工作和游戏等方面提供更好的用户体验。”

    ——联想副总裁兼 PC 业务和智能设备首席技术官 Daryl Cromer

  • “生成式 AI 是一项革命性的技术,同时也是促进各个行业未来创新的催化剂。惠普与 NVIDIA 共同为开发者提供卓越的性能、移动性以及运行当前加速 AI 模型所需的可靠性,推动全新生成式 AI 时代的发展。”

    ——惠普高级副总裁兼 Z 系列总经理 Jim Nottingham

  • “我们近期与 NVIDIA 围绕 Project Helix 的合作重点是助力企业更轻松地在本地构建和部署值得信赖的生成式 AI。在这个历史性时刻,我们进一步将生成式 AI 引入 PC 。想象一下,应用开发者能够在完善神经网络算法的同时,在本地控制训练数据和 IP。正是为了实现这个目标,我们设计了搭载 NVIDIA RTX GPU 的强大、可扩展 Precision 工作站。作为工作站领域的全球领导者,戴尔在帮助用户安全加速从边缘到数据中心的 AI 应用方面具有独特的优势。”

    ——戴尔科技客户产品部总裁 Ed Ward

  • “生成式 AI 的时代正在到来,因此需要强大的处理能力和经过全面优化的软硬件。借助 NVIDIA AI 平台,包括现在已经预装到我们许多产品上的 NVIDIA Omniverse,我们十分高兴能看到 AI 的变革在华硕和 ROG 笔记本电脑上持续不断地推动着。”

    ——华硕全球消费业务市场总监 Galip Fu

很快,搭载 RTX GPU 的笔记本电脑和移动工作站就将做到“两全其美”。纯 AI 推理工作负载将根据 Tensor Core 的性能进行优化,同时尽可能降低 GPU 的功耗,延长电池续航时间,并保持系统拥有出色的散热和降噪表现。GPU 还可根据工作负载的需要,动态提升至最高 AI 性能。

开发者可以访问面向加速应用开发者的 NVIDIA AI 网页(访问地址:https://developer.nvidia.cn/ai-for-creative-applications),了解如何对应用进行端到端优化,以充分利用 GPU 加速。

点击 “阅读原文”,或扫描下方海报二维码观看 NVIDIA 创始人兼 CEO 黄仁勋为 COMPUTEX 2023 带来的主题演讲直播回放,了解AI、图形及其他领域的最新进展!


原文标题:NVIDIA 为 1 亿台 Windows RTX PC 和工作站提供全新生成式 AI 功能与突破性性能

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 英伟达
    +关注

    关注

    22

    文章

    3329

    浏览量

    87772

原文标题:NVIDIA 为 1 亿台 Windows RTX PC 和工作站提供全新生成式 AI 功能与突破性性能

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    NVIDIA推出两款基于NVIDIA Ampere架构的全新台式机GPU

    两款 NVIDIA Ampere 架构 GPU 为工作站带来实时光线追踪功能生成AI 工具支持。
    的头像 发表于 04-26 11:25 145次阅读

    全新NVIDIA RTX A400和A1000 GPU全面加强AI设计与生产力工作

    两款 NVIDIA Ampere 架构 GPU 为工作站带来实时光线追踪功能生成AI 工具支持。
    的头像 发表于 04-18 10:29 149次阅读

    NVIDIA Edify为视觉内容提供商带来3D生成AI全新图像控件

    用于视觉生成AI 的多模态架构 NVIDIA Edify 正在迈入全新维度。
    的头像 发表于 03-26 09:49 319次阅读

    NVIDIA展示游戏、创作、生成AI和机器人领域的创新成果

    NVIDIA CES 2024 特别演讲亮点 - 全新 GeForce RTX 40 SUPER GPU,RTX AI 笔记本电脑,为数百万
    的头像 发表于 01-09 09:22 283次阅读

    NVIDIA 在 CES 2024 上展示游戏、创作、生成AI 和机器人领域的创新成果

    CES 2024 NVIDIA 特别演讲亮点 - 全新 GeForce RTX 40 SUPER GPU,RTX AI 笔记本电脑,为数百万
    发表于 01-09 09:17 189次阅读
    <b class='flag-5'>NVIDIA</b> 在 CES 2024 上展示游戏、创作、<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 和机器人领域的创新成果

    亚马逊云科技与 NVIDIA 宣布开展战略合作,为生成AI 提供全新超级计算基础架构、软件和服务

    计算机,用于 NVIDIA AI 研发和自定义模型开发。 搭载 NVIDIA GH200、H200、L40S 和 L4 GPU的全新亚马逊 EC2 实例为
    的头像 发表于 11-29 21:00 385次阅读
    亚马逊云科技与 <b class='flag-5'>NVIDIA</b> 宣布开展战略合作,为<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> <b class='flag-5'>提供</b><b class='flag-5'>全新</b>超级计算基础架构、软件和服务

    点亮未来:TensorRT-LLM 更新加速 AI 推理性能,支持在 RTX 驱动的 Windows PC 上运行新模型

    Windows PC工作站提高生产力带来前所未有的机会。NVIDIA RTX 技术使开发者更轻松地创建
    的头像 发表于 11-16 21:15 465次阅读
    点亮未来:TensorRT-LLM 更新加速 <b class='flag-5'>AI</b> 推理<b class='flag-5'>性能</b>,支持在 <b class='flag-5'>RTX</b> 驱动的 <b class='flag-5'>Windows</b> <b class='flag-5'>PC</b> 上运行新模型

    高通在2023骁龙峰会上推动突破性生成AI落地多品类终端

    要点 • 全新骁龙平台展现了面向众多生成AI终端和应用的绝佳终端侧AI性能,更加注重即时性、可靠性、个性化和隐私。 • 骁龙X Elite
    发表于 10-25 11:46 97次阅读
    高通在2023骁龙峰会上推动<b class='flag-5'>突破性</b>的<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>落地多品类终端

    高通在2023骁龙峰会上推动突破性生成AI落地多品类终端

    要点 — •  全新骁龙平台展现了面向众多生成AI终端和应用的绝佳终端侧AI性能,更加注重即时性、可靠性、个性化和隐私。 •  骁龙X E
    的头像 发表于 10-25 10:30 184次阅读
    高通在2023骁龙峰会上推动<b class='flag-5'>突破性</b>的<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>落地多品类终端

    NVIDIA 发布全新 DLSS 3.5,为游戏和应用开启 AI 加速的实时光线追踪体验

    。在 NVIDIA 带来的一系列新技术中,作为主打的是 NVIDIA 突破性 AI 神经网络渲染技术的最新成果: DLSS 3.5 。 DLSS 3.5 是
    的头像 发表于 08-29 17:50 452次阅读

    SIGGRAPH 2023 | NVIDIA AI Workbench 助力全球企业加速采用自定义生成AI

    2023 年 8 月 8 日 — NVIDIA 发布 NVIDIA AI Workbench 。这个统一、易于使用的工具套件使开发者能够在 PC
    的头像 发表于 08-09 19:10 285次阅读

    SIGGRAPH 2023 | NVIDIA 与全球工作站厂商共同推出用于生成AI、LLM 开发、内容创作和数据科学的系统

    — 太平洋时间 2023 年 8 月 8 日 — NVIDIA 与全球工作站厂商发布性能强大的全新 NVIDIA
    的头像 发表于 08-09 19:10 291次阅读

    NVIDIA与全球工作站厂商共同推出用于生成AI及LLM开发、内容创作和数据科学的强大系统

    — 太平洋时间 2023 年 8 月 8 日 — NVIDIA与全球工作站厂商于今日发布性能强大的全新 NVIDIA
    发表于 08-09 11:48 183次阅读
    <b class='flag-5'>NVIDIA</b>与全球<b class='flag-5'>工作站</b>厂商共同推出用于<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>及LLM开发、内容创作和数据科学的强大系统

    NVIDIAWindows RTX工作站提供全新生成AI功能与突破性性能

    随着越来越多的 AI 推理在本地设备上运行,工作站将需要强大而高效的硬件以支持这些复杂的任务。为了满足这一需求,RTX GPU 将添加用于 AI
    的头像 发表于 06-07 14:55 466次阅读
    <b class='flag-5'>NVIDIA</b>为<b class='flag-5'>Windows</b> <b class='flag-5'>RTX</b><b class='flag-5'>工作站</b><b class='flag-5'>提供</b><b class='flag-5'>全新生成</b>式<b class='flag-5'>AI</b><b class='flag-5'>功能与</b><b class='flag-5'>突破性</b><b class='flag-5'>性能</b>

    NVIDIA 携手微软,在生成AI 的新时代推动 Windows PC 创新

    行业领导者打破藩篱,使开发人员能够轻松地在 Windows 11 上训练并部署先进的 AI 模型,并在配备 RTXPC工作站
    的头像 发表于 05-25 09:15 530次阅读
    <b class='flag-5'>NVIDIA</b> 携手微软,在<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 的新时代推动 <b class='flag-5'>Windows</b> <b class='flag-5'>PC</b> 创新