0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA Merlin GPU推荐系统加速大模型训练和推理

NVIDIA英伟达 来源:NVIDIA英伟达 作者:NVIDIA英伟达 2022-07-05 09:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在每周的预告中,你可以:

了解一周的在线研讨会时间及详细内容,选择感兴趣的研讨会并提前安排收听时间;

找到每场研讨会的参会方式,保存并转发到朋友圈及微信群,与朋友分享精彩内容。

NVIDIA Merlin GPU 推荐系统

加速大模型训练和推理

内容

暌违两年,NVIDIA Merlin 推荐系统公开课将于 7 月 5 日全面上新。本次公开课将由 NVIDIA 高级产品经理高文雯和 NVIDIA 高级开发经理王泽寰分别进行主讲和直播答疑。

NVIDIA Merlin 是专为 GPU 上推荐系统工作流程设计的一款端到端的开源框架,其中包括了数据预处理、功能转换、训练、优化和部署等功能,旨在加速推荐系统工作者的工作流程,简化推荐系统的构建。在今年 3 月,NVIDIA 发布了 NVIDIA Merlin 1.0 超大规模推荐系统。最新版本的 NVIDIA Merlin 提供了对功能、模型的快速迭代,以及部署经过充分训练的推荐程序管道,将功能转换、检索和排名模型作为推理微服务等功能。Merlin 在 GPU 上的加速优化方案包括用于构建基于深度学习的系统的工具,能够处理 TB 级的数据,以便提供更精准的预测并增加点击量。数据科学家可以用不到 50 行代码来训练和部署推荐模型,机器学习工程师也可以轻松地利用分级存储以低延迟高精确率将大模型轻松部署到 Triton 推理平台,同时也支持 TensorFlow 用户使用大规模多 GPU 、多节点模型并行式训练。

「 NVIDIA Merlin 推荐系统公开课」也将在智东西公开课知识店铺上以视频直播的形式进行。感兴趣的朋友千万别错过!

通过本次在线研讨会您将了解以下内容:

端到端推荐系统 NVIDIA Merlin 介绍及最新动态

高达 12 倍加速的高性能训练

低成本训练和部署 TB 级大模型

灵活易用:短短几行代码实验各种模型

日程

7 月 5 日,周二,19:00 – 20:00

演讲嘉宾

高文雯

NVIDIA 高级产品经理

王泽寰

NVIDIA 高级开发经理

当零售遇上 AI

NVIDIA 人工智能平台在购物中心的应用

内容

有这样一群人,他们虽不是零售老兵,却一直以数字化、智能化的独特角度理解并赋能零售;他们的思考从未停歇过:线下零售的核心挑战是什么?人工智能带来的帮助是什么?线下零售的数字化、智能化的最好方案是什么?

如果您也有相同的问题,希望了解 AI 驱动的零售行业解决方案和运营理念,欢迎报名本次线上研讨会。我们将带着您和 NVIDIA、AIBEE以及中电港的专家们一起探讨全球零售 AI 的特点和趋势,分享国内外商场数智化的精彩案例,以及本地的最优实践。

一场零售+ AI 的饕餮盛宴,精彩不容错过。

通过本次在线研讨会您将了解以下内容:

零售数智化的观察和思考

NVIDIA 人工智能平台加速零售行业边缘计算

驱动边缘 AI – NVIDIA Jetson 及相关产品介绍

客流系统 4.0 时代,购物中心如何真正实现精细化运营

日程

7 月 6 日,周三,14:00 – 16:00

演讲嘉宾

任建斌

NVIDIA 零售及工业 IBD

张轶博

NVIDIA 行业开发者关系总监

王之卓

中电港 NVIDIA 产品线 FAE

徐昆

爱笔智能 智慧商业地产 产品负责人

开创智慧零售新时代

快速完成 NLU 中的意图识别任务 ——

NVIDIA NeMo 实战

内容

意图识别和槽位填充是 NLU 语义理解领域中两个子任务,二者可以联合进行。大部分基于语义理解的智能会话相关的应用都会用到这项技术,它是用来对一段语句所表达的意图进行分类,并查询语句中所有相关的槽位(实体)。例如:明天早上北京是什么样天气? 我们希望将查询分类意图为“天气”,将“北京”检测为位置槽,将“明天早上“检测为日期时间槽。意图识别和槽位填充用以辅助基于语义理解的会话系统返回更加精准的回答。这些需求我们通过 NVIDIA NeMo 就可以快速的完成。

NVIDIA NeMo 是一个用于构建先进的对话式 AI 模型的工具包,它内置集成了自动语音识别 (ASR)、自然语言处理 (NLP) 和语音合成 (TTS)的模型及方法,方便调用先进的预训练模型快速完成对话式 AI 中各类子任务, 每个模块都可以轻松地定制、扩展和组合用以创建新的会话式AI模型架构。

本次网络研讨会主要面向有 NLP 和语音 AI 开发需求的开发者。

通过本次在线研讨会您将了解以下内容:

意图识别和槽位填充任务介绍

NVIDIA NeMo 工具简介

适用于 NeMo 的数据集格式

如何使用 NeMo 初始化并训练模型

如何使用 NeMo 进行意图识别模型评估和推理

日程

7 月 7 日,星期四,20:00 – 21:30

演讲嘉宾

李奕澎

NVIDIA 企业开发者社区经理

拥有多年数据分析建模、人工智能自然语言处理开发经验。在自动语音识别、自然语言处理、语音合成等对话式 AI 技术领域有丰富的实战经验与见解。曾开发法律、金融、保险文档中基于实体抽取的智能问答系统,曾开发基于 NLP 知识抽取, KG 知识图谱的建立的科研文档智能检索系统。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5694

    浏览量

    110119
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5272

    浏览量

    136073
  • AI
    AI
    +关注

    关注

    91

    文章

    41156

    浏览量

    302624

原文标题:一周预告丨本周 NVIDIA 在线研讨会精彩亮点抢先看

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA推出代理式AI蓝图与电信推理模型

    借助全新开源大型电信模型NVIDIA Blueprint,电信运营商能够利用自有数据训练 AI 智能体,构建自主网络。
    的头像 发表于 03-06 17:37 3078次阅读

    训练推理:大模型算力需求的新拐点已至

    在大模型产业发展的早期阶段,行业焦点主要集中在大模型训练所需的算力投入。一个万亿参数大模型训练可能需要数千张
    的头像 发表于 02-05 16:07 1037次阅读
    从<b class='flag-5'>训练</b>到<b class='flag-5'>推理</b>:大<b class='flag-5'>模型</b>算力需求的新拐点已至

    NVIDIA DGX SuperPOD为Rubin平台横向扩展提供蓝图

    NVIDIA DGX Rubin 系统整合了 NVIDIA 在计算、网络和软件领域的最新突破,将推理 token 成本降至 NVIDIA B
    的头像 发表于 01-14 09:14 851次阅读

    NVIDIA RTX PRO 5000 Blackwell GPU的深度评测

    NVIDIA RTX PRO 5000 Blackwell 是 NVIDIA RTX 5000 Ada Generation 的升级迭代产品,其各项核心指标均针对 GPU 加速工作流的
    的头像 发表于 01-06 09:51 4097次阅读
    <b class='flag-5'>NVIDIA</b> RTX PRO 5000 Blackwell <b class='flag-5'>GPU</b>的深度评测

    NVIDIA 推出 Alpamayo 系列开源 AI 模型与工具,加速安全可靠的推理型辅助驾驶汽车开发

    新闻摘要 : l NVIDIA 率先发布为应对辅助驾驶长尾场景挑战而设计的开源视觉-语言-动作推理模型(Reasoning VLA);NVIDIA Alpamayo 系列还包含赋能辅助驾驶汽车开发
    的头像 发表于 01-06 09:40 515次阅读
    <b class='flag-5'>NVIDIA</b> 推出 Alpamayo 系列开源 AI <b class='flag-5'>模型</b>与工具,<b class='flag-5'>加速</b>安全可靠的<b class='flag-5'>推理</b>型辅助驾驶汽车开发

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布了 NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据生成。借助
    的头像 发表于 12-01 09:25 1445次阅读

    在Ubuntu20.04系统训练神经网络模型的一些经验

    本帖欲分享在Ubuntu20.04系统训练神经网络模型的一些经验。我们采用jupyter notebook作为开发IDE,以TensorFlow2为训练框架,目标是
    发表于 10-22 07:03

    NVIDIA 利用全新开源模型与仿真库加速机器人研发进程

    。   借助全新的 NVIDIA Cosmos 世界基础模型,开发者可以生成多样化数据,从而大规模加速物理 AI 模型训练。   来自斯
    的头像 发表于 09-30 09:52 3212次阅读
    <b class='flag-5'>NVIDIA</b> 利用全新开源<b class='flag-5'>模型</b>与仿真库<b class='flag-5'>加速</b>机器人研发进程

    NVIDIA Isaac Lab多GPU多节点训练指南

    NVIDIA Isaac Lab 是一个适用于机器人学习的开源统一框架,基于 NVIDIA Isaac Sim 开发,其模块化高保真仿真适用于各种训练环境,可提供各种物理 AI 功能和由 GP
    的头像 发表于 09-23 17:15 2629次阅读
    <b class='flag-5'>NVIDIA</b> Isaac Lab多<b class='flag-5'>GPU</b>多节点<b class='flag-5'>训练</b>指南

    什么是AI模型推理能力

    NVIDIA 的数据工厂团队为 NVIDIA Cosmos Reason 等 AI 模型奠定了基础,该模型近日在 Hugging Face 的物理
    的头像 发表于 09-23 15:19 1480次阅读

    NVIDIA Nemotron Nano 2推理模型发布

    NVIDIA 正式推出准确、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的头像 发表于 08-27 12:45 2014次阅读
    <b class='flag-5'>NVIDIA</b> Nemotron Nano 2<b class='flag-5'>推理模型</b>发布

    NVIDIA从云到边缘加速OpenAI gpt-oss模型部署,实现150万TPS推理

    的发布持续深化了双方的 AI 创新合作。NVIDIANVIDIA Blackwell 架构上优化了这两款全新的开放权重模型并实现了推理性能加速
    的头像 发表于 08-15 20:34 2505次阅读
    <b class='flag-5'>NVIDIA</b>从云到边缘<b class='flag-5'>加速</b>OpenAI gpt-oss<b class='flag-5'>模型</b>部署,实现150万TPS<b class='flag-5'>推理</b>

    如何在魔搭社区使用TensorRT-LLM加速优化Qwen3系列模型推理部署

    TensorRT-LLM 作为 NVIDIA 专为 LLM 推理部署加速优化的开源库,可帮助开发者快速利用最新 LLM 完成应用原型验证与产品部署。
    的头像 发表于 07-04 14:38 2432次阅读

    模型推理显存和计算量估计方法研究

    GPU、FPGA等硬件加速。通过分析硬件加速器的性能参数,可以估算模型在硬件加速下的计算量。 四、实验与分析 为了验证上述估计方法的有效性,
    发表于 07-03 19:43

    NVIDIA GTC巴黎亮点:全新Cosmos Predict-2世界基础模型与CARLA集成加速智能汽车训练

    。这种向使用大模型的过渡大大增加了对用于训练、测试和验证的高质量、基于物理学传感器数据的需求。 为加速下一代辅助驾驶架构的开发,NVIDIA 发布了 
    的头像 发表于 06-12 10:00 1227次阅读