2023 云栖大会：NVIDIA AI 日程攻略先睹为快-电子发烧友网

2023 云栖大会开幕在即，

10 月 31 日 - 11 月 2 日，

NVIDIA 将前往杭州云栖小镇

赴约科技盛会，

带来围绕大模型、端到端网络解决方案、

生成式 AI、“她力量”、AI 公益、

科研智算、AI 开发者主题的并行话题演讲、

全栈 AI 和加速计算展区、

AI 开发者实战小课堂、

有奖互动等一系列精彩内容！

本文带您抢先开启剧透环节！

✦+

亮点一

精彩演讲纷至沓来，

多维度解读 AI 开发和应用

10 月 31 日

聚合话题演讲 - “无畏·无限”新女性新机遇

演讲主题：AI 女性“进化论”：追光而行、全力奔跑

时间：13:55 - 14:05

地点：B 馆 B3 - 5 蔚云厅

演讲人：刘念宁，NVIDIA 全球副总裁

在主题为“无畏·无限”新女性新机遇的聚合话题演讲，NVIDIA 全球副总裁刘念宁将与现场观众剖析科技女性群像，激励女性在加速计算和生成式 AI 的全新时代中释放无限可能，在实现进化与成长的同时，寻找 AI 的星辰大海。

10 月 31 日

聚合话题演讲 - 可预期网络 - Al Infra

演讲主题：适用于 AI 的网络基础设施

时间：14:30 - 14:50

地点：D2 - 1 会场

演讲人：Gilad Shainer，

NVIDIA 网络与高性能计算高级副总裁

现代数据中心已成为计算单元，而网络架构对于定义其功能至关重要。人工智能平台依赖于各种网络才能有效运行，包括：计算网络，负责高速数据处理；存储网络，提供对大量数据集的访问；此外还有管理网络。这些网络的特性直接影响人工智能工作负载的效率以及可以提供 AI 服务的范围。

在本演讲中，NVIDIA 网络与高性能计算高级副总裁 Gilad Shainer 将与您深入探讨人工智能网络的复杂性，探索正在发挥作用的各种技术及其对现代数据中心的影响，阐明网络技术如何塑造人工智能的格局。

11 月 1 日

聚合话题演讲 - NVIDIA 加速计算创造生成式 AI 新时代

地点：B 馆 B3 - 1 德云厅

大会第二天上午，聚合话题演讲将以大语言模型（LLM）为主题，综述 NVIDIA 端到端的数据中心级全栈 AI 和加速计算解决方案，并邀请阿里云人工智能平台 PAI 团队分享其自主研发、基于 NVIDIA 软硬件技术栈的大模型开发一站式工具箱和大规模 RLHF 高效训练框架。更别错过演讲最后的 NVIDIA GPU 幸运抽奖机会！

9:15 - 9:45 >>

构建面向生成式 AI 的 NVIDIA 端到端解决方案

演讲人：王淼，NVIDIA 解决方案架构与工程总监

您将了解到 NVIDIA 如何端到端的加速生成式 AI，从 GPU / DPU / CPU、网络、超级计算机到 Base Command，助力相关创新创业。

9:45 - 10:15 >>

面向 LLM 的软件方案及

NVIDIA 软件全栈与行业解决方案更新概览

演讲人：翟健，NVIDIA 解决方案架构师

演讲将介绍 NVIDIA 在大语言模型（LLM）领域中的解决方案更新，同时还会涵盖 NVIDIA GPU 上的软件全栈及解决方案的更新情况，包括 NVIDIA CUDA，深度学习（DL）框架，企业级软件支持，数字孪生软件及通用行业解决方案。

10:15 - 10:45 >>

NVIDIA TensorRT-LLM 介绍

演讲人：周国峰，NVIDIA 产品研发总监

您将了解到 NVIDIA 针对大语言模型（LLM）推理方案 TensorRT-LLM，包括 TensorRT-LLM 的定位，基本功能和使用方法。

10:45 - 11:00 >>

PAI-Megatron-Patch：灵骏集群训练 LLMs 的一站式工具箱

演讲人：黄俊，阿里云资深算法专家

Pai-Megatron-Patch 工具是阿里云人工智能平台 PAI 算法团队研发，基于阿里云智算服务 PAI - 灵骏平台的大模型最佳实践解决方案配套工具，旨在帮助大模型开发者快速上手灵骏产品，完成大语言模型（LLM）的高效分布式训练，有监督指令微调，模型离线推理验证等完整大模型开发链路。该项目提供了业界主流开源大模型基于 Megatron-LM 的训练 & 离线推理验证流程，方便用户快速上手大模型训练。本演讲对 Pai-Megatron-Patch 的架构，功能，使用方式等进行简要的介绍。

11:00 - 11:15 >>

PAI-ChatLearn：灵活易用、大规模 RLHF 高效训练框架

演讲人：王林，阿里云高级技术专家

PAI-ChatLearn 是阿里云人工智能平台 PAI 团队自主研发，灵活易用、大规模模型 RLHF 高效训练框架。支持大模型进行 SFT（有监督指令微调）、RM（奖励模型）、RLHF（基于人类反馈的强化学习）完整训练流程。PAI-ChatLearn 支持使用 NVIDIA Megatron 作为模型定义和训练的 backend，支持大规模（175B + 175B）模型的 RLHF 训练。本演讲对 PAI-ChatLearn 的架构、性能、以及基于 NVIDIA Megatron 如何进行高效 RLHF 训练等进行简要的介绍。

11:15 - 11:45 >>

全新 GPU 架构下的 FP8 训练与推理

演讲人：高慧怡，NVIDIA 解决方案架构师、薛博陽，NVIDIA GPU 计算专家

介绍最新 NVIDIA Hopper GPU 架构：FP8。具体介绍 FP8 在大语言模型上的训练与推理的相关工作，以及相应的软件解决方案 Transformer Engine。

11:45 - 12:25 >>

下一代大规模 LLM / MoE 训练系统基座 - NVIDIA Megatron Core

演讲人：颜子杰，NVIDIA GPU 计算专家、樊士庆，NVIDIA GPU 性能架构师

演讲将为您介绍 NVIDIA Megatron Core 的设计、定位以及优化，其中会重点介绍对大规模 MoE 预训练的支持。

11 月 1 - 2 日

NVIDIA 科学智能（AI4S）、生成式 AI、开发者社群合作话题分享

此外，共有三场 NVIDIA 技术演讲将在 B 馆风云厅和 C 馆云栖 SHOW 场 相继精彩上演，无论是 AI 赋能科学发现还是开发者深度内容，又或者是生成式 AI 加速训练、调优及部署，必定会带给您不一样的技术启发！

演讲主题：NVIDIA 科学智能（AI4S）赋能科学发现

时间：11 月 1 日 10:00 - 10:15

地点：C 馆云栖 SHOW 场

演讲人：李顺，NVIDIA 教科研应用技术总监

想知道 NVIDIA 支持 AI for Science（AI4S）的技术框架？想了解相关技术在生命科学、气象和流体力学中的应用案例？好奇 NVIDIA 如何对中国科研 AI4S 应用提供生态支持？以及现场将有 NVIDIA 和阿里云合作的 AI for Science 训练营和 Hackathon 的相关信息。别错过本场演讲！

演讲主题：NVIDIA 生成式 AI 加速优化方案概览

时间：11 月 1 日 16:00 - 16:20

地点：B 馆 B3 - 2 风云厅

演讲人：金国强，NVIDIA 解决方案架构师

演讲将介绍 NVIDIA 数据中心 GPU 在大语言模型及图像生成领域的强大性能，结合 NeMo Framework / TensorRT / TensorRT-LLM / Triton 推理服务器等软件 SDK 和框架极致加速生成 AI 的训练、微调和推理部署等成熟解决方案，极大提升 AI 应用吞吐量降低延迟，缩短研发周期减小成本。您还将了解到基于阿里达摩院视频生成算法的 NVIDIA 全流程优化加速的解决方案 pipeline，为视频生成领域的应用打好坚实的基础。

演讲主题：引领技术，推动应用

时间：11 月 2 日 11:30 - 11:45

地点：C 馆云栖 SHOW 场

演讲人：侯宇涛，NVIDIA GPU、CUDA 应用市场总监

云上开发者大赛专场，NVIDIA GPU、CUDA 应用市场总监侯宇涛将分享 NVIDIA 与阿里云天池在助力开发者成长和推动 AI 技术应用方面的举措。当然，现场还有 NVIDIA 和阿里云合作的开发者新赛事消息，期待大家的关注！

✦+

亮点二

NVIDIA 全栈 AI 和加速计算展区

数据中心规模全栈 AI 展示，

准备就绪加速

NVIDIA 展区将带来采用 NVIDIA AI 技术的客户案例展示。包括 NVIDIA TensorRT-LLM 如何帮助蚂蚁团队优化开源的代码大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何为阿里云金融与医疗行业提供最佳的解决方案，包含开箱即用的魔搭开源模型和灵积模型服务高效 GPU 优化、Megatron 加速通义大模型训练，确保训练性能在大集群上的可扩展性、基于 NVIDIA Megatron 开发的深度学习大语言模型工具等丰富内容。

此外，NVIDIA 展区也将展示加速基础设施、AI 软件、模型和服务的加速计算解决方案，包括 NVIDIA 加速的基础设施、InfiniBand 网络计算端到端解决方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技术底座、AI Playground 生成式 AI 互动体验等。而 NVIDIA 也正在为各行各业的 3D 创意工作流提供助力，使用户能够以前所未有的方式进行协作和创新。因此，在 AI 互动展示区域，我们也将带来基于 NVIDIA Omniverse、CloudXR、RTX 等技术分享，期待与您一同探讨数字世界的无限可能。

旨在培养颠覆行业格局的优秀创业公司的 NVIDIA 初创加速计划，展示内容也将于现场开放，欢迎想要获得产品折扣、技术支持、市场宣传、融资对接、业务推荐等一系列服务、加速发展的优秀创业公司，前来了解。

AI 小课堂即将开讲

敲黑板！专为开发者打造的必学课堂，连续 3 天课程内容看点满满！

上下滑动查看每日“课表”

10 月 31 日
时间	课程
10:00 - 10:30	利用 NVIDIA BlueField-3 DPU 构建云
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发
11:00 - 11:30	NVIDIA Spectrum-X平台助力生成式 AI 云服务
13:00 - 13:30	基于 LLM 大模型构建中文对话引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 应用实践：文字生成图像的代码实现流程
15:00 - 15:30	合成数据应用初探 —— 图像分类数据集的制作案例

11 月 1 日
时间	课程
10:00 - 10:30	NVIDIA Spectrum-X平台助力生成式 AI 云服务
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发
11:00 - 11:30	利用 NVIDIABlueField-3 DPU 构建云
13:00 - 13:30	基于 LLM 大模型构建中文对话引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 应用实践：文字生成图像的代码实现流程
15:00 - 15:30	合成数据应用初探 —— 图像分类数据集的制作案例

11 月 2 日
时间	课程
10:00 - 10:30	利用 NVIDIABlueField-3 DPU 构建云
11:00 - 11:30	基于 LLM 大模型构建中文对话引擎：NeMo + ChatGLM
13:00 - 13:30	生成式 AI 应用实践：文字生成图像的代码实现流程
14:00 - 14:30	合成数据应用初探 —— 图像分类数据集的制作案例
15:00 - 15:30	合成数据应用初探 —— 图像分类数据集的制作案例

主讲人划重点：

NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发

NVIDIA AI Enterprise 提供支持的企业级软件，它能够加速数据科学，并简化生产就绪型生成式 AI、计算机视觉和语音应用。在本课程中，我们将介绍如何借助 NVIDIA AI Enterprise 软件平台，加速 AI 开发和部署，保障性能、高可用和安全性。

—— 崔晓楠，NVIDIA 开发者发展经理

基于 LLM 大模型构建中文对话引擎：NeMo + ChatGLM

本课程将 NeMo 与 ChatGLM 相结合，构建中文场景下“能听、能想、能说”的对话引擎，降低对话式人工智能和 LLM 大语言模型的使用门槛，快速了解对话式人工智能的搭建流程。

—— 李奕澎，NVIDIA 企业开发者社区经理

生成式 AI 应用实践：一个文字生成图像的代码实现流程

你将了解到生成式 AI 模型 Stable Diffusion 的基本原理以及 TensorRT 推理引擎的工作原理等内容，希望在此学习过程中找到跟踪 AI 发展的灵感，并鼓励你进行更多的实践和探索。

—— 何琨，NVIDIA 企业开发者社区高级经理

合成数据应用初探——图像分类数据集的制作案例

本课程将带你了解合成数据生成工具 NVIDIA Omniverse Code 和 Omniverse Replicator，同时还有 Jetbot 小车自动避障四分类数字场景的 Python 代码实现思路。

—— 侯宇涛，NVIDIA GPU、CUDA 应用市场总监

利用 NVIDIABlueField-3 DPU 构建云

作为 AI 工厂和生成式人工智能云两种数据中心网络设计范例中，NVIDIA BlueField-3 DPU 实现了数据中心基础设施软件的大量加速计算，虚拟化、网络、安全、存储及数据的处理、控制、编排也将在 NVIDIA BlueField-3 DPU 上得到加速和处理。我们将深入探讨 NVIDIA BlueField-3 DPU 在云环境和云应用中的广泛作用与核心价值。

—— 崔岩，NVIDIA 网络技术专家

NVIDIA Spectrum-X 平台助力生成式 AI 云服务

NVIDIA Spectrum-X 是首个专为基于以太网的 AI 云提高性能和效率而设计的平台，依托于 NVIDIA Spectrum-4 以太网交换机和 NVIDIA BlueField-3 DPU 的紧密结合，在多租户环境中实现了一致的、可预测的性能，并提高生成式 AI 云的能效。我们将深入探讨 NVIDIA Spectrum-X 网络平台的动态路由、拥塞控制和性能隔离等特性。

—— 孟庆，NVIDIA 网络市场总监

开发者体验活动，即刻预约动手乐趣

大会期间，在 NVIDIA 展台亲自动手，收获有趣有料的科技体验！戳链接即可报名，提前预约参与开发者体验活动。

体验活动 1：动手实验——利用人工智能

技术实现 Jetbot 自动驾驶小车的避障功能

扫描下方二维码报名预约体验活动 1