魔幻的2020年,IT基础架构遭遇重大挑战。新冠疫情下,不得已保持的社交距离对生活、工作带来了彻底改变,从在线购物、文娱、社交,到工作、学习,人们对网络的依赖几乎遍布生活的方方面面。
算力成为当前的刚需,重度依赖之下,支撑起网络的整个基础设施正在发生重构。晶体管不是终极解决方案,眼下最重要的,是让算力资源可分配、可调度。由软件虚拟化技术带来的改变立竿见影,虚拟化GPU有望加速走向规模应用。
NVIDIA中国区高级技术市场经理施澄秋告诉<电子发烧友>,桌面虚拟化是同样的道理。传统的实体计算设备(例如台式电脑,笔记本电脑或服务器)使用GPU执行复杂的运算流程,例如运行3D应用程序或视频直播。但是对于远程办公的专业人员来说,这并不是理想之选,因为GPU与实体设备绑定会限制移动性和灵活性。许多远程工作的用户,可能没有一个性能、储存容量都非常强大的本地设备,所以需要把应用程序、甚至桌面都推到云端及虚拟化产品上。
NVIDIA方面预测,今年在疫情的情况下,虽然由于实体渠道的种种限制或法律条规的管控,零售、实体行业对于GPU的需求可能略微降低,但此消彼涨,数据中心的需求会更显旺盛,企业端对于GPU的需求,可能比以往更猛烈。
判断依据是,当前情况下,企业会前所未有地重视在数据中心或公有云的GPU部署,因为越来越多的应用会迁移到云端虚拟化的工作场景中。无论是企业内部还是给企业客户应用,都有越来越多的图形图象依赖性。尤其是5G普及之后,用户需求更多元化、对质量要求更高,也许传统情况下提供一张图就行,未来要提供动画;或是以前提供简单的动画就可以,未来要提供电影级渲染的动画。远程办公虚拟化是一个比较重要的解决思路,它可以帮助人们在远程办公时还能享受到GPU加速的便利性。
虚拟机存在已久,为什么过去只虚拟化了CPU而没有GPU?施澄秋表示,主要是用户没有认识到必要性。就像过去相当长时间存在的用集显的笔记本电脑,NVIDIA通过种种演示和案例证明了“有GPU相对于没有GPU可以带来生产力的提升”,今天广大用户终于体会到了独显的重要性。虚拟机用户也是如此,以为有了虚拟桌面可以跑企业的各种应用就好了,有CPU足以,但是发现跑起来慢如蜗牛,于是虚拟化GPU的需求就理所当然的体现出来了。
黄仁勋在众多场合“带货GPU”时都提到过,“你买的越多,你省的越多。”施澄秋认为这不是一个玩笑,也不是一个梗,是NVIDIA实实在在帮助用户节约IT投资的一个真实举措。无论是AI、模拟、渲染,都能够相较于传统的CPU节点服务器,给用户节约大量的成本。因此他建议,不仅要有虚拟化的CPU,更重要的是要有虚拟化的GPU,可以帮助用户在虚机上体验到以前实体工作站、实体超算的PC工作站或者实体的图形工作站上都能享受到的GPU加速的性能。
(1)NVIDIA GRID虚拟PC/应用程序:面向知识工作者,通过GPU为远程用户提供虚拟化系统和应用程序,能提供与有独显的实体电脑相似的性能,实现响应级虚拟桌面基础架构(VDI),最大限度优化图表、视频等典型办公应用。
(2)NVIDIA Quadro虚拟数据中心工作站(Quadro vDWS):面向使用高级图形应用程序的创作者和技术专业人员,从数据中心提供工作站级的GPU加速性能,有助于分散在各地的团队进行协作,通过任意设备实时安全地访问应用程序和数据。
以前做虚拟化技术,只能把一个GPU虚拟成多个GPU给很多个用户去使用。但今天可以反向虚拟化这个GPU,把多个物理的GPU虚拟成一个更大、更强劲的GPU给一个特定的用户使用。也就是说,可以分散GPU负载、也可以堆叠,也可以快速、大规模共享数据,而这些数据全部可以提供给用户最新、前端的、用户端的需求。比如10比特的色彩精度支持,以前需要一个专业的Quadro图形工作站配合显示设备才可以实现,但是现在Quadro vDWS就可以做到。
从性能来看,如果使用8个Quadro RTX 8000显卡搭配Quadro vDWS软件,算力可提升至CPU的16倍,能大幅减少渲染时间。
从生态来看,Quadro vDWS现支持主流的ISV应用程序及管理监控工具,可从NVIDIA经认证的服务器方案中获取。
(3)NVIDIA Virtual Compute Server软件:数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,通过GPU加速服务器虚拟化,支持AI、深度学习、数据科学和高性能计算服务器虚拟化。
借助NVIDIA Virtual Compute Server (vComputeServer),用户可以获得运行这些工作负载所需的GPU加速性能。数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,进一步提升了计算的安全性、利用率和可管理性。IT管理员能够让GPU加速虚拟化服务器的管理变得更为简单,同时还能保留现有的工作负载,并降低总体运营成本。与仅使用CPU的服务器相比,基于4颗NVIDIA V100 GPU的vComputeServer将深度学习的速度提高了50倍,性能接近于裸机水平。
在云端、企业数据中心以及传统台式机、移动工作站,NVIDIA Quadro均可实现设计和工程应用的加速。据悉,全球90%的专业工作站均由英伟达Quadro提供加速能力。
施澄秋介绍,移动、远程需求下,应运而生的还有NVIDIA RTX Studio,其品牌承诺就是做一个开放式的平台,采用Windows架构,是一个标准的可以安装所有超过数百款已有的ISV程序的情况下。NVIDIA RTX Studio可以让创意和设计用户在超过200款RTX产品上利用GPU加速渲染,其中又有45款可以利用RTX技术、最新一代NVIDIA技术里的各式各样的核心,帮助他们做应用程序的加速,包括AI应用程序和实时光线追踪。
此外还有NVIDIA RTX SERVER虚拟化技术。这个技术是在多个NVIDIA Quadro RTX GPU的基础上,堆叠大量GPU,借助GPU共享,单个GPU可以为多个虚拟机提供动力,最大程度地提高利用率和负载能力,满足从AI和深度学习到数据科学和高性能计算的需求。
由于疫情原因,NVIDIA一年一度的GTC大会改成了线上的模式。这意味着,数百场的技术演讲、技术展示、案例演示,甚至包括帮助用户上手实操的模拟实验室的环境,都需要在云端上进行搭建。这一系列在云端的讲堂、实验室就是典型的分布式远程移动工作和大规模用户同时去存取云端资源的一个案例,也是一个远程办公的体验。
针对上述问题,NVIDIA提出了全新的解决方案。在Quadro RTX以及硬件上做了全新一代的升级,最大可以支持实时8K的RED格式的加密和解密。当然,这还要依赖于网络跳转路由节点和整个延迟的降低,这都需要全方位的强化。施澄秋指出,国内正大规模地普及5G,所以这个痛点也会得到较好的解决,今天把GPU虚拟化到桌面,可能比以往更容易。
由于5G的普及,移动办公的便利性得到提升,桌面虚拟化的需求一定比以往更为兴盛。施澄秋认为,企业虚拟化GPU的侧重点主要是:便于大规模部署、便于大规模实时在线热迁移和热管理,因此他们会更大程度上考虑可管理性、易用性和可扩展性。
至于大规模的虚拟化部署会不会影响到NVIDIA实体GPU的使用?施澄秋认为,二者始终是相辅相成的。不论是云端还是实体端、不论是远端是本地端,GPU的需求始终旺盛。也可以由此反推到用户的使用习惯,今天的用户大部分都不只有一个电子设备。就像双卡双待手机的发展,今天几乎99%的手机具备这一功能,就连苹果也做双卡双待了,这主要由用户需求的多样性决定的。NVIDIA认为本地的GPU需求,不会因为虚拟化GPU极速降低,会持续在两条线上耕耘下去。
NVIDIA在此时加大虚拟化GPU的投入力度,再一次实现了从单纯的硬件产品向提供服务的方式进行转变,这也符合NVIDIA一直以来软件化的发展路线。
套用微信小程序的成功逻辑,当网络带宽不再成为限制的前提下,即使在配置不够高的桌面端,也能进行高算力的工作或娱乐,这将是GPU未来的重要应用场景。
本文由电子发烧友网原创,未经授权禁止转载。如需转载,请添加微信号elecfans999.
算力成为当前的刚需,重度依赖之下,支撑起网络的整个基础设施正在发生重构。晶体管不是终极解决方案,眼下最重要的,是让算力资源可分配、可调度。由软件虚拟化技术带来的改变立竿见影,虚拟化GPU有望加速走向规模应用。
企业端对GPU的需求将比以往更强烈
为什么远程办公需要“桌面虚拟化”或“应用程序虚拟化”?借用微信小程序来理解,就是将应用程序推到云端,在手机上虚拟化一个界面,通过小程序连网就可以使用,而无需在本地安装APP。尽管智能手机已经非常普及了,但是硬件配置千差万别,小程序对于存储能力不是很强的手机,带来的体验改善是显而易见的。NVIDIA中国区高级技术市场经理施澄秋告诉<电子发烧友>,桌面虚拟化是同样的道理。传统的实体计算设备(例如台式电脑,笔记本电脑或服务器)使用GPU执行复杂的运算流程,例如运行3D应用程序或视频直播。但是对于远程办公的专业人员来说,这并不是理想之选,因为GPU与实体设备绑定会限制移动性和灵活性。许多远程工作的用户,可能没有一个性能、储存容量都非常强大的本地设备,所以需要把应用程序、甚至桌面都推到云端及虚拟化产品上。
NVIDIA方面预测,今年在疫情的情况下,虽然由于实体渠道的种种限制或法律条规的管控,零售、实体行业对于GPU的需求可能略微降低,但此消彼涨,数据中心的需求会更显旺盛,企业端对于GPU的需求,可能比以往更猛烈。
判断依据是,当前情况下,企业会前所未有地重视在数据中心或公有云的GPU部署,因为越来越多的应用会迁移到云端虚拟化的工作场景中。无论是企业内部还是给企业客户应用,都有越来越多的图形图象依赖性。尤其是5G普及之后,用户需求更多元化、对质量要求更高,也许传统情况下提供一张图就行,未来要提供动画;或是以前提供简单的动画就可以,未来要提供电影级渲染的动画。远程办公虚拟化是一个比较重要的解决思路,它可以帮助人们在远程办公时还能享受到GPU加速的便利性。
虚拟机存在已久,为什么过去只虚拟化了CPU而没有GPU?施澄秋表示,主要是用户没有认识到必要性。就像过去相当长时间存在的用集显的笔记本电脑,NVIDIA通过种种演示和案例证明了“有GPU相对于没有GPU可以带来生产力的提升”,今天广大用户终于体会到了独显的重要性。虚拟机用户也是如此,以为有了虚拟桌面可以跑企业的各种应用就好了,有CPU足以,但是发现跑起来慢如蜗牛,于是虚拟化GPU的需求就理所当然的体现出来了。
黄仁勋在众多场合“带货GPU”时都提到过,“你买的越多,你省的越多。”施澄秋认为这不是一个玩笑,也不是一个梗,是NVIDIA实实在在帮助用户节约IT投资的一个真实举措。无论是AI、模拟、渲染,都能够相较于传统的CPU节点服务器,给用户节约大量的成本。因此他建议,不仅要有虚拟化的CPU,更重要的是要有虚拟化的GPU,可以帮助用户在虚机上体验到以前实体工作站、实体超算的PC工作站或者实体的图形工作站上都能享受到的GPU加速的性能。
虚拟GPU如何满足或轻或重、或远或近的多样化需求?
工作负载上的用户需求千差万别,NVIDIA如何去满足这些或轻或重、或近或远的需求呢?不同的NVIDIA vGPU软件许可证能够满足多种虚拟化用例的不同需求。NVIDIA将90天免费的虚拟GPU软件评估许可证从128个扩展到500个,主要提供三类专用虚拟GPU(vGPU)软件:(1)NVIDIA GRID虚拟PC/应用程序:面向知识工作者,通过GPU为远程用户提供虚拟化系统和应用程序,能提供与有独显的实体电脑相似的性能,实现响应级虚拟桌面基础架构(VDI),最大限度优化图表、视频等典型办公应用。
(2)NVIDIA Quadro虚拟数据中心工作站(Quadro vDWS):面向使用高级图形应用程序的创作者和技术专业人员,从数据中心提供工作站级的GPU加速性能,有助于分散在各地的团队进行协作,通过任意设备实时安全地访问应用程序和数据。
以前做虚拟化技术,只能把一个GPU虚拟成多个GPU给很多个用户去使用。但今天可以反向虚拟化这个GPU,把多个物理的GPU虚拟成一个更大、更强劲的GPU给一个特定的用户使用。也就是说,可以分散GPU负载、也可以堆叠,也可以快速、大规模共享数据,而这些数据全部可以提供给用户最新、前端的、用户端的需求。比如10比特的色彩精度支持,以前需要一个专业的Quadro图形工作站配合显示设备才可以实现,但是现在Quadro vDWS就可以做到。
从性能来看,如果使用8个Quadro RTX 8000显卡搭配Quadro vDWS软件,算力可提升至CPU的16倍,能大幅减少渲染时间。
从生态来看,Quadro vDWS现支持主流的ISV应用程序及管理监控工具,可从NVIDIA经认证的服务器方案中获取。
(3)NVIDIA Virtual Compute Server软件:数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,通过GPU加速服务器虚拟化,支持AI、深度学习、数据科学和高性能计算服务器虚拟化。
借助NVIDIA Virtual Compute Server (vComputeServer),用户可以获得运行这些工作负载所需的GPU加速性能。数据中心管理员可以在虚拟环境中的GPU服务器上运行AI工作负载,进一步提升了计算的安全性、利用率和可管理性。IT管理员能够让GPU加速虚拟化服务器的管理变得更为简单,同时还能保留现有的工作负载,并降低总体运营成本。与仅使用CPU的服务器相比,基于4颗NVIDIA V100 GPU的vComputeServer将深度学习的速度提高了50倍,性能接近于裸机水平。
虚实结合,为前沿需求注入力量和速度
通过虚拟GPU软件,搭配Quadro RTX服务器,能支持加速渲染、虚拟工作站、AI和数据科学、AR/VR、5G、CAE/Simulation、混合工作负载等各种数据中心负载的加速任务。在云端、企业数据中心以及传统台式机、移动工作站,NVIDIA Quadro均可实现设计和工程应用的加速。据悉,全球90%的专业工作站均由英伟达Quadro提供加速能力。
施澄秋介绍,移动、远程需求下,应运而生的还有NVIDIA RTX Studio,其品牌承诺就是做一个开放式的平台,采用Windows架构,是一个标准的可以安装所有超过数百款已有的ISV程序的情况下。NVIDIA RTX Studio可以让创意和设计用户在超过200款RTX产品上利用GPU加速渲染,其中又有45款可以利用RTX技术、最新一代NVIDIA技术里的各式各样的核心,帮助他们做应用程序的加速,包括AI应用程序和实时光线追踪。
此外还有NVIDIA RTX SERVER虚拟化技术。这个技术是在多个NVIDIA Quadro RTX GPU的基础上,堆叠大量GPU,借助GPU共享,单个GPU可以为多个虚拟机提供动力,最大程度地提高利用率和负载能力,满足从AI和深度学习到数据科学和高性能计算的需求。
由于疫情原因,NVIDIA一年一度的GTC大会改成了线上的模式。这意味着,数百场的技术演讲、技术展示、案例演示,甚至包括帮助用户上手实操的模拟实验室的环境,都需要在云端上进行搭建。这一系列在云端的讲堂、实验室就是典型的分布式远程移动工作和大规模用户同时去存取云端资源的一个案例,也是一个远程办公的体验。
5G普及,桌面虚拟化需求将更兴盛、更容易实现
施澄秋表示,虽然国内的网络带宽能力已大大增强,但是把GPU虚拟化到桌面仍是当前面临的最大问题。因为网络延迟面临着极大的挑战,每一个指令都要从本地端传到云端、再传输到实体的桌面端/客户端,现在要做的是降低延时并减少用户的等待时间。针对上述问题,NVIDIA提出了全新的解决方案。在Quadro RTX以及硬件上做了全新一代的升级,最大可以支持实时8K的RED格式的加密和解密。当然,这还要依赖于网络跳转路由节点和整个延迟的降低,这都需要全方位的强化。施澄秋指出,国内正大规模地普及5G,所以这个痛点也会得到较好的解决,今天把GPU虚拟化到桌面,可能比以往更容易。
由于5G的普及,移动办公的便利性得到提升,桌面虚拟化的需求一定比以往更为兴盛。施澄秋认为,企业虚拟化GPU的侧重点主要是:便于大规模部署、便于大规模实时在线热迁移和热管理,因此他们会更大程度上考虑可管理性、易用性和可扩展性。
至于大规模的虚拟化部署会不会影响到NVIDIA实体GPU的使用?施澄秋认为,二者始终是相辅相成的。不论是云端还是实体端、不论是远端是本地端,GPU的需求始终旺盛。也可以由此反推到用户的使用习惯,今天的用户大部分都不只有一个电子设备。就像双卡双待手机的发展,今天几乎99%的手机具备这一功能,就连苹果也做双卡双待了,这主要由用户需求的多样性决定的。NVIDIA认为本地的GPU需求,不会因为虚拟化GPU极速降低,会持续在两条线上耕耘下去。
结语
新冠疫情在全球范围的扩散,使得全球企业员工的工作模式和形态,都发生了巨大的变化。虚拟云端、虚拟客户机、虚拟工作站,甚至虚拟GPU的发展,都发生了极大变化。不论是应用程序虚拟化,还是用户桌面虚拟化,都是使得一个公司或组织,能够适应当前及未来相当长可预见的情况下基本的工作能力。NVIDIA在此时加大虚拟化GPU的投入力度,再一次实现了从单纯的硬件产品向提供服务的方式进行转变,这也符合NVIDIA一直以来软件化的发展路线。
套用微信小程序的成功逻辑,当网络带宽不再成为限制的前提下,即使在配置不够高的桌面端,也能进行高算力的工作或娱乐,这将是GPU未来的重要应用场景。
本文由电子发烧友网原创,未经授权禁止转载。如需转载,请添加微信号elecfans999.
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
gpu
+关注
关注
28文章
5102浏览量
134485 -
虚拟机
+关注
关注
1文章
968浏览量
30189 -
AI2020
+关注
关注
1文章
22浏览量
6221
发布评论请先 登录
相关推荐
热点推荐
主频3.7GHz、桌面PC市占率登顶!兆芯生态适配成果爆发
电子发烧友网综合报道,兆芯主营业务为高端通用处理器及配套芯片的研发、设计及销售,是目前国内领先的可同时面向桌面PC、服务器、 工作站以及嵌入式等多领域并持续兼容x86指令集的CPU设计企业
NVIDIA桌面GPU系列扩展新产品
NVIDIA 桌面 GPU 系列扩展,推出 NVIDIA RTX PRO 4000 SFF Edition GPU 和 RTX PRO 2000 Blackwell GPU,可提高工程
微信小程序API+京东支付,无缝结账体验满分!
在当今数字化时代,电商平台的核心竞争力之一就是支付体验。用户期望快速、流畅、无摩擦的结账过程,任何延迟或繁琐步骤都可能导致流失。微信小程序作为腾讯推出的轻量级应用平台,凭借其庞大的用户基础和便捷
微信小程序API集成京东库存,移动端销量暴涨!
在当今数字化时代,移动端购物已成为主流趋势。微信小程序作为腾讯旗下的轻量级应用平台,凭借其便捷性和用户粘性,为企业提供了强大的营销渠道。而京东作为中国领先的电商平台,其库存管理系统以高效和精准著称
微信小程序+淘宝API,无缝购物体验提升复购率!
在当今电商竞争激烈的时代,消费者渴望更便捷、流畅的购物体验。微信作为中国最大的社交平台,拥有庞大的用户基础;淘宝则是电商巨头,提供丰富的商品资源。通过将微信小
【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】+NVlink技术从应用到原理
前言
【「算力芯片 | 高性能 CPU/GPU/NPU 微架构分析」书中的芯片知识是比较接近当前的顶尖芯片水平的,同时包含了芯片架构的基础知识,但该部分知识比较晦涩难懂,或许是由于我一直从事的事芯片
发表于 06-18 19:31
解锁BNC插头拆卸新技能,轻松应对维修难题
掌握上述拆卸技能,再棘手的BNC插头拆卸任务也能迎刃而解。维修过程中保持耐心,严格遵循规范操作,不仅能大幅提升维修效率,更能有效延长设备使用寿命。若遇到特殊规格插头或复杂拆卸场景,不妨参考产品手册,或直接联系德索精密工业等专业厂商获取技术支持,确保每一次拆卸都安全、可靠。
毕业设计竞赛选题推荐 | HaaS EDU物联网应用之微信小程序云养花项目实战(含文档及源码)
01引言在快节奏的现代生活中,人们常常渴望亲近自然却又受限于时间和空间。微信小程序云养花项目应运而生,它借助互联网技术和便捷的微信平台,让用
OpenVINO™检测到GPU,但网络无法加载到GPU插件,为什么?
OpenVINO™安装在旧的 Windows 10 版本 Windows® 10 (RS1) 上。
已安装 GPU 驱动程序版本 25.20.100.6373,检测到 GPU,但网络无法加载
发表于 03-05 06:01
微信有远程控制电脑的功能吗?引发网友热议
微信作为一款由腾讯公司推出的社交软件,自问世以来便以其便捷的通讯方式和丰富的功能吸引了大量用户。随着移动支付的普及和互联网技术的不断发展,微信的功能也逐渐扩展至更多领域,包括支付、购物
JetBrains IDE上架开发微信小程序的官方插件
快速发展的特色开发需求,最近 JetBrains 官方开发并上线了一款专用于微信小程序开发的插件(插件名称:WeChat Mini Program)。让开发者无需离开熟悉的开发环境,就能轻松上手
《CST Studio Suite 2024 GPU加速计算指南》
- smi启用或禁用。
- 其他:还介绍了独占计算模式、显示链接、组合MPI计算和GPU计算、服务用户、GPU计算使用Windows远程桌面、运行多个模拟、视频卡驱动、操作条件、最新CST服务包、
发表于 12-16 14:25

GPU霸主的新技能:PC桌面化身“微信小程序”
评论