0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

腾讯云正式发布了基于NVIDIA T4的虚拟GPU计算产品

lhl545545 来源:通信世界 作者:佚名 2019-12-13 10:37 次阅读

GN7是全球首个公有云上基于NVIDIA T4以及vComputeServer的虚拟化实例,能够加速人工智能机器学习和数据科学的工作负载。

今日,腾讯云正式对外发布基于 NVIDIA T4 的虚拟GPU(vGPU)计算产品GN7实例,这也是全球首家公有云实现了基于NVIDIAT4GPU及NVIDIA vComputeServer软件的vGPU实例。

基于多精度支持,NVIDIA T4拥有可加速深度学习训练和推理、机器学习以及数据科学工作负载的 Tensor Core,以及丰富的平台堆栈,包括用于深度学习的cuDNN、用于数据分析和机器学习的NVIDIARAPIDS、用于云工作站图形的NVIDIAQuadro虚拟工作站和用于云游戏的NVIDIA游戏软件。结合用于GPU虚拟化的 vComputeServer软件,腾讯云客户可以灵活选择在虚拟环境中运行GPU加速的工作负载,从而在提高安全性和利用率的同时降低成本。

腾讯云副总裁刘颖表示:“人工智能的迅速发展对算力需求提出了各种挑战,而我们专注解决这些问题,为客户提供全方位的产品解决方案。腾讯云GN7实例通过部署NVIDIA T4 GPU,提供丰富多样的实例规格,满足从计算视觉到语音以及NLP等不同层次的算力需求。NVIDIA vComputeServer进一步丰富了算力粒度,为用户提供了更多选择的可能,最终为客户节省成本。”

NVIDIA专业可视化业务副总裁Bob Pette表示:“企业正在迅速实施人工智能(AI)策略,AI策略需要依靠现代应用程序才能实现,而现代应用程序则需强大算力的支持。如今,在NVIDIA vComputeServer的助力之下,腾讯云可以轻松地帮助客户实施并扩展数据分析、机器学习、AI以及企业中的其他工作负载。”

多重特性,广泛适用不同AI场景

凭借强大的计算能力和弹性能力,GN7实例在海量数据处理和人工智能领域都具有广阔的应用价值。它既可以满足诸如搜索、大数据分析等需要对海量数据进行处理的业务场景,也可以作为深度学习训练和推理的系统平台。GN7实例的虚拟化特性也十分适合互联网业务中人工智能业务的批量部署以及云游戏,AR/VR在云端的应用。目前GN7实例已经在腾讯云自有的智能钛弹性模型服务(TI-EMS)上实现了应用。该平台通过使用vGPU做小模型推理,帮助用户解决复杂模型部署和GPU利用成本效益等问题。

进一步降低成本

GN7实例降低了GPU加速的初始投资成本,是初创企业、大学和企业在评估AI时的经济选择。 NVIDIA vComputeServer软件通过对NVIDIAT4进行虚拟化,使多台虚拟机(VM)可以同时访问GPU或者使一台虚拟机可以访问多颗 GPU,从而实现性能的最大化。因此,腾讯云用户可以根据工作负载的需求灵活选择对应的GPU加速量。

比如在进行简单模型推理这一类低算力需求的应用时,用户无须再像以往必须使用单颗物理GPU,而是可以根据自身业务具体类型对GPU算力的需求,灵活选择匹配的vGPU资源,提升了计算资源的利用率,从而有效降低用户的使用成本,避免因配置不足或配置过度而产生成本。比如,通过使用1/2 vGPU实例规格,成本相对单卡实例降低了50%。

更出色的安全性

一直以来,腾讯云都在致力于通过最新虚拟化技术研发为用户提供最安全最便利的异构计算产品。GN7实例具有更出色的性能与安全性,能够安全隔离公有云上的实例。 相比过往进程级别的虚拟化GPU,GN7的升级点在于其提供的设备级虚拟化vGPU是完全模拟出来一个GPU设备,在支持GPU硬件的绝大多数特性的同时,还能够做到操作系统级别的隔离,而且不同的用户使用也不用担心资源争抢的问题。

下周,在于苏州举办的GTC大会上,腾讯云海将会演示NVIDIA GPU加速的云服务,并介绍如何从云端部署AI工作负载。
责任编辑;zl

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4417

    浏览量

    126689
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230597
  • 腾讯云
    +关注

    关注

    0

    文章

    190

    浏览量

    16617
收藏 人收藏

    评论

    相关推荐

    FPGA在深度学习应用中或将取代GPU

    现场可编程门阵列 (FPGA) 解决 GPU 在运行深度学习模型时面临的许多问题 在过去的十年里,人工智能的再一次兴起使显卡行业受益匪浅。英伟达 (Nvidia) 和 AMD 等公司的股价也大幅
    发表于 03-21 15:19

    NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

    NVIDIA 软件实现了跨  Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据处理、高性能计算和云工作负载的性能
    发表于 03-19 10:05 115次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>发布</b>全新交换机,全面优化万亿参数级 <b class='flag-5'>GPU</b> <b class='flag-5'>计算</b>和 AI 基础设施

    如何选择NVIDIA GPU虚拟化软件的组合方案呢?

    NVIDIA vGPU 解决方案能够将 NVIDIA GPU 的强大功能带入虚拟桌面、应用程序和工作站,加速图形和计算,使在家办公或在任何地
    的头像 发表于 01-12 09:26 273次阅读
    如何选择<b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b>和<b class='flag-5'>虚拟</b>化软件的组合方案呢?

    《数据处理器:DPU编程入门》DPU计算入门书籍测评

    一、DPU计算框架 通过一周多的时间翻阅这本书,基本上这本书是一本比较全面的,面向架构的新手指导数据。它在书中详尽介绍关于DPU在计算机架构中的应用。 对于DPU来说,是一种平行于CPU和
    发表于 12-24 10:54

    【ELF 1开发板试用】+ 8.2 MQTT开发——连接腾讯【原创】

    是可以顺利编译的,有的就不行,这个项目编译就会报错 腾讯 平台部署 没有腾讯账号的可以进行一个简单的登录并实名认证:Free 腾讯
    发表于 12-15 23:10

    NVIDIA GPU的核心架构及架构演进

    在探讨 NVIDIA GPU 架构之前,我们先来了解一些相关的基本知识。GPU 的概念,是由 NVIDIA 公司在 1999 年发布 Gef
    发表于 11-21 09:40 434次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b>的核心架构及架构演进

    创新企业云福利:腾讯云 × NVIDIA 初创加速计划

    云 x NVIDIA 初创加速计划 助您降低产品使用门槛 高性能计算集 群 HCC 以高性能云服务器为节点,通过 RDMA 互联,大幅提升网络性能,提供高带宽和极低延迟的网络服务,能满足大规模高性能
    的头像 发表于 11-13 20:40 381次阅读
    创新企业云福利:<b class='flag-5'>腾讯</b>云 × <b class='flag-5'>NVIDIA</b> 初创加速计划

    什么是虚拟GPU虚拟GPU的优势有哪些?

    虚拟 GPU,也称为 vGPU,是通过将数据中心 GPU 进行虚拟化,用户可在多个虚拟机中共享该 GPU
    的头像 发表于 11-10 09:48 697次阅读
    什么是<b class='flag-5'>虚拟</b><b class='flag-5'>GPU</b>?<b class='flag-5'>虚拟</b><b class='flag-5'>GPU</b>的优势有哪些?

    177倍加速!NVIDIA最新开源 | GPU加速各种SDF建图!

    但最近,NVIDIA和ETHZ就联合提出了nvblox,是一个使用GPU加速SDF建图的库。计算速度非常快,相较CPU计算TSDF甚至快了177倍。更重要的是,因为所有数据都已经存储在
    的头像 发表于 11-09 16:46 554次阅读
    177倍加速!<b class='flag-5'>NVIDIA</b>最新开源 | <b class='flag-5'>GPU</b>加速各种SDF建图!

    Oracle 云基础设施提供新的 NVIDIA GPU 加速计算实例

    。为了帮助满足这一需求,Oracle 云基础设施(OCI)于近日宣布,在 OCI Compute 上全面提供 NVIDIA H100 Tensor Core GPU ,同时 NVIDIA L40S
    的头像 发表于 09-25 20:40 287次阅读
    Oracle 云基础设施提供新的 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>GPU</b> 加速<b class='flag-5'>计算</b>实例

    圆满落幕!NVIDIA 携前沿 AI 技术与产品,惊艳亮相 2023 腾讯全球数字生态大会!

    NVIDIA 在本届大会带来了丰富的 AI 技术展示及专题演讲。现在就带您回顾五大活动亮点。 亮点一:NVIDIA 专场演讲 畅谈 AI 创新技术底座 洞察行业未来加速计算发展与新机遇 9 月 7 日,
    的头像 发表于 09-12 20:40 643次阅读
    圆满落幕!<b class='flag-5'>NVIDIA</b> 携前沿 AI 技术与<b class='flag-5'>产品</b>,惊艳亮相 2023 <b class='flag-5'>腾讯</b>全球数字生态大会!

    NVIDIA虚拟GPU技术推动快速无痛的牙科治疗

    NVIDIA虚拟GPU技术推动快速无痛的牙科治疗
    的头像 发表于 08-01 14:46 297次阅读

    NVIDIA 将亮相 InfoComm China 2023,携手丽台展示虚拟制作专业视觉解决方案

    NVIDIA 专业视觉解决方案,展示 NVIDIA 技术与产品赋能下的专业视觉计算虚拟拍摄体验。 时间: 2023 年 7 月 19 日
    的头像 发表于 07-14 19:50 479次阅读
    <b class='flag-5'>NVIDIA</b> 将亮相 InfoComm China 2023,携手丽台展示<b class='flag-5'>虚拟</b>制作专业视觉解决方案

    NVIDIA “魔盒”有哪些“内涵”

    飞凌AI边缘计算终端FCU3001采用 NVIDIA Jetson Xavier NX定制开发,先来一张产品开箱后的“全家福”: ​ AI 边缘计算终端FCU3001的体积非常小巧
    发表于 05-26 14:12

    RISC-V入!赛昉科技联合中国电信完成首个RISC-V云原生轻量级虚拟机验证

    QEMU+KVM虚拟化方案,TeleVM在RISC-V架构下的内存开销降低了约90%,启动时延减少了约80%。 中国电信在近日举办的第六届数字中国建设峰会·生态大会发布这一成果,
    发表于 05-11 14:08