0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

腾讯云正式发布了基于NVIDIA T4的虚拟GPU计算产品

lhl545545 来源:通信世界 作者:佚名 2019-12-13 10:37 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

GN7是全球首个公有云上基于NVIDIA T4以及vComputeServer的虚拟化实例,能够加速人工智能机器学习和数据科学的工作负载。

今日,腾讯云正式对外发布基于 NVIDIA T4 的虚拟GPU(vGPU)计算产品GN7实例,这也是全球首家公有云实现了基于NVIDIAT4GPU及NVIDIA vComputeServer软件的vGPU实例。

基于多精度支持,NVIDIA T4拥有可加速深度学习训练和推理、机器学习以及数据科学工作负载的 Tensor Core,以及丰富的平台堆栈,包括用于深度学习的cuDNN、用于数据分析和机器学习的NVIDIARAPIDS、用于云工作站图形的NVIDIAQuadro虚拟工作站和用于云游戏的NVIDIA游戏软件。结合用于GPU虚拟化的 vComputeServer软件,腾讯云客户可以灵活选择在虚拟环境中运行GPU加速的工作负载,从而在提高安全性和利用率的同时降低成本。

腾讯云副总裁刘颖表示:“人工智能的迅速发展对算力需求提出了各种挑战,而我们专注解决这些问题,为客户提供全方位的产品解决方案。腾讯云GN7实例通过部署NVIDIA T4 GPU,提供丰富多样的实例规格,满足从计算视觉到语音以及NLP等不同层次的算力需求。NVIDIA vComputeServer进一步丰富了算力粒度,为用户提供了更多选择的可能,最终为客户节省成本。”

NVIDIA专业可视化业务副总裁Bob Pette表示:“企业正在迅速实施人工智能(AI)策略,AI策略需要依靠现代应用程序才能实现,而现代应用程序则需强大算力的支持。如今,在NVIDIA vComputeServer的助力之下,腾讯云可以轻松地帮助客户实施并扩展数据分析、机器学习、AI以及企业中的其他工作负载。”

多重特性,广泛适用不同AI场景

凭借强大的计算能力和弹性能力,GN7实例在海量数据处理和人工智能领域都具有广阔的应用价值。它既可以满足诸如搜索、大数据分析等需要对海量数据进行处理的业务场景,也可以作为深度学习训练和推理的系统平台。GN7实例的虚拟化特性也十分适合互联网业务中人工智能业务的批量部署以及云游戏,AR/VR在云端的应用。目前GN7实例已经在腾讯云自有的智能钛弹性模型服务(TI-EMS)上实现了应用。该平台通过使用vGPU做小模型推理,帮助用户解决复杂模型部署和GPU利用成本效益等问题。

进一步降低成本

GN7实例降低了GPU加速的初始投资成本,是初创企业、大学和企业在评估AI时的经济选择。 NVIDIA vComputeServer软件通过对NVIDIAT4进行虚拟化,使多台虚拟机(VM)可以同时访问GPU或者使一台虚拟机可以访问多颗 GPU,从而实现性能的最大化。因此,腾讯云用户可以根据工作负载的需求灵活选择对应的GPU加速量。

比如在进行简单模型推理这一类低算力需求的应用时,用户无须再像以往必须使用单颗物理GPU,而是可以根据自身业务具体类型对GPU算力的需求,灵活选择匹配的vGPU资源,提升了计算资源的利用率,从而有效降低用户的使用成本,避免因配置不足或配置过度而产生成本。比如,通过使用1/2 vGPU实例规格,成本相对单卡实例降低了50%。

更出色的安全性

一直以来,腾讯云都在致力于通过最新虚拟化技术研发为用户提供最安全最便利的异构计算产品。GN7实例具有更出色的性能与安全性,能够安全隔离公有云上的实例。 相比过往进程级别的虚拟化GPU,GN7的升级点在于其提供的设备级虚拟化vGPU是完全模拟出来一个GPU设备,在支持GPU硬件的绝大多数特性的同时,还能够做到操作系统级别的隔离,而且不同的用户使用也不用担心资源争抢的问题。

下周,在于苏州举办的GTC大会上,腾讯云海将会演示NVIDIA GPU加速的云服务,并介绍如何从云端部署AI工作负载。
责任编辑;zl

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5099

    浏览量

    134462
  • 人工智能
    +关注

    关注

    1813

    文章

    49739

    浏览量

    261549
  • 腾讯云
    +关注

    关注

    0

    文章

    224

    浏览量

    17383
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA RTX PRO 4500 Blackwell GPU测试分析

    今天我们带来全新 NVIDIA Blackwell 架构 GPU —— NVIDIA RTX PRO 4500 Blackwell 的测试,对比上一代产品
    的头像 发表于 08-28 11:02 2873次阅读
    <b class='flag-5'>NVIDIA</b> RTX PRO 4500 Blackwell <b class='flag-5'>GPU</b>测试分析

    NVIDIA桌面GPU系列扩展新产品

    NVIDIA 桌面 GPU 系列扩展,推出 NVIDIA RTX PRO 4000 SFF Edition GPU 和 RTX PRO 2000 Blackwell
    的头像 发表于 08-18 11:50 997次阅读

    硅谷GPU服务器是什么意思?使用指南详解

    硅谷GPU服务器本质上是一种IaaS(基础设施即服务)产品,它将物理服务器上的GPU资源通过虚拟化技术分割成可弹性调配的
    的头像 发表于 06-16 09:41 419次阅读

    NVIDIA NVLink 深度解析

    引言 NVIDIA NVLink 是一种关键的高速互连技术,专为加速计算而设计,尤其是在多 GPU 系统以及 GPU 和支持 CPU 之间 ^1^。NVLink 的出现标志着传统互连瓶
    的头像 发表于 05-06 18:14 4097次阅读

    NVIDIA虚拟GPU 18.0版本的亮点

    NVIDIA 虚拟 GPU(vGPU)技术可在虚拟桌面基础设施(VDI)中解锁 AI 功能,使其比以往更加强大、用途更加广泛。vGPU 通过为各种
    的头像 发表于 04-07 11:28 1130次阅读

    GPU 加速计算:突破传统算力瓶颈的利刃

    在数字化时代,数据呈爆炸式增长,传统的算力已难以满足复杂计算任务的需求。无论是人工智能的深度学习、大数据的分析处理,还是科学研究中的模拟计算,都对算力提出了极高的要求。而 GPU
    的头像 发表于 02-17 10:36 517次阅读

    芯瞳与腾讯达成战略合作,共推GPU领域创新

    近日,芯瞳半导体技术(厦门)有限公司(简称“芯瞳”)与腾讯计算(北京)有限责任公司(简称“腾讯”)宣布达成战略合作,携手聚焦
    的头像 发表于 02-11 15:16 1002次阅读

    GPU计算服务怎么样

    在当今数字化快速发展的时代,高性能计算需求日益增长。为满足这些需求,GPU计算服务应运而生。那么,GPU
    的头像 发表于 02-05 15:01 680次阅读

    利用NVIDIA DPF引领DPU加速计算的未来

    越来越多的企业开始采用加速计算,从而满足生成式 AI、5G 电信和主权的需求。NVIDIA 推出了 DOCA 平台框架(DPF),该框架提供基础构建模块来释放
    的头像 发表于 01-24 09:29 1278次阅读
    利用<b class='flag-5'>NVIDIA</b> DPF引领DPU加速<b class='flag-5'>云</b><b class='flag-5'>计算</b>的未来

    NVIDIA和GeForce RTX GPU专为AI时代打造

    NVIDIA 和 GeForce RTX GPU 专为 AI 时代打造。
    的头像 发表于 01-06 10:45 1251次阅读

    借助NVIDIA GPU提升鲁班系统CAE软件计算效率

    本案例中鲁班系统高性能 CAE 软件利用 NVIDIA 高性能 GPU,实现复杂产品的快速仿真,加速产品开发和设计迭代,缩短开发周期,提升产品
    的头像 发表于 12-27 16:24 1150次阅读

    GPU加速服务器怎么用的

    GPU加速服务器是将GPU硬件与计算服务相结合,通过服务提供商的平台,用户可以根据需求灵活
    的头像 发表于 12-26 11:58 853次阅读

    GPU服务器租用费用贵吗

    计算领域,GPU服务器因其强大的计算能力和图形处理能力,被广泛应用于多个领域。然而,对于许多企业和个人开发者来说,
    的头像 发表于 12-19 17:55 1115次阅读

    《CST Studio Suite 2024 GPU加速计算指南》

    GPU Computing Guide》是由Dassault Systèmes Deutschland GmbH发布的有关CST Studio Suite 2024的GPU计算指南。
    发表于 12-16 14:25

    腾讯申请注册“腾讯AI代码助手”商标

    近日,腾讯科技(深圳)有限公司正式向相关机构申请注册两枚“腾讯AI代码助手”商标。这两枚商标的国际分类分别为科学仪器和网站服务,目前正处于等待实质审查的阶段。 据了解,
    的头像 发表于 12-13 10:28 971次阅读