0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Microsoft Azure推出VIDIA A100 GPU VM系列

NVIDIA英伟达 来源:NVIDIA英伟达 作者:NVIDIA英伟达 2021-06-11 16:53 次阅读

近日 Microsoft Azure 宣布正式推出 ND A100 v4 VM 系列,这是适用于超级计算级 AI 和 HPC 负载的强大虚拟机,由 NVIDIA A100 Tensor Core GPU 和 NVIDIA HDR InfiniBand 提供支持。

NVIDIA 与 Azure 合作构建了这款新的纵向扩展和横向扩展 AI 平台,整合了开创性 NVIDIA Ampere 架构 GPU、NVIDIA 网络技术以及 Azure 高性能互联和虚拟机网络的强大功能,让人人都能使用 AI 超级计算。

在应对 AI 和高性能计算面临的巨大挑战时,规模是重中之重。得益于加速计算,自然语言处理、推荐系统、医疗健康研究、药物研发和能源以及其他领域均取得了巨大进展。

大部分进展源自大规模运行的应用程序。为加速这一趋势,应用程序所基于的运行架构必须灵活易用,并且可以纵向扩展和横向扩展。

ND A100 v4 VM 在单个 VM 中汇集了八个 NVIDIA A100 GPU,并且搭载 NVIDIA HDR InfiniBand,使每个 GPU 都获得 200 Gb/s 的数据带宽。总体每个 VM 的互联带宽高达 1.6 Tb/s。

对于要求严苛的 AI 和高性能计算工作负载,可以进一步扩展为数千个 NVIDIA A100 GPU 规模同时维持相同的超低延迟 InfiniBand 网络,为多节点分布式计算提供强大的计算和网络功能。

适合开发者

开发者有多种选择,可通过 ND A100 v4 VM 中的 NVIDIA A100 GPU 为其应用程序提供出色性能,这些应用程序部署后,既用于应用程序开发,也用于管理基础设施。

为简化和加速开发,NVIDIA NGC 目录提供即用型 GPU 优化应用程序框架、容器、预训练模型、库、SDK 和 Helm 图表。借助 Azure Marketplace 上适用于 AI 和高性能计算的预构建 NVIDIA GPU 优化镜像,开发者只需单击几下即可开始从 NGC 目录使用 GPU 加速软件。

ND A100 v4 VM 还支持在 Azure 机器学习服务中使用,适用于交互式 AI 开发、分布式训练、批量推理和 ML 运算自动化。

使用 ND A100 v4 VM 在生产环境中部署机器学习管线,这一流程因 NVIDIA Triton 推理服务器而得到进一步简化。NVIDIA Triton 推理服务器是一款开源推理服务应用程序,与 Azure ML 集成,可更大限度地提高 GPU 和 CPU 的性能和利用率,从而将部署运营成本降至更低。

开发者和基础设施经理很快也能使用 Azure Kubernetes Service,这是一项完全托管的 Kubernetes 服务,用于部署和管理 ND A100 v4 VM(支持 NVIDIA A100 GPU)上的容器化应用程序。

更多相关信息,请点击“阅读原文”,观看《Azure:借助势头正劲的 AI 和高性能计算赋能世界》 GTC21 主题演讲。

原文标题:Microsoft Azure 宣布正式推出 NVIDIA A100 GPU VM

文章出处:【微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    4598

    浏览量

    101769
  • AI
    AI
    +关注

    关注

    87

    文章

    26485

    浏览量

    264118
  • Microsoft
    +关注

    关注

    0

    文章

    187

    浏览量

    6732

原文标题:Microsoft Azure 宣布正式推出 NVIDIA A100 GPU VM

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟达a100和h100哪个强?英伟达A100和H100的区别

    基于Ampere架构的GPU计算加速器,专为高性能计算、人工智能和机器学习等领域而设计。它拥有高达6912个CUDA核心(在32GB版本中),是目前最强大的数据中心GPU之一。A100支持更快的训练速度和更大的模型容量,适用于需
    的头像 发表于 08-09 17:31 3.6w次阅读

    英伟达h800和a100的区别

    英伟达h800和a100的区别 NVIDIA H800和A100是NVIDIA的两种不同类型的GPU,具有不同的架构和特点。以下是它们之间的区别: 1. 架构:H800使用NVIDIA Volta
    的头像 发表于 08-08 16:05 1.4w次阅读
    英伟达h800和<b class='flag-5'>a100</b>的区别

    英伟达h800和a100参数对比

    英伟达h800和a100参数对比 NVIDIA H800和A100是两款高端的GPU产品,下面是它们的参数对比: 1.架构: H800采用的是Volta架构,而A100则是NVIDIA
    的头像 发表于 08-08 15:53 2.5w次阅读
    英伟达h800和<b class='flag-5'>a100</b>参数对比

    英伟达a100有国产替代吗?

    和昇腾920芯片均具有AI处理能力。另外,国内企业紫光展锐、寒武纪等也在不断推出性能与英伟达A100相近的AI芯片。虽然目前这些芯片还无法完全替代英伟达A100,但随着技术的不断进步和发展,未来会有越来越多的国产芯片可以拥有与
    的头像 发表于 08-08 15:37 3702次阅读

    英伟达A100的算力是多少?

    ,但 A100 的算力是前者的 20 倍。 A100是英伟达推出的一款强大的数据中心GPU,采用全新的Ampere架构。它拥有高达6,912个CUDA核心和40GB的高速HBM2显存。
    的头像 发表于 08-08 15:28 2.4w次阅读

    英伟达A100的优势分析

    英伟达A100的优势分析 在大模型训练中,A100是非常强大的GPUA100是英伟达推出的一款强大的数据中心
    的头像 发表于 08-08 15:25 2671次阅读

    英伟达A100的简介

    A100是英伟达公司推出的一款面向高性能计算(HPC)和人工智能(AI)的加速计算卡。它采用了全球首个基于7nm工艺的数据中心GPU架构Ampere,拥有6912个CUDA核心和432个张量核心
    的头像 发表于 08-08 15:17 7635次阅读

    英伟达A100是什么系列

    被暴抢。 英伟达A100是英伟达推出的一款数据中心GPU系列,采用了全新的Ampere架构。它是一款专为深度学习、科学计算、超级计算等工作负载设计的高性能计算解决方案,拥有更高的计算能
    的头像 发表于 08-08 15:13 2256次阅读

    英伟达A100和A40的对比

    英伟达A100和A40的对比 A100是英伟达推出的一款强大的数据中心GPU,采用全新的Ampere架构。它拥有高达6,912个CUDA核心和40GB的高速HBM2显存。可以实现高达1
    的头像 发表于 08-08 15:08 1.3w次阅读

    英伟达A100和V100参数对比

    宽带。英伟达A100还配备了英伟达的第三代NVLink互连技术和第二代NVSwitch交换机,可以实现高带宽、低延迟的GPU-GPU通信,提升集群中的计算效率
    的头像 发表于 08-08 11:54 9438次阅读
    英伟达<b class='flag-5'>A100</b>和V<b class='flag-5'>100</b>参数对比

    英伟达A100和H100的区别

    英伟达A100和H100的区别 英伟达A100和H100是两种不同的产品。A100是英伟达在2020年
    的头像 发表于 08-07 18:06 2.4w次阅读

    英伟达a100显卡算力介绍

    限度地提高深度学习和人工智能的训练和推理速度。 此外,英伟达还推出A100 PCIe版本,使其能够在更广泛的服务器和数据中心环
    的头像 发表于 08-07 17:59 5911次阅读

    英伟达a100和a800的区别

    Core加速器,而A800则没有。 5. 能效比不同:A100比A800更节能,功耗为400W,而A800为250W。 总的来说,A100在AI计算方面表现更加强大,而A800适用于对GPU计算要求较低的场景。
    的头像 发表于 08-07 17:57 3.2w次阅读

    英伟达a100和h100哪个强?

    版本制程(4N)打造,单块芯片包含 800 亿晶体管。 A100都是非常强大的GPUA100配备高达6,912个CUDA核心,A100是英伟达推出
    的头像 发表于 08-07 17:32 1.1w次阅读

    a800怎么样 a800和A100显卡区别

    时间推回到2022年11月,英伟达推出了中国特供版GPU芯片A800,可以直接取代A100系列,是专门为了解决美国商务部半导体出口新规而设计。其芯片数据传输速率为400GB/s,低于
    发表于 07-31 14:15 7865次阅读
    a800怎么样 a800和<b class='flag-5'>A100</b>显卡区别