近日,谷歌宣布云端加速器TPU开始进一步支持深度学习函式库PyTorch,仅需使用Python套件PyTorch/XLA,进行最小程度的修改,就能够使用TPU来加速机器学习工作负载,且在TPU还不支援的操作,自动退回到以CPU运算,同时PyTorch/XLA也会生成详细的报告,帮助使用者发现应用程序瓶颈,高效执行机器学习工作负载。
XLA是Google在2018年推出的最佳化编译器,通过最佳化算法运算,可以提升机器学习模型的执行速度,XLA支援处理器以及绘图卡,也能够在Google TPU上执行,并可以让Cloud TPU更容易支持PyTorch。
在最新的PyTorch/XLA上,使Cloud TPU正式支援PyTorch 1.6,在基础设施层提供模型平行运算能力,允许开发者可以在多个TPU核心上,分散大规模嵌入表,因此有能力创建许多过去无法实现的应用。
另外,谷歌还在云端上发布的深度学习虚拟机器(DLVM)映像档,其中包括PyTorch等各种深度学习框架,而 PyTorch/XLA 1.6现在预装在DLVM中,并且已经对Cloud TPU进行最佳化。
为了让开发者更好上手PyTorch/XLA,Google云端还提供一组常用深度学习模型开源实作,以及相关的教程,这些模型包括使用ImageNet资料集的图像分类任务ResNet-50,还有Transformer、RoBERTa以及BERT等知名模型,也能使用PyTorch 1.6才加入,由脸书开发的深度学习推荐模型(DLRM)。官方提到,在Cloud TPU训练这些模型,大部分的情况仅需修改少量代码即可实现。
责任编辑:pj
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
相关推荐
VMware虚拟机的三种网络模式 VMware是一种广泛使用的虚拟机软件,可以创建和管理多个虚拟机。在使用VMware虚拟机时,网络设置非常重要,因为它决定了
发表于 02-04 11:17
•495次阅读
虚拟机ubuntu怎么联网 虚拟机(Virtual Machine)是运行在物理机(Host Machine)上的虚拟操作系统环境。在虚拟机中安装Ubuntu操作系统后,需要进行网络
发表于 12-27 16:51
•548次阅读
设置虚拟机的root权限是一项关键且复杂的任务,需要在虚拟机的操作系统中进行。下面将详细介绍如何在不同的虚拟化平台中设置虚拟机的root权限。 VMware
发表于 11-23 10:55
•4990次阅读
进入虚拟机的root用户,需要通过以下步骤完成。首先,我们需要明确一点,root用户是Linux系统下的超级管理员,具有最高权限。 第一步:打开虚拟机 首先,要确保已经安装了虚拟机软件,并启动
发表于 11-23 10:51
•6833次阅读
在计算机领域,虚拟机是一种软件程序,它允许在主操作系统上运行多个虚拟操作系统。Linux虚拟机在开发、测试和学习等环境中得到广泛应用。本文将详细介绍如何安装Linux
发表于 11-23 10:50
•618次阅读
Docker和虚拟机是两种不同的虚拟化技术,它们在实现方式、资源消耗、运行性能等方面存在许多差异。本文将会详细介绍它们的区别。 一、实现方式 1.1 虚拟机 虚拟机是通过在物理主机上模
发表于 11-23 09:37
•2413次阅读
虚拟机(Virtual Machine,VM)是一种模拟了物理计算机的软件,可以在计算机上创建虚拟的硬件平台,使得用户可以在其中运行操作系统和应用程序。在虚拟机中运行C程序需要进行多个步骤,下面将给
发表于 11-17 10:14
•2190次阅读
在虚拟机中编程Linux系统是学习和探索计算机科学的一个重要方面。使用虚拟机可以在主机上模拟出一个或多个独立的计算环境,我们可以在其中安装和运行不同的操作系统。通过创建虚拟机,我们可以
发表于 11-17 10:10
•825次阅读
Linux虚拟机系统是一种通过虚拟化技术在物理服务器上部署多个独立的虚拟机实例的操作系统。它可以帮助用户更有效地利用硬件资源,并方便地部署和管理多个操作系统环境。本文将介绍一些常用的Linux
发表于 11-17 10:04
•629次阅读
本文将教你编写一个自己的虚拟机(VM),这个虚拟机能够运行汇编语言编写的程序, 例如我朋友编写的 2048 或者我自己的 Roguelike。如果你会编程,但希望 更深入地了解计算机的内部原理以及
发表于 11-01 10:48
•575次阅读
深度学习这几年特别火,就像5年前的大数据一样,不过深度学习其主要还是属于机器学习的范畴领域内,所
发表于 09-06 12:48
•1341次阅读
本文章会详细介绍虚拟机下载与安装的步骤,有很多读者都会遇到这样的情况,软件装不上,自己的电脑中软件很多,又不想换电脑系统,那么虚拟机可以帮你解决这个烦恼。 0 1 什么是虚拟机? 虚拟
发表于 09-04 10:16
•1021次阅读
GPU 的 A3 GPU 虚拟机,加速 AI 模型训练速度 谷歌云近日宣布,他们将在下个月正式推出搭载 Nvidia H100 GPU 的 A3 GPU 虚拟机。这款 A3
发表于 08-31 13:00
•399次阅读
机器学习和深度学习是当今最流行的人工智能(AI)技术之一。这两种技术都有助于在不需要人类干预的情况下让计算机自主学习和改进预测模型。本文
发表于 08-28 17:31
•1054次阅读
机器学习和深度学习的区别 随着人工智能技术的不断发展,机器学习和
发表于 08-17 16:11
•3389次阅读
评论