行业 | 运行在GPU上的四种不同的推理方式

从Alexa和谷歌地图导航等语音助手，到Bing的对话搜索，人工智能已经成为许多人日常生活的一部分。

这些任务需要执行深度学习推理，也可以被认为是将人工智能应用于场景。

为人工智能提供动力的深度学习神经网络是基于大量数据进行训练的。将这种训练应用于数字世界——识别口语、图像或路标，或者建议你可能想买的衬衫或下一部要看的电影等，这就是推理。

GPU上推理应用的范围之广可能让您大吃一惊。 从木材行业到古代日本文本的研究，它无处不在。

下面即将为您呈现运行在GPU上的四种不同的推理方式。

打击诈骗

PayPal正在使用GPU上的深度学习推理来精确定位欺诈性交易，并帮助确保它们不会再次发生。

这家公司每天处理数百万笔交易。人工智能的进步，尤其是基于逻辑回归的神经网络模型使其能够过滤掉欺骗商家的行为，并打击非法产品的销售。

通过确定某些交易失败的原因和发现提高工作效率的机会，深度学习模型还可以帮助PayPal来优化其运营。

而且，由于这些模型总是在学习，它们可以根据人们的兴趣提供相关的广告，从而使用户体验个性化。

洞察天气

总部位于波士顿的ClimaCell公司正致力于通过密切倾听大自然的强大声音，为天气预报带来前所未有的速度、精度和准确性。

该公司利用GPU的推理，提供超本地化、高分辨率的“近距离预报”，可以帮助企业和人们在铺路项目、风力发电、以及规划每日通勤以避免恶劣天气等方面做出更好的决定。该公司还提供预测和历史数据。

ClimaCell的GPU模型在运行中

为了实现这一目标，该公司编写了一种软件，可以将现有通信网络中的信号转换成传感器，从而分析周围环境并提取实时天气数据。

ClimaCell的网络可以快速分析这些信号，并将它们与美国国家海洋和大气管理局 (National Oceanic and Atmospheric Administration，简称NOAA) 的数据整合起来，然后使用运行在NVIDIA GPU加速器上的预测模型将它们结合在一起。

检测癌症

乳腺X光机在检测乳腺癌方面很有效，但却比较昂贵。在许多发展中国家，该机器很少在大城市以外的地区普及。

Mayo诊所的研究人员Viksit Kumar正在领导一项工作，利用GPU支持的推理技术，通过超声波设备更准确地对乳腺癌图像进行分类，这种设备在全世界范围内都更便宜，也更容易获得。

根据他们的研究论文，Kumar和他的团队已经能够非常准确地检测和分割乳腺癌肿块，很少出现假阳性。

红色轮廓显示了人工分割的肿瘤边界，而深度学习预测的边界以蓝色、绿色和青色显示。

该团队使用NGC注册表中的TensorFlow深度学习框架容器在NVIDIA GPU上进行本地处理。它还使用NVIDIA V100 Tensor核心GPU在AWS上使用相同的容器。

最终，Kumar希望将超声波图像用于其他类型疾病的早期检测，如甲状腺癌和卵巢癌。

制作音乐

MuseNet是一个来自人工智能研究组织OpenAI的深度学习算法演示，它可以使用10种乐器和许多不同的风格自动生成音乐——从流行音乐到古典音乐。

通过将不同的乐器和声音应用到算法生成的音乐中，人们可以创建全新的曲目。演示使用NVIDIA V100 Tensor 核心 GPU来完成这个推理任务。

使用此演示，您可以对您最喜欢的歌曲进行改编。比如加入吉他、去掉钢琴、加入鼓点，或者把它的风格改成爵士乐或者古典摇滚。

该算法并不是为了模仿人类对音乐的理解而编写的。相反，它接受了数十万首歌曲的训练，使它能够学习音乐中普遍存在的和弦、节奏和曲风。

其72层网络使用NVIDIA V100 Tensor 核心 GPU和cuDNN加速的TensorFlow深度学习框架进行训练。