基于GPU服务器的应用方案，如何选择合适的产品

高性能计算、人工智能计算，通常指使用很多的处理器进行并行运算，可为企业创造非凡的价值。CPU、GPU、FPGA或者ASIC，均可实现计算功能，并通过高性能网络互连，实现集群运算。从性能角度分析，CPU《GPU《FPGA《ASIC，从编程的灵活度分析 ，CPU》GPU》FPGA》ASIC。所以，综合了性能和编程可实现性，我们会选择GPU来实现高性能计算。

选择GPU服务器的基本原则

GPU服务器按照总线接口类型，可以分为传统PCI-e和NV-Link两种接口。NV-Link相对于PCI-e接口，有更高的带宽和更低的延时优势，但是NV-Link成本和复杂度更高，基于NV-Link的GPU服务器相对较少，成本也较高。

GPU服务器也需要考虑业务的需求，选择合适的GPU型号。高性能计算需要双精度运算，可以选高性能的GPU（例如V100）；人工智能领域，模型的训练需要采用高性能的GPU（例如V100），训练结束后需要进行推理，就可以选择低成本的GPU（例如T4）。

GPU服务器也需要考虑应用场景，比如在边缘的通讯基站可以考虑配置T4的服务器，而在数据中心机房可以考虑配置V100的服务器。

中兴通讯提供了两款GPU服务器供客户选择，分别是R5360G4和R5560G4。R5360G4在2U的高度支持4个标准全宽全长的GPU卡，R5560G4在4U的高度支持8个标准全宽全长的GPU卡。

R5360G4的产品规格和特点

ZXCLOUD R5360G4是一款面向高性能计算领域应用的计算密集型机架式服务器，支持最新的英特尔®至强®可扩展处理器，支持4个全系列GPU加速卡。

支持2颗英特尔®至强®可扩展处理器，最高150W 处理器；支持16个DDR4内存插槽，内存速率最高可达2666MT/s；提供最大8+3个非热插拔功能的PCI‐E 3.0插槽，最大支持4个GPU加速卡；在2U高度支持高性能12Gb/s 8块2.5”或3.5”SAS/SATA热插拔硬盘；提供标准PCIe RAID卡，支持RAID 0/1/10/5/6/50/60功能；集成2个千兆以太网接口（RJ45）；电源输出功率1600w，AC 100-240v/50~60Hz输入，240V高压直流，支持1+1热插拔冗余电源。

R5560G4的产品规格和特点

ZXCLOUD R5360G4是一款面向高性能计算领域应用的计算密集型机架式服务器，支持最新的英特尔®至强®可扩展处理器，支持8个全系列GPU加速卡。

支持2颗英特尔®至强®可扩展处理器，最高205W 处理器；支持24个DDR4内存插槽，内存速率最高可达2933MT/s；提供最大8+3个非热插拔功能的PCI‐E 3.0插槽，最大支持8个GPU加速卡；在4U高度支持高性能12Gb/s 8块2.5寸SAS/SATA热插拔硬盘；提供标准PCIe RAID卡，支持RAID 0/1/10/5/6/50/60功能；集成2个千兆以太网接口（RJ45）；电源输出功率1600w或2200W，AC 100-240v/50~60Hz输入，240V高压直流，支持2+1热插拔冗余电源。

基于GPU服务器的应用方案

（1）SBC硬件加速方案

典型的SBC网元集成了信令处理、媒体处理和TC转码三种实体单元，具体地说，它包括了用户接入、呼叫处理、eSRVCC切换、紧急呼叫、网间互通和WebRTC等十多种媒体处理和相应的信令控制功能。在这些功能中，TC转码是最主要的资源消耗”大户“，大约会占用一半以上的系统资源，因此硬件加速技术必不可少。

但是面对种类如此繁多的需求，仅仅依靠CPU是难以满足的，必须通过CPU和GPU的联动才有可能较好地支持。一般来说，虚拟化网络的CPU是珍贵资源，因此将TC等计算逻辑较复杂、算法变更频繁的业务分配给GPU/FPGA等加速硬件是最佳选择。而对于转发等低功耗、高转发、低时延、计算逻辑简单、算法变更较小的业务，目前暂不需要采用硬件加速。

基于R5360G4的SBC硬件加速方案，实现TC转码的加速，大大减少了CPU的资源占用了，提升了产品的整体性能。

（2）视频监控硬件加速方案

视频监控是安全防范系统的重要组成部分，包含了前端摄像头、传输线缆和视频监控平台。其中，视频监控平台需要完成视频的编解码、转码、加密、播放等功能，复杂度高，处理的数据量大，需要通过GPU的硬件加速，提升业务性能降低CPU的占用。另外，它对业务数据的分析，可以实现人像识别、无人值守等附加业务功能。

基于R5360G4 服务器配合T4 GPU卡实现视频采集、结构化分析和人工智能处理等功能。它可以将R5360G4部署在Internet或者远端数据中心的传统视频业务前移到用户网络边缘，从而实现视频业务的本地化处理，具有低延时和高QoE的特点。R5360G4可以支持最多4个全高全长的PCIE插卡，支持4个T4。它可以完成视频的拉流、编码、解码、转码、Resize等功能，大大减少主处理器的负载和实现难度，在性能功耗比上得到极大的优化。

中兴通讯服务器产品拥有多项自主知识产权及专利，产品涵盖了机架服务器、刀片服务器、GPU服务器、边缘计算服务器，满足互联网、高性能计算、数据中心等多种场景的需求，并配合中兴通讯的其他产品形成丰富的产品组合，满足客户的各种业务需求。

责任编辑：gt