FPGA有什么优势，可以让FPGA替代GPU吗

（文章来源：安防知识网）

目前，在AI计算平台使用最广泛的两种加速部件是GPU和FPGA。GPU可适用于具备计算密集、高并行、SIMD（SingleInstructionMultipleData，单指令多数据流）应用等特点的深度学习训练模型领域，并且GPU创建了包含CNN、DNN、RNN、LSTM以及强化学习网络等算法在内的应用加速平台和生态系统。

但是，最近FPGA又频频被各AI领域的巨头看好，比如微软、百度、科大讯飞都对FPGA应用前景有所期待。那么如果让你选择FPGA作为AI计算系统的主力军，你会有什么样的顾虑？其次，FPGA是可编程芯片，算法烧录更加灵活。目前来看，深度学习算法还未完全成熟，算法还在迭代衍化过程中，若深度学习算法发生大的变化，FPGA是软件定义硬件，可以灵活切换算法，快速切入市场。

未来至少95％的机器学习计算都是用于推断，只有不到5％是用于模型训练，而FPGA正是强在推断。大幅提升推断效率的同时，还能最小限度损失精确性，这正是FPGA的强项。与CPU和GPU不同，FPGA是一种典型的非诺依曼架构，是硬件适配软件的模式，它能够根据系统资源和算法特征灵活的调整并行度，达到最优的适配，因此能效比高于CPU和GPU。

测试数据显示，在语音识别应用下，浪潮F10A较CPU性能加速2．87倍，而功耗相当于CPU的15．7％，性能功耗比提升18倍。传统的FPGA的开发类似于芯片的开发，采用硬件描述语言（HDL）开发，HDL开发带来的问题就会像芯片设计一样周期会比较长，从架构设计、到仿真验证、再到最终完成，需要一年左右的开发时间。

或许你还是有些顾虑，即时开发效率大幅提升、开发周期大大缩短，但是对于技术和团队储备不足的中小型AI企业来说，FPGA仍是“高不可攀”的AI加速部件。如果，有一种方案能够将软件、算法和硬件板卡整合，以软硬一体化的形式，提供FaaS（FPGAasaService）服务。你还有什么顾虑么？

目前，浪潮正在针对市场上需求最迫切的几种应用场景进行算法的移植开发，在图像压缩、文本数据压缩及神经网络加速等应用开发出业界领先的IP，省去客户的算法开发周期，最小化FPGA落地门槛、最大化FPGA落地效率。神经网络加速方案：基于浪潮F10A的AI线上推理加速方案，针对CNN卷积神经网络的相关算法进行优化和固化，可加速ResNet等神经网络，能够应用于图片分类、对象检测和人脸识别等应用场景。

实测数据显示，在进行ResNet残差网络的图片识别分类任务时，浪潮F10A加速方案图片处理速度可达每秒742张，Top－5识别准确率达到99．6％，相比同档次GPU能效比提升3倍以上。而与通用CPU对比，在处理这种高并行、小计算量的任务时，F10A的优势将更明显。

WebP图片转码压缩加速方案：针对图片数据的压缩应用，嵌入基于FPGA计算环境下的WebP编解码优化算法，通过充分利用硬件流水设计和任务级并行，大大提升WebP图像压缩编码算法的处理性能，能够实现JPEG－WebP图片格式的快速转换，比传统实现方式的整体处理效率平均高9．13倍左右，最高性能可比CPU提高14倍。

数据压缩加速方案：为解决传统压缩架构的弊端，浪潮GZip算法加速方案充分利用板卡硬件流水设计和任务级并行，大幅提升了压缩任务的吞吐量并有效降低CPU的负载，压缩率（压缩率＝1－压缩后文件／压缩前文件）最高可达94．8％，压缩速度达到1．2GB／s，10倍于传统方案的压缩效率。

FaaS不仅仅是指板卡与软件算法的一体化服务，同时还可以支持公有云及在线远程管理和更新。浪潮FPGA解决方案能够支持动态逻辑的在线可重构、静态逻辑的远程更新，并且通过优化的监控管理机制，提升板卡远程监控管理的可靠性，通过它们可以实时的监控FPGA芯片的温度、板卡风扇转速、板卡内存特性等从而调整FPGA的工作频率。

同时浪潮FPGA也支持虚拟机的直接访问，板卡本身也加入了很多RAS（可靠性、可用性、可扩展性）特性，如高可靠内存访问等，支持并行（FPP）和串行（AS）双加载模式，任何一种模式加载出现故障，都可以快速切换到另一种模式加载，保证了板卡大规模服务的可用性。

浪潮拥有国内领先的FPGA软硬件开发团队，浪潮正联合Intel及BAT、科大讯飞、网易等AI领先企业深入研发基于FPGA的通用系统方案，包括深度学习、网络加速、存储优化等，并将方案推广到其它应用领域和客户。未来，CPU＋FPGA或许将作为新的异构加速模式，被越来越多的应用领域采用。
     （责任编辑：fqj）