无所不能的 AI ! 让你做出 Killer 应用 !!-电子发烧友网

讯改革即将来临 !! 随著科技日新月盛地进步，AI 的应用已悄悄融入于人们的生活中，像是 Google 强大的搜寻引擎、Facebook 的喜爱排序、网路卖场的销售排行等等。静静地回想，不难发现这些应用已经散布于每个人生活之中。

在不久的将来，所谓的 边缘运算(Edge Computing) 将会带来此领域的另一个高峰。借由 神经运算处理芯片(Neural Processing Unit, NPU) 的诞生，亦指 AI 芯片。使得芯片运算能力有着飞跃性的成长，让机器学习、人工智能的应用能够落实于移动设备端、传感器等等各种硬体设备，更加贴近于人们实际生活之中。然而，这类地脍炙人口的新颖应用领域不外乎就是智慧工厂(Smart Factory)、智慧医疗(Smart Medical)、智慧生活(Smart Life)、智慧城市(Smart City)、物联网(IoT)、工业 4.0、先进辅助驾驶系统(ADAS) 等等。因此，如何让生活、物品变得更智慧、更人性，就是新世代的创意，借此透过 AI 开创无限可能性。

本方案提供一套 OP-Killer EVM Board 之 AI 相关应用产品开发原型与技术资源，如下图所示。要让初入此领域者的开发者能够更快速地上手机器学习相关应用，并促成未来的杀手级应用。

此开发原型由两块开发板组成，SOM Board 为主要开发板，可独立使用。而 I/O Board 为扩充板，能够提供丰富的应用支援。使得实际应用上更具灵活性以及提供最佳化的应用模块，借此应用于各式各样的领域，如物联网(IoT)、工业4.0 (Industry 4.0)、自驾车(Autonomous Cars)，足以落实 边缘运算(Edge Computing) 的概念，创造更好的应用价值。

SOM Board 开发板 :

采用 NXP i.MX8M Plus平台为基础，提供两种规格的 4x Cortex-A53 处理器 ( 1.6 or 1.8 GHz ) 以及 1200 万画素的图像处理器 ISP、2.3 TOPS 算力的神经运算处理器 NPU、图形加速器 2D/3D GPU、音效数位讯号处理器 HiFi 4 DSP 等强大核心架构。其中，神经运算处理器 NPU 为此芯片的亮点核心，透过独特的硬体架构特性，能够在低功耗的环境下(约 2 W) 提供极高的运算效能，妥善运用能够大幅度提高机器学习的推理效益。特别适用于 MobileNet、ResNet、Inception、YOLO 等神经网路架构。

I/O Board 开发板 :

提供强大的周边配置，透过 314 PIN 的 MXM 传输界面 ( WPI 定义) 来传送周边讯号，如 UART 异步收发传输器、USB Type A/C 3.0 通用序列汇流排接口、 Gigabit Ethernet 乙太网路、I2C Bus 串列通讯汇流排、 MIPI-CSI 镜头资料传输界面、MIPI-DSI 显示资料传输界面、GPIO 通用型输入输出界面、HDMI 高画质多媒体界面、 LVDS 低压差分讯号技术界面、 CAN Bus 控制器区域网路、 M.2 Key B 传输界面、3.5 mm headset 音源接口。能够将 I/O Board 与 SOM Board 开发板完美结合，让讯号与资讯迅速交流 !!

OP-Killer EVM Board 深度学习- MXM 传输界面示意图

图2 OP-Killer EVM Board 深度学习- MXM 传输界面示意图

以及搭配 NXP 所建置的机器学习开发环境 eIQ(edge intelligence)，能够快速地应用 TensorFlow Lite、ONNX、ArmNN、DeepViewRT 等等深度学习框架。如同下图所示，仅需将影像、声音等相应的资料，托付(Delegate) 给任何一个深度学习框架进行推理(Inference)，即可快速解析神经网路架构来得到结果。且该框架将会透过 OpenVX 资料库与神经运算处理芯片 NPU 作最佳化的加速运算。经实际测试，MobileNet-SSD 物件侦测，推理速度约可达到每秒 80 张 FPS。 MobileNet 物件分类，推理速度更是能达到每秒 329 张 FPS。比起同级的 GPU (GC7000XSVX) 而言，能快上约莫 4 倍的运算效益!!

OP-Killer EVM Board 深度学习应用示意图

图3 OP-Killer EVM Board 深度学习应用示意图

如如 ADAS、智慧相机、智慧城市、智慧生活。都可借由你的想像力与创造力，开发出更具潜在力的杀手应用!!

这里，亦提供实际应用数据，而多数应用皆能达到每秒 30 张以上的推理速度 !!如同著名的物件侦测算法 YOLO V3 Tiny 与 YOLO V4 Tiny 亦有高达 67 与 43 张的 FPS 。足以落实大部分视觉相关的应用 !! 潜力无限 !!

OP-Killer EVM Board 深度学习-更多实际应用数据表

图5 OP-Killer EVM Board 深度学习-更多实际应用数据表

►场景应用图

无所不能的 AI ! 让你做出 Killer 应用 !!

►展示板照片

无所不能的 AI ! 让你做出 Killer 应用 !!

OP-Killer EVM Board

►方案方块图

OP-Killer EVM Board方案方块图

►核心技术优势

1. 搭配算力 2.3 TOPS 的神经处理器(Neural Processing Unit , NPU)，即拥有强大的机器学习推理能力。比起广为人知的图形处理器(Graphics Processing Unit , GPU) 更为省电，效率更高，是专门设计应用于深度学习、人工智能的处理器 !!
2. 独立 SOM 开发板设计，并搭配强大的 NXP i.MX8M Plus 芯片。能够提供最小开机系统以及未来可配合 USB Wi-FI / BT 模组，更加适合应用于 IoT 与工业控制领域。
3. 结合 I / O 开发板能够提供齐全的周边配置。如高画质多媒体界面(HDMI)、低压差分讯号技术界面(LVDS)、乙太网路(Ethernet)、控制器区域网路(CAN bus)、异步收发传输器(UART)、通用序列汇流排接口(USB Type A/C)、3.5 mm headset 音源接口、镜头资料传输界面(MIPI-CSI)、显示资料传输界面(MIPI-DSI)、M.2 - PCIe 3.0 传输界面。
4. 可快速上手应用 eIQ / PyeIQ 机器学习开发环境，提供 TensorFlow Lite、ONNX、DeepViewRT 等多种深度学习框架的应用范例。