为智能视觉应用扩展AI硬件

驱动智能视觉应用程序的硬件组件在其开发生命周期中经历了许多变化。

但是，随着在这些用例中包含神经网络、机器学习和其他人工智能 （AI） 功能，我们现在发现硬件需求在产品的部署生命周期中会发生变化。

也许人工智能技术的最大好处是它能够随着时间的推移不断学习，这使得像智能视觉系统这样的平台能够逐渐提高推理的准确性。系统进行的推理越多，解决方案训练模型所需的数据就越多，这使得它更擅长推理，等等。

这种可升级性给 AI 系统的许多设计人员和用户带来的挑战是，最终系统可能需要比最初发货的硬件所能提供的更高的处理、内存或连接性能。这只是给定应用程序的需求逐渐增加。它甚至没有考虑可能要求一个系统在以后执行不同或附加任务的情况。

幸运的是，这种硬件可扩展性的解决方案以计算机模块 （COM） 的形式存在。COM 是一种两板硬件架构，它依赖于包含给定部署所需的所有应用程序特定 I/O 的基板或载板，以及容纳处理器、内存和额外的硬件资源。

在前面提到的智能视觉等用例问题中，COM 架构允许用户在平台发布数月、数年甚至数十年后更换处理器模块以提高性能。

Congatec 是一家嵌入式硬件 OEM，最近发布了 conga-SMX8-Plus COM，专门用于智能购物车和车辆检测等 AI 用例。

更多性能提供未来愿景

82 mm x 50 mm conga-SMX8-Plus 基于 SGeT 的 SMARC 2.1 COM 标准，并利用板载 NXP i.MX 8M Plus 嵌入式应用处理器的智能视觉功能。i.MX 8M Plus SoC 针对 AI 工作负载， 具有双核/四核 Arm Cortex-A53 CPU 内核、两个图像信号处理器 （ISP） 和一个可提供 2.3 TOPS 性能的集成神经处理单元 （NPU）。

该芯片还具有用于实时和控制任务的 Arm Cortex-M7，以及支持智能视觉应用的各种相机接口选项。其中包括用于串行相机接口的双通道 LVDS 和四通道共享 LVDS 通道。它还同时支持三个独立的显示器。

所有这些都与 conga-SMX8-Plus 的板载 6 GB DRAM（每秒可以执行 4000 个多线程）和用于本地存储大型 ML 数据集的 128 GB eMMC 配对。在功耗方面，所有这些成本仅为 2-6W。

conga-SMX8-Plus 与 Linux、Yocto Project 和 Android 操作系统兼容。它指定在 -40°C 至 +85°C 的宽温度范围内使用。

如前所述，conga-SMX8-Plus 的 SMARC 2.1 COM 架构的主要优势在于，它通过允许处理器模块在未来更换为性能更高的设备来降低部署后的硬件风险。这实际上消除了该部分设计中的硬件过时问题，并避免了昂贵的改造或系统重新设计的需要。

Cognatec 已启用其 conga-SMX8-Plus 技术，使工程师能够升级他们的硬件，即使它已经部署了很长时间。COM 的适应性允许在需要时进行快速调整，并构建一个推理数据库，它不断扩展以构建硬件中已经存在的算法。

审核编辑：郭婷