边缘AI正在超越云计算用于深度学习应用

什么是边缘 AI？

边缘 AI 在硬件上本地处理和实现机器学习算法。这种形式的本地计算减少了数据传输的网络延迟，并解决了一切都发生在设备本身上的安全挑战。

边缘 AI 的流程

Edge AI的本地处理并不意味着ML模型的训练应该在本地进行。通常，训练在具有更大计算能力的平台上进行，以处理更大的数据集。最后，这个经过训练的模型可以部署在处理器或系统的硬件上。该系统具有AI加速功能以及用于实时数据处理应用的已部署模型。

随着对 GPU、NPU、TPU 和 AI 加速器的需求增加，边缘 AI 技术经历了巨大的增长。随着机器学习和人工智能已成为当前场景中的趋势技术，这种需求是显而易见的。因此，由于当前应用程序的要求，Edge AI在硬件中找到了自己的位置。硬件中对本地高级处理和计算能力的需求解释了Edge AI的重要性。

云 AI 的寿命能否超过边缘 AI？

云 AI 通过在云上远程提供计算能力来支持硬件中的处理。由于处理是远程进行的，因此系统在性能和处理方面更加强大。此外，云计算增加了有关架构和设计的选择。它减少了系统硬件功耗的复杂性，因为高级处理发生在云上。但是，这些好处是以延迟和安全问题为代价的，如简介中所述。

云 AI 的流程

当计算需求非常密集并且需要大量数据处理时，云AI的寿命可以超过边缘AI。如果应用程序可能会在延迟和安全性方面受到损害，那么云AI是比Edge AI更好的选择。云AI还可以解决功耗的复杂性。但是，它不能被视为选择云AI而不是边缘AI的决定性因素。

边缘 AI 与云 AI

在边缘AI和云AI之间进行选择的不确定性主要发生在机器学习或深度学习用例中。由于深度学习算法需要密集处理，因此硬件的性能成为一个重要因素。云AI绝对可以为系统提供更好的性能，但大多数深度学习应用程序都不能牺牲数据传输的延迟和网络中的安全威胁。因此，对于人工智能应用而言，边缘 AI 的寿命超过了云 AI。

如前所述，功耗因素总是干预Edge AI处理器。这是可以理解的，因为繁重的计算需要更高的电源。但目前的Edge AI处理器具有AI加速器，可提供更高的性能和低功耗。然而，GPU和TPU仍然需要更高的功率，但设计和电路架构的改进将压倒这个问题。

由于云本身并不是AI应用程序的绝佳选择，因此边缘和云AI的混合可以提供更好的性能。可能危及延迟的部分处理可以在云上完成，其余部分可以在硬件本身上完成。

示例：由于训练的模型需要根据实时数据进行更新，因此可以在云上完成此更新的训练。但是实时数据是通过Edge AI在硬件上进行处理的，以生成输出。

因此，加工的划分带来了两种技术的最佳优势。因此，它可能是AI应用程序的更好选择。但是，大多数应用程序需要更快的实时更新训练，因此 Edge AI 的寿命超过了云 AI 技术。因此，边缘AI正在超越云AI用于深度学习应用。

审核编辑：郭婷