超越云端的分布式分析

分析是一个非常通用的术语，用于关联和消化原始数据以产生更有用的结果。分析算法可以像数据缩减或传感器读数流的平均一样简单，也可以像最复杂的人工智能或机器学习 (AI/ML) 系统一样复杂。如今，分析通常在云中执行，因为它是最具可扩展性和成本效益的解决方案。然而，在未来，分析将越来越多地分布在云、边缘计算和端点设备上，以利用它们改进的延迟、网络带宽、安全性和可靠性。在这里，我们将讨论一些与传统云边界之外的分布式分析相关的架构和权衡。

分布式分析如何增加价值

简单的分析涉及数据缩减、关联和平均，从而导致输出数据流比输入数据小得多。考虑为大型建筑物供应淡水的系统。了解系统中各个点的压力和流量以优化泵和监控消耗可能很有价值。这可能涉及分布在分配管道周围的一系列压力和流量传感器。软件会定期询问传感器，调整泵设置，并为建筑经理创建消耗报告。但是，传感器的原始读数可能会产生误导——例如，冲洗固定装置时的瞬间压力下降。分析算法可以对给定传感器随时间的读数进行平均，并组合和关联来自多个传感器的读数，以创建更准确和有用的管道状况图。所有这些读数都可以发送到基于云的分析，但如果传感器自己进行一些平均，而本地边缘计算机进行关联和报告，这将是一个更高效的架构。这就是分布式分析，它可以提高许多分析系统的效率、准确性和成本。

当采用 AI/ML 技术时，分析变得更加复杂。AI/ML 通常分两个阶段运行：

模型构建阶段，其中大量数据被提炼为 AI/ML 系统生成模型

推理阶段，该模型通常实时应用于系统中的数据流以生成所需的结果

在今天的系统中，模型几乎总是建立在大型服务器群或云端，通常作为离线过程。然后，将生成的 AI/ML 模型打包并运送到不同的系统，这些系统在实时数据上运行模型的推理阶段，从而生成所需的结果。推理阶段可以在云端运行，但最近一直在向边缘移动，以改善延迟、网络带宽、可靠性和安全性。在决定为每个阶段使用哪个级别的计算资源时，权衡是值得考虑的。

AI/ML 的推理阶段

AI/ML 的推理阶段相对容易分布在多个对等级处理器或处理层的上下层次结构中。如果模型是预先计算的，则 AI/ML 算法运行的数据可以跨多个处理器拆分并并行运行。在多个对等级处理器之间拆分工作负载可提供容量、性能和规模优势，因为随着工作负载的增加，可以使用更多的计算资源。它还可以提高系统可靠性，因为如果一个处理器出现故障，相邻的处理器仍然可以完成工作。推理也可以在层次结构的多个级别之间进行拆分，也许算法的不同部分在处理器的不同级别上运行。这允许以逻辑方式拆分 AI/ML 算法，允许层次结构的每个级别执行算法的最有效子集。例如，在视频分析 AI/ML 系统中，摄像头中的智能可以执行自适应对比度增强，将此数据交给边缘计算机执行特征提取，将其发送到附近的数据中心执行对象识别，最后发送到云端可以执行高级功能，例如威胁检测或热图生成。这可以是高效的分区。最后，云可以执行高级功能，例如威胁检测或热图生成。这可以是高效的分区。最后，云可以执行高级功能，例如威胁检测或热图生成。这可以是高效的分区。

AI/ML 算法的学习阶段

AI/ML 算法的学习阶段更难分配。问题是上下文大小。为了准备模型，AI/ML 系统获取大量训练数据，并使用各种复杂的学习阶段算法对其进行消化，以生成在推理阶段相对容易执行的模型。如果在给定的计算节点上只有一部分训练数据可用，则算法将难以泛化模型。这就是为什么训练最常在云端进行，那里的内存和存储空间几乎是无限的。然而，某些场景要求训练算法分布在多个对等级计算节点或云到边缘层次结构的上下。特别是，边缘学习使学习过程能够从附近的传感器收集大量训练数据，并在没有云参与的情况下对其采取行动——这可以改善延迟、可靠性、安全性和网络带宽。先进的分布式学习算法正在开发中以应对这些挑战。

结论

AI/ML 是几乎所有电子系统的重要未来能力。了解如何在计算资源层次结构中划分这些系统的推理和训练能力的选项是我们未来成功的关键。

该博客由 Charles Byers 撰写，最初于 2020 年发布。贸泽于 2021 年 6 月更新了该博客。

“ 后退

分享2

CHARLES C. BYERS 是工业互联网联盟的副首席技术官，现在加入了 OpenFog。他致力于边缘雾计算系统、通用平台、媒体处理系统和物联网的架构和实施。此前，他是思科的首席工程师和平台架构师，以及阿尔卡特朗讯的贝尔实验室研究员。在电信网络行业的三十年中，他在语音交换、宽带接入、融合网络、VoIP、多媒体、视频、模块化平台、边缘雾计算和物联网等领域做出了重大贡献。他还是多个标准机构的领导者，包括担任工业互联网联盟和 OpenFog 联盟的首席技术官，并且是 PICMG 的 AdvancedTCA、AdvancedMC、

Byers 先生在威斯康星大学麦迪逊分校获得电气和计算机工程学士学位以及电气工程硕士学位。在业余时间，他喜欢旅行、烹饪、骑自行车和在他的工作室里修修补补。他拥有 80 多项美国专利。

审核编辑黄昊宇