0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVMe为极端工业计算中的推理分析提供支持

星星科技指导员 来源:嵌入式计算设计 作者:Dustin Seetoo 2022-11-22 11:44 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

实时、高性能的数据消除了带宽、延迟和云资源方面的挑战

非易失性存储器高速 (NVMe) 为边缘计算系统提供数据中心性能,实现快速数据存储和访问。该技术在重工业环境中实现复杂的自动化功能方面是一项突破,有助于在环境严苛成为稳健计算障碍的领域推动推理计算、人工智能机器学习。在这些设置中,快速非易失性存储使机器学习算法即使在处理大量数据时也能正常运行。

考虑用于完成复杂视觉任务的智能对象检测软件。这种类型的自动化比人眼更可靠、更有能力,它基于深度学习,或者神经网络在从持续暴露于某些视觉数据源中学习时变得更加智能和高效。

虽然捕获和分析如此大范围数据所需的性能曾经只能通过云资源实现,但当今坚固耐用的边缘系统将 NVMe 存储与 CPUGPU 性能、编程传感器和软件算法相结合,可在更多类型的计算环境中解锁高级自动化。看看 NVMe 的实际应用,可以展示极端工业环境如何通过利用先进的自动化来提高竞争力。

模块化 NVMe 和 U.2 增加了灵活性

NVMe 专为利用 NAND 等加速存储介质或通过 PCIe 接口的持久内存而开发。在 SATA 固态硬盘无法充分利用 PCIe 通道的情况下,NVMe 以直接连接到 PCIe 通道的 SATA 速度的两倍执行数据传输。通过使用 PCIe Gen 3 协议,数据沿着类似于高级处理器架构的并行低延迟路径移动。较新的 NVMe SSD 现在也正在过渡到 PCIe Gen 4 协议,为 SSD 提供更快的读/写速度。

CPU 周期更高效,避免了 SATA 常见的 I/O 瓶颈,并提高了边缘推理分析所需的性能。这创造了一连串的好处;例如,读/写能力随着延迟的减少而提高,工作负载得到提升,并发现了实时处理的新选项。数据存储在闪存中,没有移动部件,NVMe 架构本身提供了调节 SSD 功率的能力。这些因素提高了可靠性,延长了电池寿命,并对总拥有成本产生了积极影响。

NVMe 还通过热插拔功能为坚固耐用的边缘系统增加了灵活性。在理想的设计中,M.2 存储托盘用作主机,允许快速访问和更换驱动器。与单个板载 NVMe 驱动器相比,热插拔功能可确保将数据移动到存储或其他主数据管理设施中的灵活性。

优化的系统还支持 U.2 接口,用于连接 NVMe 存储。如果小型扁平 M.2 驱动器直接放置在主板上,U.2 电缆可以访问单独的 2.5 英寸。传统 SATA 固态硬盘常见的固态硬盘。根据部署环境,通过将驱动器及其产生的热量与主板分离,这可能会提供热优势。

这两个选项都通过 PCIe 总线直接与 NVMe 存储系统的主板通信,并且两个选项都使用相同类型的闪存存储。U.2 选项为最终用户提供了这种额外的灵活性,允许比 M.2 更高的存储容量(大约 8 TB,而 M.2 的最大存储容量为 4 TB)。总体而言,U.2 通过使用多达四个 PCIe 通道和两个 SATA 通道来实现更快的数据管道。

对远程信息处理和运输应用的好处

车载传感器收集了大量数据,随着5G的普及,这些数据只会增加。在人工智能的支持下,这些全面的实时数据最终用于改善资产跟踪、评估驾驶行为、提高生产力并简化整体运营和成本。在整个行业中,边缘设备也被认为对依赖移动员工的运营至关重要。

由于远程信息处理领域非常多样化,数据、传感器和车辆类型以及操作环境范围广泛,因此灵活的数据操作是关键。例如,强大的连接性对于移动车辆至关重要,遥测数据不断来回移动。当配备热插拔NVMe功能时,商用车中的坚固系统为如何将数据从车辆发送到中央数据存储提供了另一种选择。车辆返回后,驱动器可以简单地更换,从而消除停机时间并保持车辆滚动。

优化客户体验

坚固耐用的边缘技术在从库存管理和物流到个性化购物体验和销售预测的方方面面发挥着作用。人工智能使零售商能够构建智能商店 - 无论是物理还是虚拟 - 作为在买方拥有所有权力的市场中保持竞争力的一种手段。采用自助服务技术的自助服务终端必须采用坚固耐用的设计,融合了模块化和无风扇选项,以便在极端环境和恶劣温度下实现性能。工作负载整合考虑了计算、存储、I/O 多样性和连接性,以保护性能,并通过在边缘进行有效的远程管理实现节省成本的便利性。

借助高性能计算,公共场所和基础设施可以保持安全。例如,坚固耐用的边缘驱动的 AI 允许系统自动分析实时视频,而无需人工操作。这有助于体育场、火车站和机场等市政环境中的实时公共安全。这里部署的系统必须能够在恶劣的温度(-40°C至70°C)下运行,承受冲击和振动(5gRMS振动和50G冲击),并在宽电压(9至50 Vdc)下运行。

结合 PCIe Gen 3 和 NVMe 存储,开发人员能够在最极端的环境中创建用于数据记录、监控和监视的应用程序。这种设计方法承认SATA存储技术不足以达到这种级别的边缘性能,而是建立在驱动数据中心设计的相同概念之上。新的坚固边缘系统设计在更接近数据生成位置的位置平衡了性能和可靠性。

AI/ML 是工业 4.0 的核心

工业 4.0 由制造业中的智能互联设备定义,例如能够进行运动检测、信号传输和深度感知的高性能相机。坚固耐用的边缘系统及其连接的节点可处理这些支持传感器的设备生成的大量数据流,从而为更先进的自动化提供动力。实时分析数据,实现高价值数据交互,从而优化质量控制、最大限度地提高产量并加快上市时间。移动和远程部署增加了更多价值,利用了可提高可靠性并可能消除现场技术支持的工作负载整合。

坚固的边缘是数据所在的地方,今天包括曾经仅限于云计算选项的极端工业环境。Gartner提出,到今年年底,将有多达250亿台互联边缘设备。这代表了硬件干预的新水平,每种类型的工业环境都可以获得更高级自动化的竞争价值。

NVMe 在坚固边缘的实时数据传输中发挥着重要作用,其价值通过包括 U.2 选项以及多个 NVMe M.2 驱动器的设计得到扩展,以实现轻松的数据访问、热插拔性和不间断性能。这些低延迟系统避免了数据瓶颈,并提供实时分析,能够改善组织的运营方式。值得注意的是,随着每GB的NAND闪存成本持续下降,开发人员有一条开放的途径来设计更大的竞争优势。

坚固边缘的硬件加速

执行实时决策和预测分析的能力是工业运营中越来越具有战略意义的目标。这是一个持续存在的工程挑战。快速的数字化转型和对自动化升级日益增长的需求推动了这一新的当务之急。坚固耐用的边缘计算在这一领域发挥着关键且不断增长的作用,通过传感器输入数据加速数据处理,并允许在数据源附近进行访问和分析。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1813

    文章

    49734

    浏览量

    261513
  • 机器学习
    +关注

    关注

    66

    文章

    8541

    浏览量

    136233
  • 边缘计算
    +关注

    关注

    22

    文章

    3472

    浏览量

    52683
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    HighPoint与 ICY DOCK 达成合作,专业计算提供高速灵活的 NVMe 存储扩展解决方案

    HighPoint与ICYDOCK达成合作,专业计算提供高速灵活的NVMe存储扩展解决方案加利福尼亚州弗里蒙特与加利福尼亚州工业市—[20
    的头像 发表于 11-21 16:05 1331次阅读
    HighPoint与 ICY DOCK 达成合作,<b class='flag-5'>为</b>专业<b class='flag-5'>计算</b><b class='flag-5'>提供</b>高速灵活的 <b class='flag-5'>NVMe</b> 存储扩展解决方案

    香蕉派 BPI-2K3000 工业计算机开发板采用龙芯2K3000芯片设计

    培训:面向信创+工业互联网/人工智能/自动控制/计算机等专业的教育与实训 边缘计算与IoT:边缘服务器、智能视频分析、本地AI推理、机器人控
    发表于 11-15 11:43

    NVMe高速传输之摆脱XDMA设计33:初始化功能验证与分析

    模型。 在这里以最小存储子系统模型例说明对初始化功能的验证与分析。 在本节测试用例, 设置桥设备模型不启用 BAR 空间, 设置 NVMe 设备模型 BAR0 空间大小
    发表于 10-08 08:02

    NVMe高速传输之摆脱XDMA设计30: NVMe 设备模型设计

    /O 提交队列进程。 与待测设计匹配, NVMe 设备模型支持最大 16 个 I/O 提交队列. B站已给出相关性能的视频,如想进一步了解,请搜索B站用户:专注与守望 链接:https
    发表于 09-29 09:31

    NVMe高速传输之摆脱XDMA设计23:UVM验证平台

    子系统模型组成。UVM验证包用于构建测试用例、提供激励、监测接口、对比分析统计测试结果;DUT 待测试对象即 NoP 逻辑加速引擎;AXI BRAM IP 用于模拟外部存储,对接 DUT 的AXI4
    发表于 08-26 09:49

    NVMe高速传输之摆脱XDMA设计18:UVM验证平台

    子系统模型组成。UVM验证包用于构建测试用例、提供激励、监测接口、对比分析统计测试结果;DUT 待测试对象即 NoP 逻辑加速引擎;AXI BRAM IP 用于模拟外部存储,对接 DUT 的AXI4
    发表于 07-31 16:39

    PCIe协议分析仪能测试哪些设备?

    /ASIC加速器 测试场景:分析专用AI推理加速器与主系统的PCIe通信,优化数据传输和指令下发效率。 应用价值:提高推理吞吐量,确保加速器在低延迟场景(如实时AI应用)的性能。
    发表于 07-25 14:09

    NVMe高速传输之摆脱XDMA设计之十:NVMe初始化状态机设计

    1NVMe配置初始化状态机状态转移图。各状态的说明如下: 图1NVMe初始化状态转移图 IDLE:空闲状态,复位后的初始状态。当检测到初始化控制寄存器的NVMe初始化启动信号时,进入
    发表于 07-05 22:03

    大模型推理显存和计算量估计方法研究

    实际应用提供了有益的参考。 未来,我们将继续深入研究大模型推理的优化方法,以降低显存和计算资源的需求,提高深度学习模型在实际应用的性能
    发表于 07-03 19:43

    NVMe IP高速传输却不依赖便利的XDMA设计之三:系统架构

    ) 使用 AXI 总线接口。 设计使用标准化的 AXI 总线接口提供系统控制和数据传输功能, 在保证了传输性能的同时, 更容易集成到应用环境。 (5) 多队列并行管理与动态配置。 支持的最大 I/O 提交队列
    发表于 06-29 17:42

    NVMe协议研究扫盲

    /SAS SSD相比具有卓越的性能优势,云平台和数据中心已经开始大量I/O密集型应用程序提供NVMe SSD。随着NVMe协议的不断完善,推出了N
    发表于 06-02 23:28

    NVMe协议简介2

    NVMe指令提交与完成机制 NVMe指令提交与完成机制是NVMe协议的核心,该机制制定了NVMe指令的交互流程和处理步骤。在基于PCIe的NVMe
    发表于 05-15 23:15

    NVMe协议简要分析

    NVMe数据结构 NVMe协议规定每个提交命令的大小64字节,完成命令大小16字节,NVMe
    发表于 05-15 00:34

    NVMe协议分析

    NVM Express(NVMe)是一种高性能、可扩展的接口协议,用于通过PCI express(PCIe)总线,实现主机软件与NVM设备之间的通信。目前,由于NVMe SSD相比于SATA SSD具有更高的吞吐量、更快的访问速度和更低的功耗,已经被广泛应用于各种
    的头像 发表于 05-15 00:29 2441次阅读
    <b class='flag-5'>NVMe</b>协议<b class='flag-5'>分析</b>

    RK3588核心板在边缘AI计算的颠覆性优势与场景落地

    推理任务,需额外部署GPU加速卡,导致成本与功耗飙升。 扩展性受限:老旧接口(如USB 2.0、百兆网口)无法支持5G模组、高速存储等现代外设,升级困难。 开发周期长:BSP适配不完善,跨平台AI
    发表于 04-15 10:48