0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

优化AI可传输计算架构

星星科技指导员 来源:嵌入式计算设计 作者:Braden Cooper 2022-11-07 11:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

军事电子行业的人工智能AI)正在以超现实的速度增长。各个领域的最新创新恰逢将计算、传感器技术和软件方面最强大的进步带到关键任务场景中。正如GPU在原始计算能力方面继续超过摩尔定律一样,新的传感器和网络接口带来了越来越大的数据集需要计算。这些新技术为将商业和科学人工智能进步的力量带入军事可运输设施提供了关键机会。民用数据中心型人工智能应用和军用可运输部署之间的主要区别(和障碍)是任务的环境、电力和安全要求。

需要在边缘部署人工智能系统的一个明显例子是军用陆地、空中或海上车辆的威胁检测。与民用自动驾驶汽车物体识别一样,军事威胁检测系统正在捕获传入的传感器数据,将数据提供给预先训练的AI模型,并在传感器数据中推断威胁的迹象。此工作流虽然只有几个步骤,但需要几个不同的复杂硬件层。传感器向计算节点提供数据流,计算节点又将可操作的智能分发到适当的子系统,所有这些子系统都在高速存储和互连的框架上运行。

构建硬件架构图成为根据车辆的尺寸、重量和功率 (SWaP) 限制优化连续数据吞吐量的一项练习。虽然可以通过添加另一个计算机系统机架来优化民用数据中心的工作流程,但大多数军用车辆的独特功率、外形和环境条件使得对优化的人工智能可移动系统的挑战和需求显而易见。

应对此工作流程挑战的可能解决方案是将传感器数据流广播到远程或移动数据中心,这可以支持边缘优化程度较低的计算机系统;从而消除了对 AI 计算节点进行加固的需要。然而,随着数据量的增长,传感器数据存储与“云”或远程数据中心之间的通信路径很快成为吞吐量瓶颈。为了在军事可移动人工智能应用中充分利用最新的人工智能技术,应使用边缘优化的融合系统来集成整个工作流程。

这些坚固耐用的军用系统可最大限度地提高传感器数据摄取速率,并将其与整个计算、存储和网络速度相匹配。在这种无瓶颈体系结构中,平衡的数据流可以以可缩放的方式满足数据的计算需求,该方式可以随着数据的增长而增长。无需远程计算意味着可以捕获、处理传感器数据并将其用于实时推理和决策。

打破对远程数据中心和云计算的依赖可以优化AI工作流程的吞吐量,但确实带来了新的挑战。与军用车辆中的所有电子系统一样,融合AI系统的设计必须满足严格的MIL-STD环境条件以及各自车辆的独特动力传输系统。为数据中心构建的商用现货 (COTS) 服务器可在配备 220VAC 单相电源的空调房中运行。为了真正优化通常在不太理想条件下运行的军用车辆的AI工作流程,托管AI构建块的系统必须经过设计,测试和认证,以满足它们将继续支持的任务的严格要求。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2573

    文章

    54382

    浏览量

    786102
  • 人工智能
    +关注

    关注

    1813

    文章

    49741

    浏览量

    261549
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    怎样优化电能质量在线监测装置的网络传输

    优化电能质量在线监测装置的网络传输,核心是围绕 “ 降延迟、减丢包、提效率 ” 三大目标,从 传输介质选型、通信协议优化、数据处理压缩、网络架构
    的头像 发表于 10-23 11:52 137次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    建立的基础: ①算力支柱②数据支柱③计算支柱 1)算力 与AI算力有关的因素: ①晶体管数量②晶体管速度③芯片架构④芯片面积⑤制造工艺⑥芯片内部扩展⑦内存带宽、存储容量等⑧处理器利用率⑨芯片之间的互连
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    和量子计算的两项新兴的技术,将在生产假说方面发挥重要作用,从而改变科学发现的范式。 生成式AI: 2、穷举搜索 3、分析排错与组合优化 分析排错是生成假说的重要手段。强化学习也在优化
    发表于 09-17 11:45

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    的时间缩短、效率提升的硬件架构非常重要。因此存内加速方案,X-Former应运而生。它是一种混合存内计算架构,结合了NVM和基于互补金属氧化物半导体(CMOS)的处理元件。 架构如下:
    发表于 09-12 17:30

    AI 芯片浪潮下,职场晋升新契机?

    、新架构不断涌现。能够在工作中提出创新性的解决方案,推动 AI 芯片性能、功耗、成本等关键指标的优化,将极大提升在职称评审中的竞争力。例如,在芯片设计中引入新的计算范式,如存算一体技术
    发表于 08-19 08:58

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    顺畅地通向云端,实现设备与云端之间高效的数据传输与交互。通过融合先进的边缘计算和人工智能技术,AI 边缘计算网关能够在靠近数据源的网络边缘,对数据进行实时处理和精准分析,进而实现智能化
    发表于 08-09 16:40

    AI芯片:加速人工智能计算的专用硬件引擎

    人工智能(AI)的快速发展离不开高性能计算硬件的支持,而传统CPU由于架构限制,难以高效处理AI任务中的大规模并行计算需求。因此,专为
    的头像 发表于 07-09 15:59 907次阅读

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    ,联发科带来了全面升级的天玑AI开发套件2.0,在模型库规模、架构开放程度、前沿端侧AI技术支持和端侧LoRA训练落地等方面均迎来全面跃迁,为开发者提供了更全面、更开放、更强大的端侧AI
    发表于 04-13 19:52

    适用于数据中心和AI时代的800G网络

    和性能隔离能力,以保障不同用户任务互不干扰。 分布式AI计算与网络架构设计 分布式计算已成为AI训练的主流方式,通过将工作负载分配
    发表于 03-25 17:35

    DeepSeek推动AI算力需求:800G光模块的关键作用

    数据传输速率,减少带宽瓶颈,成为数据中心和AI集群架构优化的重点。光模块速率的跃升不仅提升了传输效率,也为大规模并行
    发表于 03-25 12:00

    Banana Pi 发布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    架构,赋能多场景应用 BPI-AI2N 采用 RZ/V2N 处理器,集成 4 核 Arm® Cortex®-A55(1.8GHz)与 Cortex®-M33(200MHz),提供强劲的计算能力,同时兼顾
    发表于 03-19 17:54

    AI Agent 应用与项目实战》阅读心得3——RAG架构与部署本地知识库

    技术不仅解决了LLM的知识更新问题,更为构建专业领域的智能问答系统提供了完整的技术方案。通过与向量数据库的深度集成,RAG实现了知识的动态扩展和精准检索,这种架构设计为AI系统的持续进化提供了可能。在
    发表于 03-07 19:49

    FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......

    制程、异构计算、高带宽内存和可重构架构展开,应用领域涵盖 AI、5G、数据中心、自动驾驶和工业物联网。通过优化生态系统、制定有效市场策略、应对挑战,FPGA 将在多个领域继续发挥关键作
    发表于 03-03 11:21

    AI赋能边缘网关:开启智能时代的新蓝海

    在数字化转型的浪潮中,AI与边缘计算的结合正掀起一场深刻的产业变革。边缘网关作为连接物理世界与数字世界的桥梁,在AI技术的加持下,正从简单的数据采集传输节点,进化为具备智能决策能力的边
    发表于 02-15 11:41

    HPC云计算的技术架构

    HPC云计算结合了HPC的强大计算能力和云计算的弹性、可扩展性,为用户提供了按需获取高性能计算资源的便利。下面,AI部落小编带您了解HPC云
    的头像 发表于 02-05 14:51 691次阅读