0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

在AI网络边缘最小化算法足迹和训练

星星科技指导员 来源:嵌入式计算设计 作者:Yasser Khan 2022-07-10 09:07 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

数据处理当然不是一个新概念,算法也不是。然而,训练和运行算法的地方正在迅速发展。近年来,由于能够利用临时计算资源来执行这些数据密集型任务,机器学习 (ML) 算法的训练大体上已在云环境中进行。

如今,人们大力推动尽可能靠近源头处理数据。这是由于物联网IoT) 的出现以及现在正在生成大量数据的各种技术。所有这些数据都让组织争先恐后地以具有成本效益的方式充分利用它。组织需要考虑从数据源到处理位置的数据传输成本,以及存储和处理数据的成本,这通常也是在资源密集型服务器/云环境中。

人工智能AI) 技术开始出现,可以在 ESP32 和基于 Cortex M4 的微控制器单元 (MCU) 等低计算功率设备上而非更大的微处理器单元 (MPU) 上进行 ML 模型训练和执行。这允许数据保持在本地,并且仅在必要时才在云中传输已处理的数据。

通过将训练和运行 ML 模型的总体占用空间要求降至 100kb 以下,嵌入式计算中的 AI 正在进入一个新领域。例如,冒泡排序算法可能比合并排序算法更受嵌入式算法工程师的欢迎,因为前者使用了现有的内存。尽管已经存在许多算法,但正在开发新的基于 AI 的时间序列预测算法并针对嵌入式环境进行优化。通过这种新方法,AI/ML 模型在嵌入式板上进行训练。然后,这些模型用于在执行期间进行多变量统计推断。

这些新的基于 AI 的时间序列预测算法具有三个优势:

该解决方案与网络延迟无关,因为计算是在本地板上进行的,因此性能得到了提高。

由于原始信号/数据仅在本地出现,因此保证了原始数据的安全/隐私。

对于每个嵌入式板,都会训练一个新的 ML/AI 模型。这可能是这种方法的核心优势,因为在典型的工业案例中,由于环境变体、传感器的缺陷和机器变体,不可能使用单个 ML/AI 模型来覆盖一组机器的特征。使用云服务器为每个嵌入式板训练模型也不是负担得起的。

技术突破

算法在嵌入式计算中发挥着重要作用。通常,嵌入式设备执行的算法任务包括传感器数据清理/过滤、数据编码/解码和控制信号生成。由于有限的内存容量、CPU 能力和不同的架构,嵌入式计算环境中“最佳算法”的定义可能与 PC 和云服务器中的大不相同。

在过去的几年里,人工智能/机器学习算法取得了突破性的进展和非常迅速的进展。许多努力都集中在将 AI/ML 模型(这些模型在其他地方训练过)应用于嵌入式上下文。换句话说,要成功部署 AI/ML 模型,需要优化内存/CPU 使用率和算法的功耗。

人工智能正在缩小,可以运行这些高级算法。技术进步现在允许人工智能和预测性维护从基于 MPU 的设备转移到基于 MCU 的设备,占用空间小,价格显着降低。基于 MCU 的设备现在可以在网络边缘执行任务——例如预测性维护——以前只能在 MPU 上使用。这一新功能使芯片制造商、原始设备制造商 (OEM) 和智能设备制造商能够降低成本并提供差异化​​的产品。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • mcu
    mcu
    +关注

    关注

    147

    文章

    19111

    浏览量

    403356
  • 嵌入式
    +关注

    关注

    5209

    文章

    20629

    浏览量

    336796
  • AI
    AI
    +关注

    关注

    91

    文章

    40982

    浏览量

    302533
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    论马斯克的预言:AI使人类边缘化

    当地时间3月11日,“Abundance Summit”科技峰会上,马斯克谈及AI进展时表示,AI已经进入自我改进阶段,超高量级AI面前
    发表于 03-14 05:27

    边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值

    了嵌入式开发所需的底层引脚。这种 “跨界” 属性使其智慧交通、工业自动、具身智能等需要兼顾算法复杂度和硬件耦合度的场景中,具备了独特的竞争优势。 六、结语:边缘
    发表于 03-10 14:19

    请问有没有最小化系统程序,编程时可以快速设置?

    请问有没有最小化系统程序,编程时可以快速设置
    发表于 12-23 08:16

    Ubuntu20.04系统中训练神经网络模型的一些经验

    , batch_size=512, epochs=20)总结 这个核心算法中的卷积神经网络结构和训练过程,是用来对MNIST手写数字图像进行分类的。模型将图像作为输入,通过卷积和池
    发表于 10-22 07:03

    结合AI算法边缘计算服务器,城市管理场景有什么作用?

    智慧城市建设的棋盘上,边缘计算服务器正成为激活全城AI细胞的"神经突触"。当算法模型走出数据中心,通过边缘计算服务器、
    的头像 发表于 10-17 15:31 534次阅读
    结合<b class='flag-5'>AI</b><b class='flag-5'>算法</b>的<b class='flag-5'>边缘</b>计算服务器,<b class='flag-5'>在</b>城市管理场景有什么作用?

    工业视觉网关:RK3576赋能多路检测与边缘AI

    ,将 “多路检测 + 硬编硬解 + 边缘AI + MES集成” 融为一体:保障画质与时延的同时,显著降低系统复杂度与总体成本,并以数据闭环驱动良率持续提升。
    发表于 10-16 17:56

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    、现阶段更智能、更接近AGI的6中算法与模型 1、MoE模型 MoE模型作为Transfomer模型的后继者,代表着AI技术的一项重大创新和发展。 优势: 在于能处理庞大的参数规模,显著减少内存占用
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    Transformer和视觉Transformer模型。 ViTA是一种高效数据流AI加速器,用于边缘设备上部署计算密集型视觉Transformer模型。 2、射频神经网络 2.1线
    发表于 09-12 17:30

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    景嘉微电子、海光信息技术、上海复旦微电子、上海壁仞科技、上海燧原科技、上海天数智芯半导体、墨芯人工智能、沐曦集成电路等。 介绍完这些云端数据中心的AI芯片之后,还为我们介绍了边缘AI
    发表于 09-12 16:07

    模板驱动 无需训练数据 SmartDP解决小样本AI算法模型开发难题

    算法作为软实力,其水平直接影响着目标检测识别的能力。两年前,慧视光电推出了零基础的基于yolo系列算法架构的AI算法开发平台SpeedDP,此平台能够通过数据驱动模型
    的头像 发表于 09-09 17:57 1548次阅读
    模板驱动  无需<b class='flag-5'>训练</b>数据  SmartDP解决小样本<b class='flag-5'>AI</b><b class='flag-5'>算法</b>模型开发难题

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    顺畅地通向云端,实现设备与云端之间高效的数据传输与交互。通过融合先进的边缘计算和人工智能技术,AI 边缘计算网关能够靠近数据源的网络
    发表于 08-09 16:40

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    模态的技术特性,DeepSeek正加速推动AI金融、政务、科研及网络智能等关键领域的深度应用。 信而泰:AI推理引擎赋能
    发表于 07-16 15:29

    树莓派5上的Gemma 2:如何打造高效的边缘AI解决方案?

    从数学基础到边缘实现,研究团队:Conecta.ai(ufrn.br)摘要1.引言2.GEMMA2:通用集成机器模型算法2.1模型架构2.2预训练2.3后
    的头像 发表于 06-20 16:57 1800次阅读
    树莓派5上的Gemma 2:如何打造高效的<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>解决方案?

    海思SD3403边缘计算AI数据训练概述

    AI数据训练:基于用户特定应用场景,用户采集照片或视频,通过AI数据训练工程师**(用户公司****员工)** ,进行特征标定后,将标定好的训练
    发表于 04-28 11:11

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化
    发表于 04-28 11:05