0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

在AI网络边缘最小化算法足迹和训练

星星科技指导员 来源:嵌入式计算设计 作者:Yasser Khan 2022-07-10 09:07 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

数据处理当然不是一个新概念,算法也不是。然而,训练和运行算法的地方正在迅速发展。近年来,由于能够利用临时计算资源来执行这些数据密集型任务,机器学习 (ML) 算法的训练大体上已在云环境中进行。

如今,人们大力推动尽可能靠近源头处理数据。这是由于物联网IoT) 的出现以及现在正在生成大量数据的各种技术。所有这些数据都让组织争先恐后地以具有成本效益的方式充分利用它。组织需要考虑从数据源到处理位置的数据传输成本,以及存储和处理数据的成本,这通常也是在资源密集型服务器/云环境中。

人工智能AI) 技术开始出现,可以在 ESP32 和基于 Cortex M4 的微控制器单元 (MCU) 等低计算功率设备上而非更大的微处理器单元 (MPU) 上进行 ML 模型训练和执行。这允许数据保持在本地,并且仅在必要时才在云中传输已处理的数据。

通过将训练和运行 ML 模型的总体占用空间要求降至 100kb 以下,嵌入式计算中的 AI 正在进入一个新领域。例如,冒泡排序算法可能比合并排序算法更受嵌入式算法工程师的欢迎,因为前者使用了现有的内存。尽管已经存在许多算法,但正在开发新的基于 AI 的时间序列预测算法并针对嵌入式环境进行优化。通过这种新方法,AI/ML 模型在嵌入式板上进行训练。然后,这些模型用于在执行期间进行多变量统计推断。

这些新的基于 AI 的时间序列预测算法具有三个优势:

该解决方案与网络延迟无关,因为计算是在本地板上进行的,因此性能得到了提高。

由于原始信号/数据仅在本地出现,因此保证了原始数据的安全/隐私。

对于每个嵌入式板,都会训练一个新的 ML/AI 模型。这可能是这种方法的核心优势,因为在典型的工业案例中,由于环境变体、传感器的缺陷和机器变体,不可能使用单个 ML/AI 模型来覆盖一组机器的特征。使用云服务器为每个嵌入式板训练模型也不是负担得起的。

技术突破

算法在嵌入式计算中发挥着重要作用。通常,嵌入式设备执行的算法任务包括传感器数据清理/过滤、数据编码/解码和控制信号生成。由于有限的内存容量、CPU 能力和不同的架构,嵌入式计算环境中“最佳算法”的定义可能与 PC 和云服务器中的大不相同。

在过去的几年里,人工智能/机器学习算法取得了突破性的进展和非常迅速的进展。许多努力都集中在将 AI/ML 模型(这些模型在其他地方训练过)应用于嵌入式上下文。换句话说,要成功部署 AI/ML 模型,需要优化内存/CPU 使用率和算法的功耗。

人工智能正在缩小,可以运行这些高级算法。技术进步现在允许人工智能和预测性维护从基于 MPU 的设备转移到基于 MCU 的设备,占用空间小,价格显着降低。基于 MCU 的设备现在可以在网络边缘执行任务——例如预测性维护——以前只能在 MPU 上使用。这一新功能使芯片制造商、原始设备制造商 (OEM) 和智能设备制造商能够降低成本并提供差异化​​的产品。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • mcu
    mcu
    +关注

    关注

    147

    文章

    18604

    浏览量

    386891
  • 嵌入式
    +关注

    关注

    5186

    文章

    20145

    浏览量

    328757
  • AI
    AI
    +关注

    关注

    89

    文章

    38090

    浏览量

    296515
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Ubuntu20.04系统中训练神经网络模型的一些经验

    , batch_size=512, epochs=20)总结 这个核心算法中的卷积神经网络结构和训练过程,是用来对MNIST手写数字图像进行分类的。模型将图像作为输入,通过卷积和池
    发表于 10-22 07:03

    结合AI算法边缘计算服务器,城市管理场景有什么作用?

    智慧城市建设的棋盘上,边缘计算服务器正成为激活全城AI细胞的"神经突触"。当算法模型走出数据中心,通过边缘计算服务器、
    的头像 发表于 10-17 15:31 238次阅读
    结合<b class='flag-5'>AI</b><b class='flag-5'>算法</b>的<b class='flag-5'>边缘</b>计算服务器,<b class='flag-5'>在</b>城市管理场景有什么作用?

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    、现阶段更智能、更接近AGI的6中算法与模型 1、MoE模型 MoE模型作为Transfomer模型的后继者,代表着AI技术的一项重大创新和发展。 优势: 在于能处理庞大的参数规模,显著减少内存占用
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    Transformer和视觉Transformer模型。 ViTA是一种高效数据流AI加速器,用于边缘设备上部署计算密集型视觉Transformer模型。 2、射频神经网络 2.1线
    发表于 09-12 17:30

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    景嘉微电子、海光信息技术、上海复旦微电子、上海壁仞科技、上海燧原科技、上海天数智芯半导体、墨芯人工智能、沐曦集成电路等。 介绍完这些云端数据中心的AI芯片之后,还为我们介绍了边缘AI
    发表于 09-12 16:07

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    顺畅地通向云端,实现设备与云端之间高效的数据传输与交互。通过融合先进的边缘计算和人工智能技术,AI 边缘计算网关能够靠近数据源的网络
    发表于 08-09 16:40

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    模态的技术特性,DeepSeek正加速推动AI金融、政务、科研及网络智能等关键领域的深度应用。 信而泰:AI推理引擎赋能
    发表于 07-16 15:29

    树莓派5上的Gemma 2:如何打造高效的边缘AI解决方案?

    从数学基础到边缘实现,研究团队:Conecta.ai(ufrn.br)摘要1.引言2.GEMMA2:通用集成机器模型算法2.1模型架构2.2预训练2.3后
    的头像 发表于 06-20 16:57 1353次阅读
    树莓派5上的Gemma 2:如何打造高效的<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>解决方案?

    海思SD3403边缘计算AI数据训练概述

    AI数据训练:基于用户特定应用场景,用户采集照片或视频,通过AI数据训练工程师**(用户公司****员工)** ,进行特征标定后,将标定好的训练
    发表于 04-28 11:11

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化
    发表于 04-28 11:05

    RAKsmart智能算力架构:异构计算+低时延网络驱动企业AI训练范式升级

    AI大模型参数量突破万亿、多模态应用爆发的今天,企业AI训练正面临算力效率与成本的双重挑战。RAKsmart推出的智能算力架构,以异构计算资源池
    的头像 发表于 04-17 09:29 597次阅读

    华为AI WAN智算边缘推理网络中的关键优势

    WAN:智算边缘推理网络架构、实践及产业进展”的演讲,详细阐述了AI WAN智算边缘推理网络
    的头像 发表于 04-09 09:53 839次阅读

    适用于数据中心和AI时代的800G网络

    下降。 InfiniBand助力AI性能提升 AI工厂中,InfiniBand网络技术因其超低延迟和高带宽,成为大规模模型训练的主流
    发表于 03-25 17:35

    AI赋能边缘网关:开启智能时代的新蓝海

    中,把握技术趋势、深耕应用场景的企业将赢得先机。随着5G网络的普及和AI算法的持续优化,AI边缘网关将在更多领域展现其价值,推动产业智能
    发表于 02-15 11:41

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    介绍了大量计算并且达到检测而不是分类的最优。此框架仅需两步:(1)检测数据集上训练 one-shot超网,(2)使用 EA(evolutionary algorithm,进化算法算法
    发表于 12-19 14:33