0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

部署在边缘设备上的轻量级模型

Carol Li 来源:电子发烧友 作者:李弯弯 2024-05-11 00:17 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李弯弯)边缘AI算法是一种将人工智能(AI)算法和计算能力放置在接近数据源的终端设备中的策略。这种算法通常被部署在边缘设备上,如传感器智能手机、摄像头等,以便在靠近数据源的地方进行智能决策和数据处理。

边缘AI算法通常是经过优化和压缩的轻量级模型

边缘AI算法的工作原理涉及三个关键要素:终端设备、边缘计算和人工智能算法。终端设备收集到的数据被认为是边缘数据,需要进行实时处理和分析。边缘计算是指在距离数据源较近的地方进行计算和处理,而边缘设备通常配备有一定的计算资源,能够执行一部分轻量级的AI算法和数据处理。在边缘设备上运行的AI算法通常是经过优化和压缩的轻量级模型,这些模型能够在设备端进行实时的数据处理和分析,从而实现即时响应。

边缘AI算法涵盖了多种类型,如决策树算法,这是一种常用的分类算法,能够根据特征属性将数据进行划分,从而实现对数据的分类和预测。支持向量机(SVM)算法,这是一种针对分类和回归分析问题的算法,它通过寻找最大间隔超平面来实现数据的分类和预测。

神经网络算法,它模拟了人脑神经元的工作原理,能够处理复杂的非线性关系,因此在图像识别、语音识别等领域有着广泛的应用。贝叶斯算法,这是一种基于贝叶斯定理的分类算法,它能够根据先验概率和样本数据来计算后验概率,从而实现对数据的分类和预测。

聚类算法,用于将数据集中的对象分成不同的组,常见的算法包括K均值算法、层次聚类算法等。回归分析算法,用于建立变量之间的关系模型,从而进行预测和分析。

此外,还有监督学习算法、无监督学习算法、强化学习算法和深度学习算法等。监督学习算法使用有标记数据集进行训练,并通过这些数据中的输入和输出之间的关联来构建模型;无监督学习算法则是使用无标记数据集进行训练,通过发现数据之间的模式或结构来构建模型;强化学习算法则是通过在环境中执行一系列操作来学习最优策略的算法;深度学习算法则是一种基于神经网络模型的机器学习算法,通过多层次的神经网络结构来模拟人脑的工作方式。
这些算法在边缘AI中可以根据具体的应用场景进行选择和组合,以实现对数据的分析、预测和决策支持。

边缘AI算法适合应用于对实时性要求高、网络连接有限的场景

边缘AI算法的使用场景包括,实时性要求高的场景,例如自动驾驶汽车和无人驾驶系统,这些系统需要实时处理大量的传感器数据以进行道路分析和响应。边缘AI算法能够在设备端进行实时的数据处理和分析,实现即时响应,满足自动驾驶系统对实时性的高要求。

网络连接有限的场景,在一些偏远地区或网络覆盖不足的地方,将数据全部传输到云端进行处理可能不太现实。在这些场景中,边缘AI算法可以在本地设备上进行数据处理和分析,减少了对网络连接的依赖,保证了系统的稳定性和可靠性。

隐私保护要求强的场景,对于一些涉及个人隐私的数据,如医疗数据、金融数据等,将数据全部传输到云端可能存在泄露风险。在这些场景中,将AI算法部署在边缘设备上可以在本地对数据进行处理和分析,保护数据的隐私性。

在实际的应用落地方面,如智慧安防领域,云天励飞通过部署在摄像头等边缘设备上的AI算法,实现了实时的人脸识别、行为分析等功能,为公安部门提供了有效的技术支持。在智能园区、智能楼宇等领域,云天励飞也通过边缘AI算法的应用,实现了能源管理、环境监测等智能化功能。

旷视科技针对边缘设备推出多种AI解决方案,包括边缘计算智能分析盒、AIoT操作系统等。来支持在边缘设备上实时运行复杂的AI算法,实现数据的快速处理和分析。同时,旷视科技还提供了全方位的服务,帮助用户将算法应用于实际场景,并推广到市场。

还有商汤科技,通过云智能边缘盒龙腾边缘计算的产品,为智能相机提供接入和解析能力,支持车、物、非机动车、行为等多种算法融合解析,算法自由调度,具备数据边缘汇聚、边缘解析、边缘自治、云边协同的能力。此外,商汤科技还通过标准化的大模型生产流程,支持了超过七成的行业业务,为市场提供了丰富的边缘AI解决方案。

写在最后

总的来说,边缘AI算法部署在边缘设备上,通常是经过经过优化和压缩的轻量级模型,这些模型能够在设备端进行实时的数据处理和分析。边缘AI算法适用于需要实时处理数据、网络连接有限、隐私保护要求高的场景中,在工业制造、智能家居、城市管理、能源管理等方面都已经得到应用。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38083

    浏览量

    296312
  • 边缘AI
    +关注

    关注

    0

    文章

    201

    浏览量

    5834
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    部署边缘计算设备时需要考虑哪些问题?

    部署边缘计算设备时,需结合边缘计算 “ 靠近数据源头、低延迟、分布式、资源受限 ” 的核心特性,从硬件适配、软件架构、数据管理、网络稳定、
    的头像 发表于 09-05 15:38 715次阅读
    <b class='flag-5'>部署</b><b class='flag-5'>边缘</b>计算<b class='flag-5'>设备</b>时需要考虑哪些问题?

    Arm方案 基于Arm架构的边缘设备(树莓派或 NVIDIA Jetson Nano)上部署PyTorch模型

    本文将为你展示如何在树莓派或 NVIDIA Jetson Nano 等基于 Arm 架构的边缘设备部署 PyTorch 模型
    的头像 发表于 07-28 11:50 2479次阅读

    基于米尔瑞芯微RK3576开发板部署运行TinyMaix:超轻量级推理框架

    推理库,可以让你在任意低资源MCU运行轻量级深度学习模型。关键特性核心代码少于 400行(tm_layers.c+tm_model.c+arch_cpu.h), 代码段(.text)少于3KB 低
    发表于 07-25 16:35

    如何在RK3576开发板运行TinyMaix :超轻量级推理框架--基于米尔MYD-LR3576开发板

    让你在任意低资源MCU运行轻量级深度学习模型。关键特性核心代码少于400行(tm_layers.c+tm_model.c+arch_cpu.h),代码段(.tex
    的头像 发表于 07-25 08:03 3984次阅读
    如何在RK3576开发板<b class='flag-5'>上</b>运行TinyMaix :超<b class='flag-5'>轻量级</b>推理框架--基于米尔MYD-LR3576开发板

    边缘AI实现的核心环节:硬件选择和模型部署

    边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备,使这些
    的头像 发表于 06-19 12:19 1035次阅读
    <b class='flag-5'>边缘</b>AI实现的核心环节:硬件选择和<b class='flag-5'>模型</b><b class='flag-5'>部署</b>

    边缘计算中的机器学习:基于 Linux 系统的实时推理模型部署与工业集成!

    你好,旅行者!欢迎来到Medium的这一角落。本文中,我们将把一个机器学习模型(神经网络)部署边缘设备
    的头像 发表于 06-11 17:22 764次阅读
    <b class='flag-5'>边缘</b>计算中的机器学习:基于 Linux 系统的实时推理<b class='flag-5'>模型</b><b class='flag-5'>部署</b>与工业集成!

    边缘AI实现的核心环节:硬件选择和模型部署

    电子发烧友网综合报道 边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备,使这
    发表于 05-26 07:09 1286次阅读

    如何使用Docker部署模型

    随着深度学习和大模型的快速发展,如何高效地部署这些模型成为了一个重要的挑战。Docker 作为一种轻量级的容器化技术,能够将模型及其依赖环境
    的头像 发表于 05-24 16:39 789次阅读

    【幸狐Omni3576边缘计算套件试用体验】DeepSeek 部署及测试

    部署的相关流程,包括模型介绍、部署方案、RKLLM 库、编译和运行、效果演示等。通过板端人工智能大模型部署,展示了该开发板
    发表于 03-21 19:31

    研华边缘AI Box MIC-ATL3S部署Deepseek R1模型

    随着深度求索(DeepSeek)大模型的发布引发行业热议,研华科技基于昇腾Atlas平台边缘AI Box MIC-ATL3S正式发布与Deepseek R1模型部署流程。该平台依托昇
    的头像 发表于 02-14 16:08 2617次阅读
    研华<b class='flag-5'>边缘</b>AI Box MIC-ATL3S<b class='flag-5'>部署</b>Deepseek R1<b class='flag-5'>模型</b>

    DeepSeek模型成功部署,物通博联在 AI 赋能工业持续探索、不断前行

    和二次开发,DeepSeek R1模型的发布迅速点燃了AI产业的革命之火。 DeepSeek R1 通过蒸馏将大模型的推理能力“压缩”至小模型,兼顾性能与成本,为边缘
    的头像 发表于 02-12 11:15 1099次阅读

    边缘设备设计和部署深度神经网络的实用框架

    ,以及由强大而高效的软件工具链补充的低成本边缘设备的可用性。此外,需要避免通过网络传输数据——无论是出于安全原因还是仅仅为了尽量减少通信成本。 边缘人工智能涵盖广泛的设备、传感器、微控
    的头像 发表于 12-20 11:28 1378次阅读

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    网络(DenseNet)等创新设计都是为了克服深层网络训练中的挑战而提出的。 3 边缘设备部署 边缘
    发表于 12-19 14:33

    AI模型部署边缘设备的奇妙之旅:如何在边缘部署OpenCV

    的能力。 本文章主要讲述如何在边缘设备使用OpenCV。本次使用的边缘设备是凌智电子开发的凌智视觉模块,具体如下: 如对该
    发表于 12-14 09:31

    AI模型部署边缘设备的奇妙之旅:如何实现手写数字识别

    处理,而不必传输到外部服务器,这有助于更好地保护用户隐私和数据安全。 然而,边缘计算也带来了独特的挑战,特别是资源受限的嵌入式系统中部署复杂的AI模型时。为了确保神经网络
    发表于 12-06 17:20