0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Deep Edge AI使得算法的规模正不断缩小

STM32单片机 来源:意法半导体中国 作者:意法半导体中国 2021-10-12 17:36 次阅读

机器学习深度学习网络有可能通过提供更强大的全新方法来分析现场数据,从而极大地提高产品价值。Deep Edge AI使得算法的规模正不断缩小,目前能够在传感器旁的端侧进行计算。智能设备数量指数级增长目前需要经过优化的处理能力,以便为许多市场(如工业4.0、消费品、建筑管理、医疗保健和农业等领域)带来更多价值。

然而,对于AI/ML数据科学家来说,将他们的模型移植到嵌入式环境具有很大挑战性,因为嵌入式系统在计算、内存和功耗方面受到一定限制。微控制器可与嵌入式应用完美匹配,因为它们专为特定的细分市场而定制,具有低功耗和开发速度快等特点,绝对物超所值。然而,与大型应用处理器相比,在Cortex-M上进行开发时需要完全不同的嵌入式开发技能。

为了帮助企业在最短时间内设计出最佳产品,意法半导体提供一个全面的AI生态系统,其包括硬件、软件开发工具以及STM32微控制器和微处理器上所运行的示例代码。这些示例可以快速衍生以实现新的功能,这些工具支持对优化的机器学习模型(例如但不限于,神经网络)进行移植测试、基准检查以及迭代。

STM32Cube.AI是广泛使用的STM32CubeMX配置与代码生成工具,可在基于STM32 ArmCortex-M的微控制器上使用AI。

用户将受益于STM32CubeMX特性,如面向所有STM32板的代码生成,以及可在不同的操作系统(Windows、Linux或Mac OS)上兼容IAR Embedded Workbench、MDK-ARM以及STM32CubeIDE(GCC编译器)。

它通过参数约束的动态验证自动配置外设和中间件功能模式,通过最佳参数和动态验证实现自动初始化,进而自动配置时钟树。

STM32Cube集成使得STM32Cube.AI用户能够有效地在广泛的STM32微控制器系列产品之间移植模型,并且(在相似型号适用于不同产品的情况下)在STM32产品之间轻松迁移。

该插件扩展了STM32CubeMX功能,可自动转化预训练AI模型,将生成的优化库集成到用户项目中,而不是人工构建代码,并支持将深度学习解决方案嵌入到广泛的STM32微控制器产品组合中,从而为每个产品添加新的智能化功能。

STM32Cube.AI原生支持各种深度学习框架,如Keras、TensorFlow Lite、ConvNetJs,并支持可导出为ONNX标准格式的所有框架,如PyTorch、MicrosoftCognitive Toolkit、MATLAB等。

此外,STM32Cube.AI支持来自广泛ML开源库Scikit-Learn的标准机器学习算法,如孤立森林、支持向量机(SVM)、K-Means。

在实践中,用户只需在STM32CubeMX中加载一个预训练模型,然后选择一个AI运行环境。STM32Cube.AI可自动分析模型并显示正确存储和运行模型所需的最小内存空间。然后用户可在兼容的STM32设备列表中选择适合自己项目需求的最佳STM32微控制器。

一旦选定了合适的微控制器,可为该微控制器启动一个项目,或者直接选择适当的MCU设置所自动配置的开发板。可以选择一个或多个AI/ML模型,并通过能够评估总体模型复杂度以及RAM和闪存占用空间的工具进行分析。还能以图形方式将模型可视化,并显示每一层以查看模型的复杂性究竟位于何处。Keras和TensorFlow Lite神经网络支持8位量化模型。还可以使用自定义层扩展该工具,以添加包含用户定义层的模型并对其进行基准测试。

STM32Cube.AI有助于模型优化,所以更大的网络也能移植到微控制器上。图形用户界面提供生成的代码中所用缓冲区的全面视图,并包含几个优化选项(例如输入/输出缓冲区和激活缓冲区之间的存储器重叠),以便将实现模型所需的内存空间降至最低。

STM32Cube.AI支持使用外部存储器,并允许在不同的存储区之间轻松分配权重。一旦模型存储在多个阵列中,(例如)可以将模型权重的一部分映射到内部,将其它部分映射到外部Flash存储器中,将激活缓冲区映射到外部RAM中。

该工具旨在加快开发速度,并使开发人员能够在桌面验证自己的模型以进行快速基准测试,以及在设备上验证自己的模型以测量最终模型性能(包括量化的影响)。在验证过程的最后,一个对照表总结了原始模型与STM32模型的精度和误差,并可选择性提供每层的复杂性报告和执行期间测得的推理时间。

神经网络编译器提供的优化代码提高了效率并减少了内存占用。各层和内核被设计为在STM32上运行并利用可用的设备特性。选定所有设置后,STM32Cube.AI会生成一个应用模板,可以直接与您首选IDE中的应用特定代码进行集成。然后可以使用所有STM32开发工具(如STM32CubeMX、STM32CubeMonitor、STM32CubeMonPower、STM32CubeMonRF、STM32CubeMonUCPD)和诸多合作伙伴工具设计采用人工智能算法的最终应用。

对于希望拥有一个跨多个项目的通用框架的开发人员,STM32Cube.AI还支持TensorFlow Lite运行环境。可以从用户界面中选择它作为STM32Cube.AI运行环境的替代方案,即使它可能会降低性能,因为运行环境没有针对STM32进行完全优化。

由意法半导体对STM32Cube.AI提供维护,可以确保高质量开发所需的长期支持和可靠性。每次推出新的主要版本时,都会有针对性地定期更新,确保兼容最新AI框架。

该工具既能作为图形用户界面,也可以作为命令行,所以能够轻松集成到DevOps流程中,以确保AI开发的所有领域定期得到验证。甚至可以构建一个带有部署后检查功能的AutoML流,利用分析和验证功能识别与用例的目标存储空间、推理时间和精度约束相匹配的合适模型。

模型还可以在现场持续更新,因为库可以部署为可重定位的模型。因此无需执行完整的固件升级即可轻松更新模型拓扑和权重。简化了产品更新,并通过无线模型更新(或局部FOTA)确保Deep Edge AI与现场观察到的任何变更保持一致,或只是通过模型/软件更新升级新功能。

最后,STM32Cube.AI只是意法半导体所提供的更广泛生态系统的一部分,使得STM32用户可以在STM32上使用AI功能。 更多细节将在后续文章中予以介绍。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26153

    浏览量

    263716
  • 机器学习
    +关注

    关注

    66

    文章

    8062

    浏览量

    130442
  • 深度学习
    +关注

    关注

    73

    文章

    5206

    浏览量

    119804

原文标题:AI技术专题之四 | AI在Deep Edge领域中的应用

文章出处:【微信号:STM32_STM8_MCU,微信公众号:STM32单片机】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【ALINX 技术分享】AMD Versal AI Edge 自适应计算加速平台之 Versal 介绍(2)

    【ALINX 技术分享】AMD Versal AI Edge 自适应计算加速平台之 Versal 介绍,以及Versal 芯片开发流程的简介。
    的头像 发表于 03-07 16:03 257次阅读
    【ALINX 技术分享】AMD Versal <b class='flag-5'>AI</b> <b class='flag-5'>Edge</b> 自适应计算加速平台之 Versal 介绍(2)

    【ALINX 技术分享】AMD Versal AI Edge 自适应计算加速平台之准备工作(1)

    AMD Versal AI Edge 自适应计算加速平台之准备工作,包含软件环境、硬件环境。
    的头像 发表于 03-07 15:49 254次阅读
    【ALINX 技术分享】AMD Versal <b class='flag-5'>AI</b> <b class='flag-5'>Edge</b> 自适应计算加速平台之准备工作(1)

    三元电芯与铁锂电芯的价格差异不断缩小

    三元电芯与铁锂电芯之间的价差正在不断缩小
    的头像 发表于 01-03 11:29 551次阅读

    OpenHarmony AI框架开发指导

    一、概述 1、功能简介 AI业务子系统是OpenHarmony提供原生的分布式AI能力的子系统。AI业务子系统提供了统一的AI引擎框架,实现算法
    发表于 09-19 18:54

    采用Versal AI Edge系列的边缘ACAP

    电子发烧友网站提供《采用Versal AI Edge系列的边缘ACAP.pdf》资料免费下载
    发表于 09-13 17:08 0次下载
    采用Versal <b class='flag-5'>AI</b> <b class='flag-5'>Edge</b>系列的边缘ACAP

    AI算法有哪些?

    AI算法有哪些? 随着人工智能技术的不断发展和应用,越来越多的AI算法被发明和应用于各个领域。本文将介绍一些常见难度较低但易于理解的
    的头像 发表于 08-24 15:40 1722次阅读

    ai算法和模型的区别

    ai算法和模型的区别 人工智能(AI)是当今最热门的技术领域之一。虽然AI被广泛应用于各种领域,但其核心是由算法和模型组成的。
    的头像 发表于 08-08 17:35 2370次阅读

    AI大模型的开源算法介绍

    自定义。 AI大模型的开源算法简单来说就是用于训练AI大模型的算法,并且是开源的。 现阶段随着计算能力的不断提升和数据量的
    的头像 发表于 08-08 17:25 1279次阅读

    争夺芯片业务不断缩小的物理冗余

    不断增加的密度和复杂性使得从设计到制造再到现场捕获和集成更多数据变得势在必行。
    发表于 08-07 14:33 213次阅读
    争夺芯片业务<b class='flag-5'>不断</b><b class='flag-5'>缩小</b>的物理冗余

    云天励飞展示新一代边缘计算芯片 Deep Edge10 系列 SoC 芯片

    2023世界人工智能大会将于7月6日至8日在上海举办。本次大会上,云天励飞展示了自主设计开发的新一代边缘计算芯片 Deep Edge10 系列 SoC 芯片,并公布“天书”大模型的最新动态。 大模型
    的头像 发表于 07-07 11:41 1051次阅读

    AI边缘计算盒子是如何推动边缘AI应用落地的

    AI边缘计算盒子(AI Edge Computing Box)是一种集成了边缘计算和AI算法处理能力的设备,可以用于推动边缘
    的头像 发表于 05-26 14:08 634次阅读

    只有“软硬”兼施,边缘智能才能火力全开

    Edge AI是一个将边缘计算和人工智能(AI)结合在一起的系统,其目标是使用机器学习算法处理本地硬件设备生成的数据。Edge
    的头像 发表于 05-18 10:54 498次阅读

    AI芯片发展历史及最新趋势

    想要玩边缘智慧(Edge Artificial Intelligence, Edge AI)前我们首先要先认识什么是类神经网络(Neural Network, NN)、深度学习(Deep
    的头像 发表于 05-06 16:33 1222次阅读
    <b class='flag-5'>AI</b>芯片发展历史及最新趋势

    SPFA 算法:实现原理及其应用

    ,poll 方法将下一个顶点从队列中取出 u.setVisited(false); // 标记该顶点为未访问,以便在算法中再次对其处理 // 查找部分,循环遍历当前顶点 u 的所有边 for (Edge e
    发表于 04-29 12:43

    索尼投资树莓派,共同开发边缘 AI 解决方案

    索尼半导体解决方案(SSS)今天发布新闻稿,宣布和树莓派公司签署战略协作框架,持有后者的少数股权,共同开发边缘人工智能(Edge AI)解决方案。IT之家翻译索尼新闻稿内容如下:“公司通过这项战略
    发表于 04-13 15:55