资料介绍
软件简介
Tengine Lite 由 OPEN AI LAB 主导开发,该项目实现了深度学习神经网络模型在嵌入式设备上快速、高效部署。为实现众多 AIoT 应用中跨平台部署,本项目基于原有 Tengine 项目使用 C 语言进行重构,针对嵌入式设备资源有限的特点进行深度框架裁剪。同时采用完全分离的前后端设计,利于 CPU、GPU、NPU 等异构计算单元快速移植和部署。同时兼容 Tengine 框架原有 API 和 模型格式 tmfile,降低评估、迁移成本。
Tengine Lite 核心代码由 4 个模块组成:
- dev: NN Operators 后端模块,当前提供 CPU 代码,后续逐步开源 GPU、NPU 参考代码;
- lib:框架核心部件,包括 NNIR、计算图、硬件资源、模型解析器的调度和执行模块;
- op:NN Operators 前端模块,实现 NN Operators 注册、初始化;
- serializer:模型解析器,实现 tmfile 格式的网络模型参数解析。
架构简析
如何使用
编译
- 快速编译 基于 cmake 实现简单的跨平台编译。
示例
模型仓库
- Tengine model zoo 兼容原有 Tengine 的模型示例仓库(密码:hhgc)。
转换工具
- 预编译版本:提供 Linux 系统上预编译好的模型转换工具;
- 在线转换版本:基于 WebAssembly 实现(浏览器本地转换,模型不会上传);
- 源码编译:参考 Tengine-Convert-Tools 项目编译生成。
速度评估
- Benchmark 基础网络速度评估工具,欢迎大家更新。
Roadmap
下载该资料的人也在下载
下载该资料的人还在阅读
更多 >
- AIOT推理引擎『Tengine』入门教程 1次下载
- 将Tengine Python API移植到Tengine Lite 2次下载
- 基于Tengine实现yolov4的cpu推理 4次下载
- 华为智慧终端背后的黑科技--超轻量AI引擎MindSpore Lite,性能评测结果领先 3次下载
- Tengine 支持 NPU 模型部署-YOLOv5s 3次下载
- 嵌入式系统系列丛书-时间触发嵌入式系统设计模式 0次下载
- 信必优嵌入式开发 10次下载
- 能在MCU上运行的语音算法方案——AID.Speech 7次下载
- 基于LBS的嵌入式地理信息系统引擎的开发 3次下载
- 嵌入式设备固件的安全分析和测评技术 8次下载
- 基于YOLOv3的嵌入式设备视频目标检测算法 7次下载
- 嵌入式系统是如何组成的 3次下载
- TI的嵌入式分析技术使设备更加智能 9次下载
- 构件化嵌入式3D引擎的研究与设计 17次下载
- 嵌入式设备的网络化方法研究 21次下载
- 什么是嵌入式系统?嵌入式系统的具体应用 510次阅读
- 几种常见嵌入式设备通信协议 989次阅读
- 嵌入式设备系统日志记录方法 691次阅读
- 保护连接的嵌入式设备上的数据 449次阅读
- 基于双以太网处理器Jupiter实现嵌入式设备网络的设计 3457次阅读
- 嵌入式物联网设备的3种方案 2719次阅读
- 基于嵌入式系统的Web服务器建立设计 3070次阅读
- Tengine是什么?最好用的Arm嵌入式系统AI框架是它吗? 5891次阅读
- 基于PXA255开发板外围字符设备的嵌入式Linux字符设备驱动设计与应用 1046次阅读
- 一种通过嵌入式互联网技术控制在线嵌入式设备的远程监控系统设计 3475次阅读
- 嵌入式系统的特点大汇总 5453次阅读
- PSoC嵌入式系统设计的三大优势 3033次阅读
- 嵌入式主板品牌有哪些_6大嵌入式主板品牌盘点 3.3w次阅读
- 嵌入式输入设备设计 1162次阅读
- 嵌入式输入设备设计应用 445次阅读
下载排行
本周
- 1山景DSP芯片AP8248A2数据手册
- 1.06 MB | 532次下载 | 免费
- 2RK3399完整板原理图(支持平板,盒子VR)
- 3.28 MB | 339次下载 | 免费
- 3TC358743XBG评估板参考手册
- 1.36 MB | 330次下载 | 免费
- 4DFM软件使用教程
- 0.84 MB | 295次下载 | 免费
- 5元宇宙深度解析—未来的未来-风口还是泡沫
- 6.40 MB | 227次下载 | 免费
- 6迪文DGUS开发指南
- 31.67 MB | 194次下载 | 免费
- 7元宇宙底层硬件系列报告
- 13.42 MB | 182次下载 | 免费
- 8FP5207XR-G1中文应用手册
- 1.09 MB | 178次下载 | 免费
本月
- 1OrCAD10.5下载OrCAD10.5中文版软件
- 0.00 MB | 234315次下载 | 免费
- 2555集成电路应用800例(新编版)
- 0.00 MB | 33566次下载 | 免费
- 3接口电路图大全
- 未知 | 30323次下载 | 免费
- 4开关电源设计实例指南
- 未知 | 21549次下载 | 免费
- 5电气工程师手册免费下载(新编第二版pdf电子书)
- 0.00 MB | 15349次下载 | 免费
- 6数字电路基础pdf(下载)
- 未知 | 13750次下载 | 免费
- 7电子制作实例集锦 下载
- 未知 | 8113次下载 | 免费
- 8《LED驱动电路设计》 温德尔著
- 0.00 MB | 6656次下载 | 免费
总榜
- 1matlab软件下载入口
- 未知 | 935054次下载 | 免费
- 2protel99se软件下载(可英文版转中文版)
- 78.1 MB | 537798次下载 | 免费
- 3MATLAB 7.1 下载 (含软件介绍)
- 未知 | 420027次下载 | 免费
- 4OrCAD10.5下载OrCAD10.5中文版软件
- 0.00 MB | 234315次下载 | 免费
- 5Altium DXP2002下载入口
- 未知 | 233046次下载 | 免费
- 6电路仿真软件multisim 10.0免费下载
- 340992 | 191187次下载 | 免费
- 7十天学会AVR单片机与C语言视频教程 下载
- 158M | 183279次下载 | 免费
- 8proe5.0野火版下载(中文版免费下载)
- 未知 | 138040次下载 | 免费
评论
查看更多