Tengine全力投入到AI芯片工作中,助力解决开发者的一系列问题
近两个月来，由于国际局势导致海思的芯片供应链出现问题，海思的安防芯片缺口逐渐扩大，从华南地区逐步扩散至其他城市，从高端型号延伸到中低端型号，价格一路飙涨，能否有持续稳定的货源成为了从业者的心头病。
算法模型迅速、高效化的工业化落地，是当前行业的面临的一大问题。原本学术界与工业界就存在较大 GAP，加上 NPU 芯片的突然兴起，说是为了提高工业界的效率，事实上很多常规的的学术界模型都较难快速部署到 NPU 芯片上。本质原因是芯片产品的迭代周期往往以年为计数单位，且NPU属于低可编程性ASIC芯片，很多NPU没有较完整的指令集，直接对寄存器进行操作；而学术界的各种 Operator 是以季度为单位在更新，因此模型算子不支持的问题在NPU部署场景预期会长期存在，现在业界对NPU部署很多基于较为传统的模型或者基于NPU可支持的操作选型模型。
为了解决AI边缘应用开发部署遇到的真实问题，OPEN AI LAB的边缘AI推理框架Tengine团队今年全力投入到赋能 AI 芯片的工作中，打通从算法到AI芯片部署的环节，助力解决开发者自行适配难、效率低、性能差的问题。
Tengine团队也在今年八月开始了对RV1109/RV1126的适配支持，目前Tengine已经完美适配 RV1109/RV1126 芯片。Tengine 对RV1109/1126的适配做到了算子级的封装调度，框架自动对底层算力资源进行调度，包括NPU、CPU用于神经网络推理以及2D图形加速用于神经网络图片前后处理。
责任编辑：YYX
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
神经网络
+关注
关注
42文章
4572浏览量
98743 -
AI芯片
+关注
关注
17文章
1652浏览量
34380 -
Tengine
+关注
关注
1文章
47浏览量
2784
发布评论请先 登录
相关推荐
开发者手机 AI - 目标识别 demo
功能简介
该应用是在Openharmony 4.0系统上开发的一个目标识别的AI应用，旨在从上到下打通Openharmony AI子系统，展示Openharmony系统的
发表于 04-11 16:14
英特尔宣布AI PC加速计划新增两项AI举措
首先，“AI PC 开发者计划”面向软件研发人员和独立软件开发商，为他们提供便捷的开发环境，助力加速大规模运用新型
鸿蒙系统优缺点，能否作为开发者选择
星河版已经是纯血鸿蒙，但是它的发展一些周期。生态圈的建立难度大，各大厂商加入鸿蒙原生开发需要时间累积。
鸿蒙开发人才空缺，由于鸿蒙作为一款新型的系统，程序员们都是从0学起。所以市面上很
发表于 02-16 21:00
阿里云在海外市场发布一系列AI大数据产品
近日，阿里云宣布面向海外市场发布一系列AI计算及大数据产品，进一步扩大其在全球市场的份额。这一系列新产品涵盖了serverless模式的AI服务平台、整合向量引擎技术的大数据产品等，旨
鸿蒙不再兼容安卓，那么鸿蒙开发者是否会大增？
8 亿。
而鸿蒙的开发不止应用层，它是以1+8+N的生态圈。涵盖了车载、数码、智能家居、家电等一系列生态产开发，这么大的市场需求，必定会导致市场需要大量鸿蒙开发者。那么鸿蒙
发表于 01-31 22:17
HarmonyOS SDK，助力开发者打造焕然一新的鸿蒙原生应用
提供 AI 基础能力、AI 控件、意图框架分层开放，使能应用原生智能；系统领域中一系列安全控件，为可信的开发和运行环境筑基，丰富的通信服务让多端互联更近
发表于 01-19 10:31
鸿蒙Harmony是如何影响Android工程师的呢？
官宣开始进行鸿蒙原生应用的研发之旅。迄今为止，已有超过 400 家合作伙伴投身其中，共同投入到鸿蒙原生应用的开发工作中来。
随后，就发布了一系列
发表于 01-14 22:14
芯片开发者的生产力该如何提升
2023年，电子行业取得了多项关键成果：芯片设计的创新范围进一步扩大，再创业界新高；不同行业对芯片的需求日趋多样化，相应的设计和验证过程也随之更加错综复杂；Multi-Die解决方案的采用率相当可观，开发者也能越来越熟练地在
欢迎加入飞腾派开发者社区，感谢每一位开发者！
希望更多的生态厂商能入驻电子发烧友论坛，一起赋能开发者，共筑繁荣社区生态！
关于飞腾：
飞腾信息技术有限公司是国内领先的自主核心芯片提供商，致力于飞腾系列国产高性能、低功耗通用计算微处
发表于 12-11 16:11
走向边缘智能，美格智能携手阿加犀成功在高算力AI模组上运行一系列大语言模型
近日，美格智能发挥软硬件一体协同开发能力，融合阿加犀卓越的AI优化部署技术，在搭载高通QCS8550平台的高算力AI模组上，成功运行了一系列大语言模型，包括LLaMA-2、通义千问Qw
2023 SAP TechEd，让每位开发者都变身为生成式AI开发者
SAP 推出一系列创新成果，围绕生成式 AI 应用开发和矢量数据库功能，为 AI 时代的开发者提供全新学习机会 印度班加罗尔2023年11月
基于Ampere Altra 系列处理器的一系列平台为 AI 高效赋能
，‘芯’未来”的主题，Ampere 在本次活动上展示了基于 Ampere Altra 系列处理器的一系列平台。凭借高性能、低功耗、可扩展性等卓越特性，基于 Ampere Altra 系列处理器的创新平台为 Web 应用、大数据、
STM32Cube生态系统助力开发者释放创造力
STM32Cube生态系统，助力开发者释放创造力，本片文档主要介绍选型、原型评估、配置、编译、软件包、调试、烧录、监测和总结。
发表于 09-05 06:10
华为云 classroom 赋能|tookIT 助力开发者上云
体验。 什么是 Huawei Cloud Toolkit Huawei Cloud Toolkit 中文名是华为云开发者插件，是基于华为云现有能力的一系列插件集合，简单来说就是把华为云的能力带到每个开发者的桌面，使
HarmonyOS NEXT新能力，一站式高效开发HarmonyOS应用
全面完善，应用开发更高效
本次DevEco Studio、DevEco Testing等一系列HarmonyOS应用开发套件全面升级，为开发者提供了围绕四个方面的新体验：高校编码快速构
发表于 08-14 15:08
工商网监
评论