ONNX Runtime支持龙架构，AI推理生态再添新翼
近日，备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0，这一里程碑式的更新意味着龙芯平台上的AI推理应用开发与部署将更加便捷。
ONNX Runtime（ORT）作为近年来兴起的AI推理框架软件，已逐渐成为众多AI应用的首选基础推理引擎。此次更新不仅丰富了ORT的算力后端支持，更在软件生态层面为龙架构注入了新的活力。新版本将支持PyTorch、Tensorflow、TFLite等多种模型格式输入，覆盖CPU、GPU、IoT、NPU、FPGA等多样化算力平台，从而满足各种复杂的AI推理需求。
此次ONNX Runtime对龙架构的支持，无疑将进一步推动龙芯平台在AI领域的应用和发展，为开发者提供更加广阔的创新空间。同时，这也标志着龙架构软件生态正在不断完善，为未来的AI技术革新奠定了坚实基础。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
龙芯
+关注
关注
2文章
303浏览量
30860 -
AI
+关注
关注
87文章
26458浏览量
264070 -
开源
+关注
关注
3文章
2989浏览量
41720
发布评论请先 登录
相关推荐
开发者手机 AI - 目标识别 demo
应用的demo。
应用程序通过相机进行预览，对预览画面中的物体进行目标识别，目前该应用程序支持识别100种物体。
系统架构
下图为demo应用以及Openharmony AI子系统的架构
发表于 04-11 16:14
将yolov5s的模型转成.onnx模型，进行cube-ai分析时报错的原因？
报错显示张量不能大于四维的，想请教解决一下，我再此之后通过onnx-simplifier对.onnx进行简化之后再通过cube-ai进行分
发表于 03-15 06:54
使用cube-AI分析模型时报错的原因有哪些？
使用cube-AI分析模型时报错，该模型是pytorch的cnn转化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
发表于 03-14 07:09
微软推出ONNX Runtime Web，利用WebGPU优化浏览器机器学习性能
作为微软的 JavaScript 库，ONNX Runtime Web 使得网络开发者能在浏览器环境下部署机器学习模型，并提供多种硬件加速的后端支持。
通过新的ONNX导出器简化模型导出流程
大家好。我叫Manav Dalal，今天我将讲解如何通过新的ONNX导出器简化模型导出流程。如果你还没有听说过ONNX，它是一种用于表示机器学习模型的开放格式。它定义了一套通用的运算符，机器学习
HarmonyOS：Neural Network Runtime对接AI推理框架开发指导
场景介绍
Neural Network Runtime 作为 AI 推理引擎和加速芯片的桥梁，为 AI 推理引擎提供精简的 Native 接
发表于 12-19 10:09
HarmonyOS：使用MindSpore Lite引擎进行模型推理
场景介绍
MindSpore Lite 是一款 AI 引擎，它提供了面向不同硬件设备 AI 模型推理的功能，目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。
本文介绍
发表于 12-14 11:41
SDK3.0中yolov8-pose用onnx转bmodel自动killed如何解决？
算丰SDK3.0转yolov8-pose，先转onnx再转bmodel出现了点问题，大佬们有谁转过不，是有算子不支持需要自己算子开发吗？
发表于 09-18 06:50
yolov5模型onnx转bmodel无法识别出结果如何解决？
问题描述：
1. yolov5模型pt转bmodel可以识别出结果。（转化成功，结果正确）
2. yolov5模型pt转onnx转bmodel可以无法识别出结果。（转化成功，结果没有）
配置：
1.
发表于 09-15 07:30
如何提高YOLOv4模型的推理性能？
使用 PyTorch 对具有非方形图像的 YOLOv4 模型进行了训练。
将 权重转换为 ONNX 文件，然后转换为中间表示 （IR）。
无法确定如何获得更好的推理性能。
发表于 08-15 06:58
ONNX格式模型部署兼容性框架介绍
ONNXRUNTIME介绍 ONNX格式模型部署兼容性最强的框架 ONNXRUNTIME，基本上不会有算子不支持跟不兼容的情况出现，只要能导出ONNX格式模型，它基本上都能成功加载，成功推
百度飞桨PP-YOLOE ONNX 在LabVIEW中的部署推理(含源码)
对于如何在LabVIEW中实现该模型的部署，笔者目前还没有看到相关介绍文章，所以笔者在实现PP-YOLOE ONNX 在LabVIEW中的部署推理后，决定和各位读者分享一下如何使用LabVIEW实现PP-YOLOE的目标检测。
工商网监
评论