0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ONNX Runtime支持龙架构,AI推理生态再添新翼

CHANBAEK 来源:网络整理 2024-03-27 10:58 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0,这一里程碑式的更新意味着龙芯平台上的AI推理应用开发与部署将更加便捷。

ONNX Runtime(ORT)作为近年来兴起的AI推理框架软件,已逐渐成为众多AI应用的首选基础推理引擎。此次更新不仅丰富了ORT的算力后端支持,更在软件生态层面为龙架构注入了新的活力。新版本将支持PyTorch、TensorflowTFLite等多种模型格式输入,覆盖CPUGPUIoT、NPU、FPGA等多样化算力平台,从而满足各种复杂的AI推理需求。

此次ONNX Runtime对龙架构的支持,无疑将进一步推动龙芯平台在AI领域的应用和发展,为开发者提供更加广阔的创新空间。同时,这也标志着龙架构软件生态正在不断完善,为未来的AI技术革新奠定了坚实基础。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 龙芯
    +关注

    关注

    3

    文章

    411

    浏览量

    32561
  • AI
    AI
    +关注

    关注

    90

    文章

    38189

    浏览量

    297007
  • 开源
    +关注

    关注

    3

    文章

    4039

    浏览量

    45579
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    算力积木+3D堆叠!GPNPU架构创新,应对AI推理需求

    落地的关键瓶颈。在此背景下,云天励飞推出其第五代芯片架构——GPNPU(General-Purpose Neural Processing Unit,通用神经网络处理单元),以一场底层架构的革命,试图重塑AI算力格局,推动大模型
    的头像 发表于 12-11 08:57 5130次阅读

    AI共创,江波AI存储创新方案亮相2025数智科技生态大会

    12月5至7日,由中国电信主办的“智能领航智惠共生”2025数智科技生态大会在广州盛大启幕。作为中国电信数智生态的参与者,江波受邀出席本次行业盛会,企业级存储事业部市场总监刘洋发表《AI
    的头像 发表于 12-05 18:01 125次阅读
    <b class='flag-5'>AI</b>共创,江波<b class='flag-5'>龙</b>携<b class='flag-5'>AI</b>存储创新方案亮相2025数智科技<b class='flag-5'>生态</b>大会

    Alif Semiconductor的Ensemble MCU新增对ExecuTorch Runtime支持,助力其推动边缘生成式AI发展

    · Ensemble E4/E6/E8是业界首个为Transformer网络提供硬件加速的MCU系列,可在边缘设备及终端设备上实现本地生成式AI推理 · Alif与Arm合作,在PyTorch大会上
    的头像 发表于 11-04 11:44 1209次阅读
    Alif Semiconductor的Ensemble MCU新增对ExecuTorch <b class='flag-5'>Runtime</b>的<b class='flag-5'>支持</b>,助力其推动边缘生成式<b class='flag-5'>AI</b>发展

    BPI-AIM7 RK3588 AI与 Nvidia Jetson Nano 生态系统兼容的低功耗 AI 模块

    。它是开源硬件,我们已在线发布设计文档,包括原理图和接口定义。其异构计算架构兼容 NVIDIA Jetson Nano 接口标准,非常适合边缘计算、AI 推理、VR/AR、智能 NVR 系统以及通用
    发表于 10-11 09:08

    2025架构教育生态大会圆满收官

    近日,2025架构教育生态大会暨信息技术与自主创新产教融合共同体第三次全体大会暨宁夏AI教育生态大会成功举办。国内教育领域权威专家、科研院
    的头像 发表于 08-14 17:46 1040次阅读

    onnx模型转换rknn模型出现问题

    the inputs/outputs or the model. 我并没有找到解决方案,我尝试了直接使用onnxruntime进行onnx推理,可以完成,但是为什么onnx转换为rknn时会报错。这些事一些相关
    发表于 08-11 11:25

    请问如何在RK3588上使用npu,用onnx模型来推理

    请问如何在瑞芯微 RK3588上使用npu,用onnx模型来推理。官网上介绍说要把ONNX模型转换成RKNN模型。但是我并不想这么干,请问有什么办法吗?
    发表于 08-09 00:51

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    DeepSeek-R1:强大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基础技术研究有限公司开发的新一代AI大模型。其核心优势在于强大的推理引擎能力,融合了自然语言处理(
    发表于 07-16 15:29

    【米尔MYC-YM90X安路飞龙DR1开发板】安路科技 SALDRAGON开发板介绍

    基于Buildroot或Yocto的定制化Linux系统,支持Cortex-A35双核的OpenMP/OpenCL多线程编程,优化NPU的TensorFlow Lite/ONNX Runtime
    发表于 04-28 17:57

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    ,联发科带来了全面升级的天玑AI开发套件2.0,在模型库规模、架构开放程度、前沿端侧AI技术支持和端侧LoRA训练落地等方面均迎来全面跃迁,为开发者提供了更全面、更开放、更强大的端侧
    发表于 04-13 19:52

    硅基觉醒已至前夜,联发科携手生态加速智能体化用户体验时代到来

    推动AI从“能用”到“好用”,关键不只是算力升级,更在于工具链与生态的协同完善。在MDDC 2025大会上,联发科首度集成发布AI+游戏全场景支持平台:Neuron Studio聚焦
    发表于 04-13 19:51

    龙芯中科发布2024年版架构生态白皮书

    近日,《架构生态白皮书(2024年)》正式发布。经过三年转型发展,龙芯自主CPU设计达到国际主流水平,基于架构CPU的新一代产品性能倍增
    的头像 发表于 03-25 16:49 1292次阅读

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    和 Renesas一直致力于推动开源生态的发展,并积极合作打造高效、开放的计算平台。BPI-AI2N & BPI-AI2N Carrier 的发布,不仅为开发者提供了强大的硬件支持
    发表于 03-19 17:54

    无法在GPU上运行ONNX模型的Benchmark_app怎么解决?

    在 CPU 和 GPU 上运行OpenVINO™ 2023.0 Benchmark_app推断的 ONNX 模型。 在 CPU 上推理成功,但在 GPU 上失败。
    发表于 03-06 08:02

    2024架构创新产品奖发布

    架构生态的蓬勃发展离不开众多中小企业生态伙伴的支持及新产品的持续推出。为鼓励龙芯中小企业生态
    的头像 发表于 01-16 17:17 1032次阅读