0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ONNX Runtime支持龙架构,AI推理生态再添新翼

CHANBAEK 来源:网络整理 2024-03-27 10:58 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0,这一里程碑式的更新意味着龙芯平台上的AI推理应用开发与部署将更加便捷。

ONNX Runtime(ORT)作为近年来兴起的AI推理框架软件,已逐渐成为众多AI应用的首选基础推理引擎。此次更新不仅丰富了ORT的算力后端支持,更在软件生态层面为龙架构注入了新的活力。新版本将支持PyTorch、TensorflowTFLite等多种模型格式输入,覆盖CPUGPUIoT、NPU、FPGA等多样化算力平台,从而满足各种复杂的AI推理需求。

此次ONNX Runtime对龙架构的支持,无疑将进一步推动龙芯平台在AI领域的应用和发展,为开发者提供更加广阔的创新空间。同时,这也标志着龙架构软件生态正在不断完善,为未来的AI技术革新奠定了坚实基础。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 龙芯
    +关注

    关注

    3

    文章

    446

    浏览量

    32943
  • AI
    AI
    +关注

    关注

    91

    文章

    41115

    浏览量

    302608
  • 开源
    +关注

    关注

    3

    文章

    4346

    浏览量

    46445
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    江波亮相2026 AMD渠道 新兴伙伴生态大会,以集成存储共建端侧AI生态

    近日,以“千帧聚势竞赢AI骏启生态”为主题的2026AMD渠道&新兴伙伴生态大会顺利举办。作为AMD全球核心生态合作伙伴,江波携端侧
    的头像 发表于 04-20 18:28 130次阅读
    江波<b class='flag-5'>龙</b>亮相2026 AMD渠道 新兴伙伴<b class='flag-5'>生态</b>大会,以集成存储共建端侧<b class='flag-5'>AI</b><b class='flag-5'>生态</b>

    是德科技推出全新AI推理仿真平台

    是德科技(NYSE: KEYS)近日推出KAI推理构建器(Keysight AI Inference Builder),这款仿真与分析平台旨在大规模验证针对推理进行优化的AI基础设施。
    的头像 发表于 03-20 17:27 815次阅读
    是德科技推出全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>仿真平台

    OrangePi RV2 深度技术评测:RISC-V AI融合架构的先行者

    2 TOPS 融合算力 :在端侧轻量模型(如MobileNet、DeepSeek-R1蒸馏版)上可流畅运行 框架支持 :官方宣称兼容主流AI生态(TensorFlow Lite、ONNX
    发表于 03-03 20:19

    水晶光电在ESG与AI领域殊荣

    近日,水晶光电殊荣!凭借在可持续发展领域的扎实实践与人工智能技术的前沿探索,公司接连荣获三奖,这充分体现了其坚持双轨发展所取得的坚实成就与强大实力。
    的头像 发表于 02-01 10:22 1154次阅读

    算力积木+3D堆叠!GPNPU架构创新,应对AI推理需求

    落地的关键瓶颈。在此背景下,云天励飞推出其第五代芯片架构——GPNPU(General-Purpose Neural Processing Unit,通用神经网络处理单元),以一场底层架构的革命,试图重塑AI算力格局,推动大模型
    的头像 发表于 12-11 08:57 8075次阅读

    AI共创,江波AI存储创新方案亮相2025数智科技生态大会

    12月5至7日,由中国电信主办的“智能领航智惠共生”2025数智科技生态大会在广州盛大启幕。作为中国电信数智生态的参与者,江波受邀出席本次行业盛会,企业级存储事业部市场总监刘洋发表《AI
    的头像 发表于 12-05 18:01 748次阅读
    <b class='flag-5'>AI</b>共创,江波<b class='flag-5'>龙</b>携<b class='flag-5'>AI</b>存储创新方案亮相2025数智科技<b class='flag-5'>生态</b>大会

    Alif Semiconductor的Ensemble MCU新增对ExecuTorch Runtime支持,助力其推动边缘生成式AI发展

    · Ensemble E4/E6/E8是业界首个为Transformer网络提供硬件加速的MCU系列,可在边缘设备及终端设备上实现本地生成式AI推理 · Alif与Arm合作,在PyTorch大会上
    的头像 发表于 11-04 11:44 1826次阅读
    Alif Semiconductor的Ensemble MCU新增对ExecuTorch <b class='flag-5'>Runtime</b>的<b class='flag-5'>支持</b>,助力其推动边缘生成式<b class='flag-5'>AI</b>发展

    国产AI芯片真能扛住“算力内卷”?海思昇腾的这波操作藏了多少细节?

    反而压到了310W。更有意思的是它的异构架构:NPU+CPU+DVPP的组合,居然能同时扛住训练和推理场景,之前做自动驾驶算法时,用它跑模型时延直接降了20%。 但疑惑也有:这种算力密度下,散热怎么解决?而且昇腾的生态适配速度能
    发表于 10-27 13:12

    BPI-AIM7 RK3588 AI与 Nvidia Jetson Nano 生态系统兼容的低功耗 AI 模块

    。它是开源硬件,我们已在线发布设计文档,包括原理图和接口定义。其异构计算架构兼容 NVIDIA Jetson Nano 接口标准,非常适合边缘计算、AI 推理、VR/AR、智能 NVR 系统以及通用
    发表于 10-11 09:08

    2025架构教育生态大会圆满收官

    近日,2025架构教育生态大会暨信息技术与自主创新产教融合共同体第三次全体大会暨宁夏AI教育生态大会成功举办。国内教育领域权威专家、科研院
    的头像 发表于 08-14 17:46 1376次阅读

    onnx模型转换rknn模型出现问题

    the inputs/outputs or the model. 我并没有找到解决方案,我尝试了直接使用onnxruntime进行onnx推理,可以完成,但是为什么onnx转换为rknn时会报错。这些事一些相关
    发表于 08-11 11:25

    请问如何在RK3588上使用npu,用onnx模型来推理

    请问如何在瑞芯微 RK3588上使用npu,用onnx模型来推理。官网上介绍说要把ONNX模型转换成RKNN模型。但是我并不想这么干,请问有什么办法吗?
    发表于 08-09 00:51

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    DeepSeek-R1:强大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基础技术研究有限公司开发的新一代AI大模型。其核心优势在于强大的推理引擎能力,融合了自然语言处理(
    发表于 07-16 15:29

    Nordic收购 Neuton.AI 关于产品技术的分析

    与 Nordic 的 nRF54 系列超低功耗无线 SoC 结合,使得即使是资源极为有限的设备也能高效运行边缘 AI。Nordic 目前正在将 Neuton 深度集成到自身开发生态中,未来会提供更多工具、固件
    发表于 06-28 14:18

    【米尔MYC-YM90X安路飞龙DR1开发板】安路科技 SALDRAGON开发板介绍

    基于Buildroot或Yocto的定制化Linux系统,支持Cortex-A35双核的OpenMP/OpenCL多线程编程,优化NPU的TensorFlow Lite/ONNX Runtime
    发表于 04-28 17:57