0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

加速边缘设备中计算机视觉和语音的AI推理模型

星星科技指导员 来源:嵌入式计算设计 作者:Saumitra Jagdale 2022-10-19 09:08 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

加速AI推理模型已成为一项基本任务,因为我们正朝着创建更复杂,更高效的AI应用程序迈进。灵活和完整的AI辅助是在快速增长的AI领域取得成功的关键组成部分。

RISC-V被设计为模块化的,有几个基本部分和可能的附加部分。ISA的基础和扩展是工业界,学术界和研究界之间合作努力的结果。指令及其编码、控制流、寄存器、内存和寻址逻辑操作和辅助功能都在库中指定。通过完整的软件支持,包括通用编译器,仅基础就可以创建简化的通用计算机。标准扩展旨在与所有标准基础一起工作,并相互兼容,而不会引起任何冲突。

Deep Vision ARA-1 处理器围绕完整的软件工具套件构建,是需要高计算、模型灵活性和能源经济性的边缘应用的明确选择。该解决方案还旨在支持当今最复杂、最具成本效益的边缘 AI 应用,同时消耗最少的功率。

RISC-V计算的创始人和领导者SiFive最近宣布,边缘AI处理器公司Deep Vision将把SiFive RISC-V处理器IP整合到其下一代推理加速器中,以便在边缘设备中实现更完整的计算机视觉和语音。结合这两项超高效服务,深度视觉将授权SiFive智能X280和SiFive Essentia S7处理器IP,以提高其解决方案的灵活性和功能,使客户能够为智能城市,智能零售,汽车和其他行业创建应用程序。

得益于SiFive智能X280处理器,深度视觉加速器现在能够支持更广泛的神经网络模型,并包括浮点优化。张量流精简版和各种 AI/ML 数据格式(包括 BFLOAT16)由 SiFive 智能处理器上的 SiFive 智能扩展提供支持。

SiFive Intelligence X280 处理器作为应用类 AI 处理器的灵活性和可编程性扩展了 Deep Vision 加速器久经考验的功能和性能,可快速支持硬件中新的和不断发展的 AI 推理模型,以及图像缩放、颜色转换和白噪声减除等 AI 预处理任务。

SiFive 基本型 S7 处理器与其他 SiFive RISC-V 处理器一起,提供实时、确定性的处理功能,允许异构计算集群中的命令和控制应用。SiFive Essential S7 处理器架构具有更好的安全性和实时确定性,同时提供面积高效的每瓦性能,使其成为延迟敏感型边缘计算应用的理想选择。

将SiFive智能RISC-V处理器的特性与深度视觉推理加速器相结合,是为快速增长的AI处理器行业快速高效地制造新硬件的自然方式。SiFive 智能扩展和 RISC-V 矢量(如 SiFive 智能 X280 中实现的那样)非常适合当前 AI 应用的需求。得益于SiFive业界领先的RISC-V处理器IP产品组合,SiFive在有效帮助人工智能公司构建以市场为中心的系统方面具有独特的优势。

此外,凭借同类最佳的 11+ SPECint2k6/GHz 基准测试结果,SiFive 性能 P650 将其业务范围扩展到极高端领域,使其成为性能最高的可授权 RISC-V 处理器。凭借多达 16 个内核的多核、多集群 CPU 配置和最近批准的虚拟机管理程序扩展,SiFive Performance P650 可提供可扩展的性能。随着时间的推移,SiFive计划扩展其路线图,以包括多集群功能,在单个SoC中支持128个或更多内核。

RISC-V 加速了当前的 AI 推理模型

SiFive将RISC-V处理器IP引入其下一代AI推理加速器,为边缘设备中的计算机视觉和语音提供更快,更高效的计算能力。RISC-V处理器的高灵活性和强大功能使客户能够以比传统技术更简单,更快的速度创建复杂的AI应用程序,如智能城市,智能零售和汽车。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 计算机
    +关注

    关注

    19

    文章

    7841

    浏览量

    93460
  • 编译器
    +关注

    关注

    1

    文章

    1672

    浏览量

    51909
  • RISC-V
    +关注

    关注

    49

    文章

    2947

    浏览量

    53537
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    可运行 30B 大模型!高性能 RISC-V 边缘计算盒:AIBOX-K3

    与60TOPS通用AI推理算力,可广泛应用于边缘智算服务器、工业边缘计算、智能视觉检测、无人
    的头像 发表于 04-22 16:46 271次阅读
    可运行 30B 大<b class='flag-5'>模型</b>!高性能 RISC-V <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>盒:AIBOX-K3

    Neousys宸曜发布强固紧凑型边缘AI计算机,支持RTX GPU

    强固型嵌入式计算机厂商Neousys宸曜科技发布了一款紧凑的强固可靠型边缘AI计算机Nuvo-11160GC,专为严苛的工业和机器人应用而打造。Nuvo-11160GC搭载了英特尔®酷
    的头像 发表于 04-20 11:47 126次阅读
    Neousys宸曜发布强固紧凑型<b class='flag-5'>边缘</b><b class='flag-5'>AI</b><b class='flag-5'>计算机</b>,支持RTX GPU

    传音相关研究成果入选计算机视觉顶会CVPR 2026

    传音持续深化AI领域的产学研协同,积极推动与国内外知名高校的深度合作,围绕AI视觉语音、语言与大模型等方向推进协同创新。日前,传音TEX
    的头像 发表于 04-03 17:45 2922次阅读
    传音相关研究成果入选<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>顶会CVPR 2026

    边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值

    AGX Orin 150 TOPS+ 本地大模型推理、具身智能控制、多模态实时交互 迷你AI服务器 176TOPS 意味着OrangePi AI Station正式迈入 高端
    发表于 03-10 14:19

    阿里巴巴发布通义千问旗舰推理模型Qwen3-Max-Thinking

    今天,我们正式发布千问旗舰推理模型Qwen3-Max-Thinking,创下数项权威评测全球新纪录。
    的头像 发表于 01-27 15:47 588次阅读
    阿里巴巴发布通义千问旗舰<b class='flag-5'>推理模型</b>Qwen3-Max-Thinking

    LLM推理模型是如何推理的?

    这篇文章《(How)DoReasoningModelsReason?》对当前大型推理模型(LRM)进行了深刻的剖析,超越了表面的性能宣传,直指其技术本质和核心局限。以下是基于原文的详细技术原理、关键
    的头像 发表于 01-19 15:33 697次阅读
    LLM<b class='flag-5'>推理模型</b>是如何<b class='flag-5'>推理</b>的?

    边缘计算中的AI加速器类型与应用

    人工智能正在推动对更快速、更智能、更高效计算的需求。然而,随着每秒产生海量数据,将所有数据发送至云端处理已变得不切实际。这正是边缘计算AI加速
    的头像 发表于 11-06 13:42 999次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>中的<b class='flag-5'>AI</b><b class='flag-5'>加速</b>器类型与应用

    如何精准驱动菜品识别模型--基于米尔瑞芯微RK3576边缘计算

    及4K显示输出,提供完整的Debian/Linux软件开发环境。 凭借其高性能NPU与丰富接口,该设备可高效支撑计算机视觉、智能分析等边缘AI
    发表于 10-31 21:19

    工业视觉网关:RK3576赋能多路检测与边缘AI

    ~150ms6TOPS NPU 边缘AI推理易对接 MES / 追溯系统 一、产线痛点:从“人看”到“机判”的转变· 多工位/多角度同步:单机位覆盖不足,典型项目需 8~12 路并发,且画面时序一致性要求高
    发表于 10-16 17:56

    什么是AI模型推理能力

    NVIDIA 的数据工厂团队为 NVIDIA Cosmos Reason 等 AI 模型奠定了基础,该模型近日在 Hugging Face 的物理推理模型排行榜中位列榜首。
    的头像 发表于 09-23 15:19 1460次阅读

    NVIDIA Nemotron Nano 2推理模型发布

    NVIDIA 正式推出准确、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的头像 发表于 08-27 12:45 2004次阅读
    NVIDIA Nemotron Nano 2<b class='flag-5'>推理模型</b>发布

    澎峰科技完成OpenAI最新开源推理模型适配

    澎峰科技现已完成 OpenAI 最新开源推理模型 gpt-oss-20b 在 DeepFusion 大模型一体机上的原生适配与优化,用户可一键启用这颗“小而强悍”的新引擎,在本地享受企业级 AI 生产力!
    的头像 发表于 08-14 11:34 1545次阅读

    利用NVIDIA推理模型构建AI智能体

    开放式推理模型能够更快、更广泛地进行思考,为客户服务、网络安全、制造、物流和机器人等领域的 AI 智能体生成更明智的结果。
    的头像 发表于 08-13 14:32 1755次阅读
    利用NVIDIA<b class='flag-5'>推理模型</b>构建<b class='flag-5'>AI</b>智能体

    模型推理显存和计算量估计方法研究

    上进行了实验。实验结果表明,所提出的估计方法具有较高的准确性和实用性。 五、结论 本文针对大模型推理的显存和计算量估计问题,提出了基于模型结构和硬件
    发表于 07-03 19:43

    边缘计算中的机器学习:基于 Linux 系统的实时推理模型部署与工业集成!

    学习如何训练模型、导出模型,并在基于Linux的系统上运行实时推理,并通过MQTT发布结果。这是一个简单但完整的流程——从工作站上的建模到在边缘设备
    的头像 发表于 06-11 17:22 1152次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>中的机器学习:基于 Linux 系统的实时<b class='flag-5'>推理模型</b>部署与工业集成!