0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

边缘设备中计算机视觉和语音的AI推理加速器应用

星星科技指导员 来源:嵌入式计算设计 作者:Saumitra Jagdale 2022-08-16 11:24 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着我们朝着创建更复杂、更高效的 AI 应用程序的方向发展,加速 AI 推理模型已成为一项重要任务。灵活和完整的人工智能辅助是在快速增长的人工智能领域取得成功的关键组成部分。

RISC-V 被设计成模块化的,有几个基本的部分和可能的补充。ISA 基础和扩展是工业界、学术界和研究界共同努力的结果。指令及其编码、控制流、寄存器、内存和寻址逻辑操作以及辅助都在基础中指定。有了完整的软件支持,包括一个通用编译器,这个基础就可以创建一个简化的通用计算机。标准扩展旨在与所有标准基础以及彼此一起运行,而不会引起任何冲突。

Deep Vision ARA-1 处理器围绕完整的软件工具套件构建,是需要高计算、模型灵活性和能源经济性的边缘应用的明确选择。该解决方案还旨在支持当今最复杂和最具成本效益的边缘人工智能应用程序,同时消耗最少的电量。

RISC-V 计算的创始人和领导者SiFive最近宣布,边缘 AI 处理器公司Deep Vision将把 SiFive RISC-V 处理器 IP 整合到其下一代推理加速器中,以在边缘设备中实现更完整的计算机视觉和语音。 结合这两项超高效服务,Deep Vision 将授权 SiFive Intelligence X280 和 SiFive Essentia S7 处理器 IP,以提高其解决方案的灵活性和功能性,使客户能够为智慧城市、智慧零售、汽车和其他行业创建应用程序。

借助 SiFive Intelligence X280 处理器,Deep Vision 加速器现在能够支持更广泛的神经网络模型并包括浮点优化。SiFive Intelligence 处理器上的 SiFive Intelligence Extensions 支持 TensorFlow Lite 和各种 AI/ML 数据格式,包括 BFLOAT16。

SiFive Intelligence X280 处理器作为应用级 AI 处理器的灵活性和可编程性扩展了 Deep Vision 加速器的成熟功能和性能,以快速支持硬件中新的和不断发展的 AI 推理模型,以及图像缩放、颜色转换等 AI 预处理任务, 和白噪声减法。

与其他 SiFive RISC-V 处理器一起,SiFive Essential S7 处理器提供实时、确定性处理能力,以允许在异构计算集群中执行命令和控制应用程序。SiFive Essential S7 处理器架构具有更好的安全性和实时确定性,同时提供高效的每瓦性能,使其成为对延迟敏感的边缘计算应用程序的理想选择。

将 SiFive Intelligence RISC-V 处理器的特性与 Deep Vision 推理加速器相结合,是为快速增长的 AI 处理器行业快速高效地制造新硬件的自然方式。SiFive Intelligence X280 中实施的 SiFive Intelligence Extensions 和 RISC-V Vectors 非常适合当前 AI 应用程序的需求。得益于 SiFive 行业领先的 RISC-V 处理器 IP 组合,SiFive 具有独特的优势,可以有效地帮助 AI 公司构建以市场为中心的系统。

此外,凭借一流的 11+ SPECint2k6/GHz 基准测试结果,SiFive Performance P650 将其范围扩展到了极高端领域,使其成为最高性能的可授权 RISC-V 处理器。SiFive Performance P650 具有多达 16 个内核的多核、多集群 CPU 配置和最近批准的 Hypervisor 扩展,可提供可扩展的性能。随着时间的推移,SiFive 计划扩展其路线图,以包括在单个 SoC 中支持 128 个或更多内核的多集群功能。

RISC-V 加速当前的 AI 推理模型

SiFive 将 RISC-V 处理器 IP 引入其下一代 AI 推理加速器,为边缘设备中的计算机视觉和语音提供更快、更高效的计算能力。RISC-V 处理器的高灵活性和强大功能使客户能够以比传统技术更简单和更快的速度创建智能城市、智能零售和汽车等复杂的 AI 应用程序。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    20148

    浏览量

    247106
  • 计算机
    +关注

    关注

    19

    文章

    7764

    浏览量

    92679
  • AI
    AI
    +关注

    关注

    89

    文章

    38090

    浏览量

    296537
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    使用代理式AI激活传统计算机视觉系统的三种方法

    当前的计算机视觉系统擅长于识别物理空间与流程中的事件,却难以诠释场景细节及其意义,也无法推理后续可能发生的情况。
    的头像 发表于 12-01 09:44 327次阅读

    香蕉派 BPI-2K3000 工业计算机开发板采用龙芯2K3000芯片设计

    培训:面向信创+工业互联网/人工智能/自动控制/计算机等专业的教育与实训 边缘计算与IoT:边缘服务、智能视频分析、本地
    发表于 11-15 11:43

    一文了解ai计算盒子(边缘计算盒子)是到底是什么产品?

    和生产的各个场景。很多人对这款设备感到陌生,今天就带大家全面解锁ai边缘计算盒子的核心奥秘。ai边缘
    的头像 发表于 11-10 14:48 254次阅读
    一文了解<b class='flag-5'>ai</b><b class='flag-5'>计算</b>盒子(<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>盒子)是到底是什么产品?

    边缘计算中的AI加速器类型与应用

    人工智能正在推动对更快速、更智能、更高效计算的需求。然而,随着每秒产生海量数据,将所有数据发送至云端处理已变得不切实际。这正是边缘计算AI加速器
    的头像 发表于 11-06 13:42 423次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>计算</b>中的<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>类型与应用

    工业视觉网关:RK3576赋能多路检测与边缘AI

    ~150ms6TOPS NPU 边缘AI推理易对接 MES / 追溯系统 一、产线痛点:从“人看”到“机判”的转变· 多工位/多角度同步:单机位覆盖不足,典型项目需 8~12 路并发,且画面时序一致性要求高
    发表于 10-16 17:56

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    Transformer和视觉Transformer模型。 ViTA是一种高效数据流AI加速器,用于在边缘设备上部署
    发表于 09-12 17:30

    研华科技推出紧凑型边缘AI推理系统AIR-120

    Hailo-8 AI加速器。这一强大的系统配置能够提供可扩展的性能,最多具备8个核心,AI计算能力高达26 TOPS,并且在性能、功耗效率和成本之间进行平衡,从而实现高吞吐量、低延迟的
    的头像 发表于 07-17 17:16 861次阅读

    Axelera AI边缘计算加速智能创新解决方案

    随着人工智能技术的不断发展,边缘计算(EdgeComputing)已成为企业创新与数字化转型的重要引擎。如何在有限的计算资源下,实现高速且精确的AI
    的头像 发表于 07-17 11:00 1094次阅读
    Axelera <b class='flag-5'>AI</b>:<b class='flag-5'>边缘</b><b class='flag-5'>计算</b><b class='flag-5'>加速</b>智能创新解决方案

    芯原可扩展的高性能GPGPU-AI计算IP赋能汽车与边缘服务AI解决方案

    与人工智能 (AI) 加速器相融合,这些IP在热和功耗受限的环境下,能够高效支持大语言模型 (LLM) 推理、多模态感知以及实时决策等复杂的AI工作负载。 芯原的GPGPU-
    的头像 发表于 06-16 10:44 1110次阅读

    谷歌第七代TPU Ironwood深度解读:AI推理时代的硬件革命

    谷歌第七代TPU Ironwood深度解读:AI推理时代的硬件革命 Google 发布了 Ironwood,这是其第七代张量处理单元 (TPU),专为推理而设计。这款功能强大的 AI
    的头像 发表于 04-12 11:10 2892次阅读
    谷歌第七代TPU Ironwood深度解读:<b class='flag-5'>AI</b><b class='flag-5'>推理</b>时代的硬件革命

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    低功耗特性。搭载 Renesas 独有的 DRP-AI 加速器,支持 15 Sparse TOPS的 AI 计算能力,使其在计算机
    发表于 03-19 17:54

    NVIDIA 宣布推出 DGX Spark 个人 AI 计算机

    台式超级计算机由 NVIDIA Grace Blackwell 驱动,为开发者、研究人员和数据科学家提供加速 AI 功能;系统由头部计算机制造商(包括华硕、Dell Technolog
    发表于 03-19 09:59 504次阅读
       NVIDIA 宣布推出 DGX Spark 个人 <b class='flag-5'>AI</b> <b class='flag-5'>计算机</b>

    英飞凌边缘AI平台通过Ultralytics YOLO模型增加对计算机视觉的支持

    计算机视觉的支持,扩大了当前对音频、雷达和其他时间序列信号数据的支持范围。在增加这项支持后,该平台将能够用于开发低功耗、低内存的边缘AI视觉
    的头像 发表于 03-11 15:11 656次阅读
    英飞凌<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>平台通过Ultralytics YOLO模型增加对<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>的支持

    意法半导体发布新一代微控制,集成NPU加速器推动边缘AI

    )发展方面迈出了重要一步。 新一代微控制的问世,使得嵌入式AI得以真正发挥作用。该系列微控制专为消费电子和工业产品等注重成本和功耗的领域设计,能够运行多种算法,如计算机
    的头像 发表于 12-23 18:13 1198次阅读

    AI模型部署边缘设备的奇妙之旅:如何在边缘端部署OpenCV

    图像的质量,使得图像更适合人类观察或者为后续的分析做准备。 方法:通常涉及像素级别的操作,比如调整亮度、对比度、颜色校正、滤波(如高斯模糊、中值滤波去噪)、边缘检测、形态学变换(膨胀、腐蚀)等。 计算机视觉
    发表于 12-14 09:31