0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

边缘设备中计算机视觉和语音的AI推理加速器应用

星星科技指导员 来源:嵌入式计算设计 作者:Saumitra Jagdale 2022-08-16 11:24 次阅读

随着我们朝着创建更复杂、更高效的 AI 应用程序的方向发展,加速 AI 推理模型已成为一项重要任务。灵活和完整的人工智能辅助是在快速增长的人工智能领域取得成功的关键组成部分。

RISC-V 被设计成模块化的,有几个基本的部分和可能的补充。ISA 基础和扩展是工业界、学术界和研究界共同努力的结果。指令及其编码、控制流、寄存器、内存和寻址逻辑操作以及辅助都在基础中指定。有了完整的软件支持,包括一个通用编译器,这个基础就可以创建一个简化的通用计算机。标准扩展旨在与所有标准基础以及彼此一起运行,而不会引起任何冲突。

Deep Vision ARA-1 处理器围绕完整的软件工具套件构建,是需要高计算、模型灵活性和能源经济性的边缘应用的明确选择。该解决方案还旨在支持当今最复杂和最具成本效益的边缘人工智能应用程序,同时消耗最少的电量。

RISC-V 计算的创始人和领导者SiFive最近宣布,边缘 AI 处理器公司Deep Vision将把 SiFive RISC-V 处理器 IP 整合到其下一代推理加速器中,以在边缘设备中实现更完整的计算机视觉和语音。 结合这两项超高效服务,Deep Vision 将授权 SiFive Intelligence X280 和 SiFive Essentia S7 处理器 IP,以提高其解决方案的灵活性和功能性,使客户能够为智慧城市、智慧零售、汽车和其他行业创建应用程序。

借助 SiFive Intelligence X280 处理器,Deep Vision 加速器现在能够支持更广泛的神经网络模型并包括浮点优化。SiFive Intelligence 处理器上的 SiFive Intelligence Extensions 支持 TensorFlow Lite 和各种 AI/ML 数据格式,包括 BFLOAT16。

SiFive Intelligence X280 处理器作为应用级 AI 处理器的灵活性和可编程性扩展了 Deep Vision 加速器的成熟功能和性能,以快速支持硬件中新的和不断发展的 AI 推理模型,以及图像缩放、颜色转换等 AI 预处理任务, 和白噪声减法。

与其他 SiFive RISC-V 处理器一起,SiFive Essential S7 处理器提供实时、确定性处理能力,以允许在异构计算集群中执行命令和控制应用程序。SiFive Essential S7 处理器架构具有更好的安全性和实时确定性,同时提供高效的每瓦性能,使其成为对延迟敏感的边缘计算应用程序的理想选择。

将 SiFive Intelligence RISC-V 处理器的特性与 Deep Vision 推理加速器相结合,是为快速增长的 AI 处理器行业快速高效地制造新硬件的自然方式。SiFive Intelligence X280 中实施的 SiFive Intelligence Extensions 和 RISC-V Vectors 非常适合当前 AI 应用程序的需求。得益于 SiFive 行业领先的 RISC-V 处理器 IP 组合,SiFive 具有独特的优势,可以有效地帮助 AI 公司构建以市场为中心的系统。

此外,凭借一流的 11+ SPECint2k6/GHz 基准测试结果,SiFive Performance P650 将其范围扩展到了极高端领域,使其成为最高性能的可授权 RISC-V 处理器。SiFive Performance P650 具有多达 16 个内核的多核、多集群 CPU 配置和最近批准的 Hypervisor 扩展,可提供可扩展的性能。随着时间的推移,SiFive 计划扩展其路线图,以包括在单个 SoC 中支持 128 个或更多内核的多集群功能。

RISC-V 加速当前的 AI 推理模型

SiFive 将 RISC-V 处理器 IP 引入其下一代 AI 推理加速器,为边缘设备中的计算机视觉和语音提供更快、更高效的计算能力。RISC-V 处理器的高灵活性和强大功能使客户能够以比传统技术更简单和更快的速度创建智能城市、智能零售和汽车等复杂的 AI 应用程序。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    18024

    浏览量

    221538
  • 计算机
    +关注

    关注

    19

    文章

    6617

    浏览量

    84032
  • AI
    AI
    +关注

    关注

    87

    文章

    26129

    浏览量

    263712
收藏 人收藏

    评论

    相关推荐

    使用NVIDIA Triton推理服务器来加速AI预测

    这家云计算巨头的计算机视觉和数据科学服务使用 NVIDIA Triton 推理服务器来加速 AI
    的头像 发表于 02-29 14:04 171次阅读

    机器视觉、工业视觉计算机视觉这三者的关系

    机器视觉、工业视觉计算机视觉这三者的关系
    的头像 发表于 01-24 10:51 487次阅读
    机器<b class='flag-5'>视觉</b>、工业<b class='flag-5'>视觉</b>和<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>这三者的关系

    AI边缘计算机应用场景广泛!大语言模型与数字人结合方案在边缘侧落地

    电子发烧友网报道(文/李弯弯)AI边缘计算机是一种人工智能和边缘计算技术相结合的计算机设备。它可
    的头像 发表于 01-16 01:11 1471次阅读

    计算机视觉AI如何识别与理解图像

    计算机视觉是人工智能领域的一个重要分支,它致力于让机器能够像人类一样理解和解释图像。随着深度学习和神经网络的发展,人们对于如何让AI识别和理解图像产生了浓厚的兴趣。本文将探讨计算机
    的头像 发表于 01-12 08:27 543次阅读
    <b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>:<b class='flag-5'>AI</b>如何识别与理解图像

    最适合 AI 应用的计算机视觉类型是什么?

    着眼于使计算机能够像人类一样通过“看”来感知世界,从这一视角对人工智能 (AI) 进行了探讨。我将简要比较每一类计算机视觉,尤其关注在本地而不是依赖基于云的资源收集和处理数据,并根据数
    的头像 发表于 12-18 13:09 6781次阅读
    最适合 <b class='flag-5'>AI</b> 应用的<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>类型是什么?

    什么是计算机视觉计算机视觉的三种方法

    计算机视觉是指通过为计算机赋予人类视觉这一技术目标,从而赋能装配线检查到驾驶辅助和机器人等应用。计算机缺乏像人类一样凭直觉产生
    的头像 发表于 11-16 16:38 1946次阅读
    什么是<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>?<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>的三种方法

    最适合AI应用的计算机视觉类型是什么?

    计算机视觉是指为计算机赋予人类视觉这一技术目标,从而赋能装配线检查到驾驶辅助和机器人等应用。计算机缺乏像人类一样凭直觉产生
    的头像 发表于 11-15 16:38 212次阅读
    最适合<b class='flag-5'>AI</b>应用的<b class='flag-5'>计算机</b><b class='flag-5'>视觉</b>类型是什么?

    什么是边缘计算盒子(AI算法盒子)?

    高效的数据处理和实时响应。以下是关于边缘计算盒子的介绍:一、什么是边缘计算盒子?边缘计算盒子是一
    的头像 发表于 10-31 14:29 1089次阅读
    什么是<b class='flag-5'>边缘</b><b class='flag-5'>计算</b>盒子(<b class='flag-5'>AI</b>算法盒子)?

    AI加速器架构设计与实现》+第2章的阅读概括

    首先感谢电子发烧友论坛提供的书籍和阅读评测的机会。 拿到书,先看一下封面介绍。这本书的中文名是《AI加速器架构设计与实现》,英文名是Accelerator Based on CNN Design
    发表于 09-17 16:39

    人工智能计算机视觉方向是什么

    人工智能计算机视觉方向是什么 人工智能计算机视觉方向是指利用人工智能技术对图像和视频进行各种分析、解释和操作的过程。计算机
    的头像 发表于 08-15 16:06 1079次阅读

    机器视觉计算机视觉的区别

    机器视觉计算机视觉的区别 机器视觉计算机视觉是两个相关但不同的概念。虽然许多人使用这两个术语
    的头像 发表于 08-09 16:51 1009次阅读

    【书籍评测活动NO.18】 AI加速器架构设计与实现

    经验总结图解NPU算法、架构与实现,从零设计产品级加速器当前,ChatGPT和自动驾驶等技术正在为人类社会带来巨大的生产力变革,其中基于深度学习和增强学习的AI计算扮演着至关重要的角色。新的
    发表于 07-28 10:50

    虹科Gidel的FantoVision边缘计算机可轻松使用NVIDIA Jetson模块

    的Automate展会上举行了视觉系统设计创新奖颁奖典礼,虹科Gidel边缘计算机获得了银奖。评委会认可了虹科Gidel的FantoVision边缘
    的头像 发表于 06-26 14:21 337次阅读

    什么是机器视觉?机器视觉计算机有什么关系?

    机器视觉计算机视觉有什么区别
    的头像 发表于 06-05 09:28 803次阅读
    什么是机器<b class='flag-5'>视觉</b>?机器<b class='flag-5'>视觉</b>与<b class='flag-5'>计算机</b>有什么关系?

    计算机视觉相关概念总结

    为了帮助同事和客户了解更多有关计算机视觉AI的更多信息,我们言简意赅介绍一些计算机视觉AI
    的头像 发表于 05-31 10:11 489次阅读