0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI时代进一部发展需要的新架构概述

电子工程师 2018-04-14 09:13 次阅读

视觉应用与人工智能AI)正朝着精细化的方向发展,其背后的多种推动力中,最重要的两种是高端智能手机的先进功能以及ADAS(高级驾驶辅助系统)/自动驾驶技术。

智能手机的面部识别功能需要同时调用视觉与AI处理两种技术,而且技术难度不断增加。最难的部分在于非理想状态下的面部识别,如侧脸、戴帽子、部分脸被围巾遮盖等。为此,智能手机的摄像头变得越来越精细,采用多种传感器实现高动态范围图像(HDR)、双摄变焦、图像稳定等功能。

第二个推动力,即ADAS,它的设计需要满足两大需求。第一个是面向特定功能的性能要求,比如行人侦测、驾驶员注意力监控、道路偏离预警;第二个是降低功耗。大多数芯片都安装在空气流通较差的环境(没有风扇),甚至极端温度环境,如前挡风玻璃上后视镜的背面。

还有一些其他驱动因素,如虚拟现实、增强现实、机器人无人机、监控摄像头等技术的发展,它们的需求与上述场景大同小异。

上述功能、视觉和AI技术通常被集成到单独的摄像头管道,从降噪、视觉后处理等任务开始,再到图像分类和分割。有时候,AI需要先完成场景分类,然后再执行HDR或Bokeh焦外成像(模糊处理在日语里被称作 boke)等精细图像处理任务。

总体看来,目前有以下三种技术需求:

将视觉和AI处理集成在单一DSP

提升性能

极低功耗的限制

为了满足这三种技术需求,新一代Tensilica Vision处理器应运而生。

全新Tensilica Vision Q6简介

提高性能,我们考虑了下面几套可选方案:

增加SIMD宽度或VLIW槽的数量。但是这样会增加编程难度,因为很多闲散资源无法有效利用。简单地增加算力比有效地利用算力要简单。

多核。可以立马将可用处理能力提高一倍(或更多),但是需要两倍的本地内存,而且很难做到每个核计算负载的平衡

升频。显而易见的提高性能的方法,但代价是面积(成本)和功耗的增加

打造更高性能的新架构

AI时代进一部发展需要的新架构概述

Cadence决定采取第四种方案。全新Vision Q6 DSP是第五代产品,面向视觉和AI 应用量身打造,采用13级流水线,16nm工艺下可实现1.5GHz处理器频率。较上一代P5,相同版图面积条件下的频率提升达50%。峰值性能的效率提高1.25倍。采用标准图像处理内核时,性能提升可达2倍。

流水线构成如下:

指令前端(3级)

指令解码与分派(2级)

AR/标量整数管道(5标量寄存器/标量流水线)

矢量DSP(3级)

读取和写入会在指令解码一级完成后分别进行。同时,矢量执行和标量执行也分开进行,这样可以提高标量性能,并提供了增加标量cache的机会。该cache可以提高标量处理能力50%,而且存储器速度越慢,cache优势就越明显(与没有cache的情况相比)。

Q6的另一个新特色是添加了一个分支预测。流水线越深,这个功能就越重要,因为一旦错过就必须清空并重新填充流水线。

Q6与P6向上兼容,为P6写的任何代码都可以无需修改在Q6上运行。但是Q6有一些新指令无法在P6上运行。

AI时代进一部发展需要的新架构概述

凭借AXI4互联技术,Q6可以在多处理器环境中运行。用户不仅可以使用多个Q6 核,在VQ6的系统中增加VisionC5来分担AI的处理。

Q6编程

AI时代进一部发展需要的新架构概述

在芯片上设计一大堆高性能处理资源是很容易的,但程序员可能最终无法从高层软件开发中获得这些处理资源。AI采用多种框架,Q6可以实现以下功能:

安卓神经网络:在安卓平台(即非苹果智能机)上实现本地AI应用

TensorFlow、TensorFlow Lite、Caffe

定制层支持:用户可以在标准网络基础上自行添加特殊功能

支持多种标准神经网络(MobileNet、Inception、Resnet、VGG、Segnet、FCN、YOLO、RCNN、SSD等)

安卓神经网络(ANN)相对比较新,去年10月刚刚发布,到现在也就半年的时间。ANN提供的神经网络API可以让开发者无需关注具体AI处理是在应用处理器(通常是高端ARM处理器)还是在专有的AI DSP上执行。。Q6支持运行在安卓8.1系统(Oreo)的ANN,可实现实时的优化执行。右图显示的是ANN各组件的协作方式。作为专用处理器(也可称DSP,术语不同而已)的Q6位于流程的中心

AI时代进一部发展需要的新架构概述

上图中显示的是现有Tensilica AI工具链,也称为XNNC(Xtensa神经网络编译器)。该工具链需要一个神经网络描述符(在Caffe或Tensorflow框架下)将其编译成可以在Q6(或P6、C5)上运行的代码。它可以自动处理许多管理工作,如DMA和tile管理。Tensilica AI处理技术采用8位定点权重,但经过几年的发展,32位浮点和8位定点也能实现同样的精度了(约0.5%量子化误差),其好处就是可以节省大量的功耗和面积。

对于HDR、语音身份认证、图像稳定等特殊算法,Cadence正与相关领域的合作伙伴展开广泛合作。我们还是Khronos公司OpenVX工作组的负责人,推动视觉处理分流标准的开发。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26129

    浏览量

    263712
  • adas
    +关注

    关注

    307

    文章

    2041

    浏览量

    207778

原文标题:新的AI时代需要新架构:Tensilica Vision Q6

文章出处:【微信号:gh_fca7f1c2678a,微信公众号:Cadence楷登】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    半导体发展的四个时代

    台积电的 Suk Lee 发表了题为“摩尔定律和半导体行业的第四个时代”的主题演讲。Suk Lee表示,任何试图从半导体行业传奇而动荡的历史中发掘出些意义的事情都会引起我的注意。正如台积电所解释
    发表于 03-27 16:17

    解锁AI时代的利器——讯飞AI鼠标AM30助你在AI时代脱颖

    。 而讯飞AI鼠标AM30就是你在AI时代的利器,它凭借其出色的功能和特点,助你在激烈的竞争中脱颖而出。 讯飞AI鼠标AM30搭载了星火认知大模型A
    的头像 发表于 03-25 13:37 59次阅读
    解锁<b class='flag-5'>AI</b><b class='flag-5'>时代</b>的利器——讯飞<b class='flag-5'>AI</b>鼠标AM30助你在<b class='flag-5'>AI</b><b class='flag-5'>时代</b>脱颖

    AI时代怎么样不被淘汰?讯飞AI鼠标助力你在AI时代成长

    AI时代怎么样不被淘汰?讯飞AI鼠标助力你在AI时代成长 随着人工智能的发展
    的头像 发表于 03-23 11:41 344次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>时代</b>怎么样不被淘汰?讯飞<b class='flag-5'>AI</b>鼠标助力你在<b class='flag-5'>AI</b><b class='flag-5'>时代</b>成长

    半导体发展的四个时代

    台积电的 Suk Lee 发表了题为“摩尔定律和半导体行业的第四个时代”的主题演讲。Suk Lee表示,任何试图从半导体行业传奇而动荡的历史中发掘出些意义的事情都会引起我的注意。正如台积电所解释
    发表于 03-13 16:52

    AI ready是什么?文明的发展需要做好准备

    从古至今,时代的进步都依靠工业的发展,四次工业革命,让全世界进入了新时代。现如今,互联网科技发展速度飞快,AI大模型
    的头像 发表于 01-17 10:19 239次阅读
    <b class='flag-5'>AI</b> ready是什么?文明的<b class='flag-5'>发展需要</b>做好准备

    陈海波:OpenHarmony技术领先,产学研深度协同,生态蓬勃发展

    ”万物智联时代,操作系统首先需要攻克“昆虫纲悖论”挑战。终端设备的形态呈现爆炸式地增长,只有架构、智慧互联才能凝聚力量。OpenHarmony基于“元OS
    发表于 11-06 14:35

    AI智能呼叫中心

    实际情况进行资源的自动调度和优化,从而进一步提高工作效率和降低人力成本。总结,AI智能呼叫中心凭借自动化处理、个性化服务、数据驱动决策以及节约成本等系列优势,为企业建立了更加高效、智能的服务系统,随着
    发表于 09-20 17:53

    kicad的架构移植复杂度评估

    各位网友大家好啊~~~~我正在实施个工具,以评估CPU架构移植的复杂性。它主要关注RISC-V体系结构的移植。作为我的数据集的一部分,我收集了kicad项目。我希望收集社会人士的意见,以支持我
    发表于 09-11 17:03

    【KV260视觉入门套件试用体验】部署vitis-ai环境以及测试demo

    测试命令。 也可以在setup.sh中将每个安装包,将rpm的安装命令后加入--prefix=/opt/vitia_ai,安装完可以查看具体安装了哪些库和内容。起安装的还有一部分测试用例。 同时在
    发表于 08-27 23:35

    ai芯片技术架构有哪些

    ai芯片技术可以分为不同的体系架构。下面将对ai芯片技术架构做详细介绍。 首先,ai芯片技术架构
    的头像 发表于 08-09 14:28 836次阅读

    学习架构-RAS概述

    如下方式减少计划外停机: ·在瞬时错误导致应用程序或系统故障之前检测并纠正这些错误。 当系统用于关键任务功能时,系统故障可能会影响客户的业务和声誉。 在某些情况下,可靠性可能是服务价值主张的一部
    发表于 08-08 07:53

    【书籍评测活动NO.18】 AI加速器架构设计与实现

    经验总结图解NPU算法、架构与实现,从零设计产品级加速器当前,ChatGPT和自动驾驶等技术正在为人类社会带来巨大的生产力变革,其中基于深度学习和增强学习的AI计算扮演着至关重要的角色。新的计算范式需要
    发表于 07-28 10:50

    不同技术架构AI芯片比较

    2022年12月,OpenAI发布基于GPT-3.5的聊天机器人模型ChatGPT,参数量达到1750亿个。ChatGPT引领全球人工智能浪潮,人工智能发展需要AI芯片作为算力支撑。
    发表于 06-08 11:21 479次阅读
    不同技术<b class='flag-5'>架构</b><b class='flag-5'>AI</b>芯片比较

    为何AI需要新的芯片架构

    人工智能(AI时代已经开启。Allied Market Research报告显示,到2031年,全球AI芯片市场规模预计将达到2636亿美元。AI芯片市场非常庞大,市场细分方式多样,
    的头像 发表于 05-13 04:45 583次阅读

    中国开源未来发展峰会“问道 AI 分论坛”即将开幕!

    发展个好的 AI 技术产品该如何迭代与运营…… 为了能够与广大开发者起更好地拥抱 AI 技术的
    发表于 05-09 09:49