还未设置个性签名
成为VIP会员 享9项特权: 开通会员

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

用神经处理单元集群改造边缘人工智能

星星科技指导员 来源:嵌入式计算设计 作者:Saumitra Jagdale 2022-08-16 11:41 次阅读

随着人工智能领域的发展,这些设备的计算量和功耗都在增加。随后,边缘设备上的处理负载随着系统架构的性能和复杂性而显着增长。因此,更高分辨率的图像和更复杂的算法被灌输到系统中,随着对人工智能处理的需求不断增加,需要进一步优化以实现高 TOPS 性能。

Synopsys 发布了神经处理单元 (NPU)、知识产权 (IP) 内核和工具链,以满足 AI 片上系统 (SoC) 中日益复杂的神经网络模型的性能需求。其新的 DesignWare ARC NPX6 和 NPX6FS NPU IP 可处理实时计算的需求,同时为 AI 应用消耗超低功耗。此外,该公司的新 MetaWare MX 开发工具提供了一个完整的编译环境和自动神经网络算法分区,以最大限度地提高最新 NPU 上应用软件开发的资源效率。

使用新的 DesignWare ARC NPX6 和 NPX6FS NPU IP 以及 MetaWare MX 开发工具包,设计人员可以利用最新的神经网络模型,满足不断升级的性能预期,并加快其下一代智能 SoC 的上市时间。ARC NPX6 NPU IP 系列包括众多处理深度学习算法覆盖的产品,包括对象识别、图像质量增强和场景分割等计算机视觉任务,以及音频和自然语言处理等更大的人工智能应用。设计中的单个内核可以从 4K MAC 扩展到 96K MAC,以实现超过 250 TOPS 的单个 AI 引擎性能和超过 440 TOPS 的稀疏性。

NPX6 NPU IP 包含对多达 8 个 NPU 的多 NPU 集群的硬件和软件支持,稀疏度为 3500 TOPS。由于硬件和软件中的高级带宽功能以及内存层次结构(每个内核中包含 L1 内存和访问通用 L2 内存的高性能、低延迟连接),因此可以扩展到大量 MAC 数量。对于受益于神经网络内的 BF16 或 FP16 的应用,提供了一个可选的张量浮点单元。

poYBAGL7EgCAI5Q_AAGJ5AosORk022.png

图片来源:新思科技

MetaWare MX 开发工具包为应用软件开发提供软件编程环境,包括神经网络软件开发工具包 (NN SDK) 和虚拟模型支持。NN SDK 自动将使用 Pytorch、Tensorflow 或 ONNX 等流行框架训练的神经网络转换为 NPX 优化的可执行代码。

其概念是,NPX6 NPU 处理器 IP 可随后用于制造各种产品,从几 TOPS 到数千 TOPS,所有这些都可以使用单个工具链编写。

NPX6 NPU IP 的主要特点:

可扩展的实时 AI/神经处理器 IP,性能高达 3,500 TOPS,支持 CNN、RNN/LSTM、转换器、推荐网络和其他神经网络。

电源效率(高达 30 TOPS/W)在业界是无与伦比的。

1-24核卷积加速器,增加4K MAC/核

支持张量算子集架构并允许变量激活 (TOSA) 的张量加速器

软件开发套件

自动混合模式量化工具

降低带宽的架构和软件工具特性

通过并行处理各个层来减少延迟。

DesignWare ARC VPX 矢量 DSP 无缝集成。

生产力很高。MetaWare MX Development Toolkit 支持 Tensorflow 和 Pytorch 框架以及 ONNX 交换标准。

此外,ARC NPX6FS NPU IP 符合 ISO 26262 ASIL D 标准,用于随机硬件故障检测和系统功能安全开发流程。这些处理器具有符合 ISO 26262 的特定安全机制,可处理下一代区域设计的混合关键性和虚拟化需求,以及完整的安全文档。

ARC MetaWare MX 开发工具包包括神经网络软件开发工具包 (SDK)、编译器和调试器、虚拟平台 SDK、运行时和库以及高级仿真模型。它提供了一个统一的工具链环境来加速应用程序开发,并在 MAC 资源之间智能地划分算法以进行优化处理。MetaWare MX 安全开发工具包包含安全手册和安全指南,可帮助开发人员满足 ISO 26262 标准并为安全关键型汽车应用的 ISO 26262 合规性测试做准备。

使用 NPU 集群加速边缘 AI 应用程序

为了满足 AI 应用日益增长的性能和复杂需求,NXP NPU IP 内核提供了高性能、可扩展的实时 AI 和神经处理 IP,高达 3500 TOPS 支持各种神经网络,如 CNN、RNN/LSTM、变压器、和推荐网络。

此外,它通过并行处理各个层来减少延迟。此外,高效的 MetaWare MX 开发工具包支持 Tensorflow 和 Pytorch 框架以及 ONNX 交换格式。

审核编辑:郭婷

  • 变压器
    +关注

    关注

    139

    文章

    4857

    浏览量

    121059
  • 神经网络
    +关注

    关注

    42

    文章

    3632

    浏览量

    91634
  • AI
    AI
    +关注

    关注

    85

    文章

    20726

    浏览量

    238710
收藏 人收藏

    评论

    相关推荐

    如何进行pytorch的网络搭建

    想让神经网络输出的output跟你期望的ground truth差不多,那就是不断减小二者间的差异,....
    发表于 10-06 07:01 41次 阅读

    开关电源抑制传导干扰的滤波器设计

    开关电源的电磁干扰测试可分为传导测试与辐射测试,一般开关电源的传导测试频段是指150K~30MHz之....
    发表于 10-03 12:48 61次 阅读

    变压器的故障和异常情况分析

    变压器的异常情况: 由于外部短路或过负荷而引起的过电流、油箱漏油而造成的油面降低、变压器中性点电压升....
    发表于 10-02 13:20 152次 阅读

    神经网络信号对故障电池检测方法深度分析

    本文主要以锂电池组为研究对象,通过LSTM神经网络以及深度学习等科学方法对锂电池的故障信号进行相关的....
    发表于 10-01 06:33 257次 阅读

    英特尔为开发者提供AI、安全、量子计算等一站式解决方案

    英特尔为开发者提供AI、安全、量子计算等领域的一站式解决方案。 • 英特尔推出了新的服务和工具,帮助....
    的头像 英特尔中国 发表于 09-30 19:33 414次 阅读

    弱监督学习解锁医学影像洞察力

    人工智能 (AI) 通过比人类专家更快、更准确地检测和测量异常情况,从图像中进行先进的医学诊断。构建....
    的头像 观察专栏 发表于 09-30 18:04 137次 阅读
    弱监督学习解锁医学影像洞察力

    瑞萨电子推出能处理多个摄像头图像数据的全新RZ/V2MA器件

    RZ/V2MA器件配备以太网、USB和PCI Express等高速接口,允许从多个外部摄像头输入图像....
    的头像 瑞萨电子 发表于 09-30 16:43 240次 阅读

    云知声基于“双碳”目标数智园区综合管理运营平台赋能客户产业升级

    近日,“第四届上海绿色智慧建设高峰论坛”(以下简称论坛)在上海浦东星河湾国际会议中心成功举办。云知声....
    的头像 云知声 发表于 09-30 16:26 175次 阅读

    华为助力大连构建人工智能产业生态

    9月,2022昇腾AI创新大赛-大连区域赛成功举办!本次大赛,面向各学校、科研院所、企事业行业科技领....
    的头像 华为计算 发表于 09-30 10:33 703次 阅读

    AI词典笔/扫描翻译笔解决方案横向评测

    君正、瑞芯微、ASR方案对比
    的头像 王展WinTECH 发表于 09-30 10:30 419次 阅读
    AI词典笔/扫描翻译笔解决方案横向评测

    反激式变压器的设计步骤

    根据功率、输入输出的情况,我们选择反激电源拓扑。
    发表于 09-30 10:02 239次 阅读

    开关电源调试的常见问题及解决办法

    开关电源,又称交换式电源、开关变换器,是一种高频化电能转换装置,是电源供应器的一种。其功能是将一个位....
    发表于 09-30 09:00 166次 阅读

    东八区先生的AI公司有多离谱?

    放假倒计时,想必很多朋友已经无心工作学习,满心都是“节后再说”,所以咱们今天就放松一下,给大家分享下....
    的头像 脑极体 发表于 09-29 20:55 87次 阅读

    Vishay新款LLC 谐振变压器/电感器 采用单体封装 优化PCB布局

    Vishay Custom Magnetics MRTI5R5EZ 集成器件磁化和漏电感完全可调 寄....
    的头像 Vishay威世科技 发表于 09-29 19:31 575次 阅读

    OpenVINO各AI模型对应不同处理器的效能

    Google于2017年制作了TeachableMachine网页版本的AI软件工具,甫一推出就受到....
    的头像 lhl545545 发表于 09-29 16:25 255次 阅读

    微软宣布AI4Science计划并建立一支新的团队

    人工智能已经成为许多科学家生活中不可或缺的工具,因此,研究人员使用人工智能,现在有了自己的绰号——A....
    发表于 09-29 16:22 148次 阅读

    声智成功入选2021年度北京民营企业“中小企业百强”榜单

    9月,北京市工商联发布2021年度北京民营企业百强“1+4”榜单。声智成功入选2021年度北京民营企....
    发表于 09-29 11:47 213次 阅读

    TE为海上升压站工程提供电力连接支持

    对 TE Connectivity(以下简称“TE”)而言,这样的出海邀请则意味着一项既有挑战、又令....
    的头像 泰科电子 TE Connectivity 发表于 09-29 10:53 208次 阅读

    西安未来人工智能计算中心推动人工智能产业快速演进

    AI陕耀2022昇腾AI创新大赛暨第一届“昇腾杯”秦创原人工智能开发者大赛在西安成功举办。本次大赛是....
    的头像 华为计算 发表于 09-29 10:39 398次 阅读

    人工智能反诈骗创新解决方案有效保护群众财产安全

    近日,河南信大网御科技有限公司的中原人工智能反诈骗创新解决方案与华为Atlas 800训练服务器和全....
    发表于 09-29 10:33 97次 阅读

    鱼泡网通过大数据、AI等技术在创业创新大赛全国选拔赛斩获佳绩

    9月1日至3日,第五届“中国创翼”创业创新大赛全国选拔赛在山东省青岛市成功举办。经过组委会秉承客观、....
    发表于 09-29 10:31 31次 阅读
    鱼泡网通过大数据、AI等技术在创业创新大赛全国选拔赛斩获佳绩

    FP-AI-MONITOR1简介

    FP-AI-MONITOR1是一种多传感器AI数据监控框架(基于面向STM32Cube的功能包),工....
    的头像 意法半导体中国 发表于 09-29 09:04 97次 阅读

    昇腾AI解决方案 成都天巡微小推超大规模交通数字底座方案 助力智慧交通

    基于昇腾AI基础软硬件平台,成都天巡微小卫星科技有限责任公司(以下简称:成都天巡微小)推出超大规模交....
    的头像 华为计算 发表于 09-28 19:17 479次 阅读

    纯视觉AI设置符合汽车安全等应用的选择

    今天,我们经常听到有人说自动驾驶时代即将到来,但是,真正在各种现实条件下实现的自动驾驶仍然尚需时日。
    的头像 贸泽电子 发表于 09-28 17:33 275次 阅读

    登临科技致力于与合作伙伴助力AI行业高质量发展

    近日,国内AI算力资源池化领导厂商趋动科技与登临科技联合宣布展开战略合作,双方将围绕众多行业智能化场....
    的头像 登临科技 DenglinAI 发表于 09-28 17:02 257次 阅读

    借助NVIDIA DRIVE IX开创智能座舱新体验

    Cerence、Smarteye、Rightware 和 DSP Concepts 等车载技术公司正....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-28 11:28 202次 阅读

    一文解析验证码与打码平台的攻防对抗

    1、验证码与打码平台的攻防对抗   众所周知,验证码的出现是为了区分人和机器,但随着科技的发展,黑产从业者的可图之利增多,...
    发表于 09-28 11:02 3492次 阅读

    海康威视智能物联技术助力粮食仓储智慧监管

    今年的春小麦早已成熟,现在冬小麦也播下了种。海康威视助力当地农户“科技种麦”,通过与合作伙伴打造的智....
    发表于 09-28 10:40 189次 阅读

    如何进行高效的时序图神经网络的训练

    现有的图数据规模极大,导致时序图神经网络的训练需要格外长的时间,因此使用多GPU进行训练变得成为尤为重要,如何有效地将多...
    发表于 09-28 10:37 1946次 阅读

    一种基于高效采样算法的时序图神经网络系统介绍

    图数据是一种非结构化的数据,但能够蕴含很多结构化数据中无法蕴含的信息。图数据无处不在,世界上大部分数据都能够用图数据来表...
    发表于 09-28 10:34 1918次 阅读

    基于摩擦纳米发电机的自驱动电解海水制氢系统设计及应用

    本研究为大规模自驱动电解海水制氢进行了有力探索,为有效利用海洋资源实现氢能经济及“碳中和”目标提供了....
    的头像 工程师邓生 发表于 09-28 09:40 147次 阅读

    EDA工具助力AI加速器开发 ARC AI参考设计平台发力

    大数据真的很厉害,相信很多人都感受到了,比如你刚逛完某宝开始刷某音,却发现某音给你推送了你刚刚看过的....
    发表于 09-28 09:16 255次 阅读

    大模型的禾下乘凉梦,百度自己来做试验田

    禾下乘凉梦,是一个今天国人无比熟悉的词。它来自袁隆平院士对杂交水稻高产的理想追求,是袁隆平的中国梦。....
    的头像 脑极体 发表于 09-27 21:51 273次 阅读

    AI视觉检测赋能工业制造,助力企业智造升级

    富唯智能AI视觉检测系统,拥有自主开发的深度学习模型、3D点云算法、AI测量算法,可适应大部分的检测....
    的头像 机器视觉检测 发表于 09-27 15:48 201次 阅读
    AI视觉检测赋能工业制造,助力企业智造升级

    研扬同步在GTC中宣布NVIDIA Jetson Orin Nano 边缘计算AI平台BOXER-8621AI上市

    采用NVIDIA Jetson Orin Nano系统模块的BOXER-8621AI (台北,中国台....
    的头像 大崔崔sz 发表于 09-27 11:34 247次 阅读
    研扬同步在GTC中宣布NVIDIA Jetson Orin Nano 边缘计算AI平台BOXER-8621AI上市

    标准浮点算术处理器对AI精度的应用

    OpenAI 最先进的语言模型 GPT-3需要惊人的数以亿计的操作来训练,并且花费了大约 500 万....
    发表于 09-27 10:57 91次 阅读

    OpenDILab幕后的「孤勇者」:AI研究员、电竞冠军和他们的开源梦

    过去数十年,研究者夙兴夜寐,将无数人类智慧灌注其中,不断将「人工智能」的能力上限抬高。一个刚刚诞生的....
    的头像 邢强 发表于 09-27 10:40 213次 阅读
    OpenDILab幕后的「孤勇者」:AI研究员、电竞冠军和他们的开源梦

    神经网络与AI助力机器翻译 以存储芯片推动语言无界沟通

    “一个没有隔阂的世界”(A World without Barriers)——这是今年9月30日国际....
    发表于 09-27 10:10 72次 阅读

    基于昇腾AI的东盟人工智能计算中心和适配中心正式发布

    日前,第三届中国(广西)—东盟人工智能大会在广西南宁正式举办。广西壮族自治区人民政府副主席秦如培,华....
    发表于 09-27 10:07 111次 阅读

    商汤科技亮相第二届BEYOND国际科技创新博览会

    近日,第二届“BEYOND国际科技创新博览会”在澳门举行。
    的头像 商汤科技SenseTime 发表于 09-27 09:42 1080次 阅读

    NVIDIA DRIVE Sim仿真平台中的神经重建引擎功能

    DRIVE Sim 中的神经重建引擎(Neural Reconstruction Engine,NR....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:39 154次 阅读

    借助NVIDIA Research新的AI模型打造虚拟世界

    得益于 NVIDIA Research 新的 AI 模型,越来越多的公司和创作者创建的大型虚拟世界可....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:33 221次 阅读

    NVIDIA DRIVE Concierge重塑未来智能车载信息娱乐体验

    凭借在信息娱乐领域十余年的经验累积,NVIDIA 致力于为每位乘客提供个性化的智能车载信息娱乐体验。
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:29 118次 阅读

    开关电源如何弥补线性电源的体积、重量、发热问题

    那时的小霸王游戏机变压器输出功率不到10W,体积却和成年人拳头般大小,而且发热严重的问题成为了不少玩....
    发表于 09-27 09:25 58次 阅读

    KT利用NVIDIA AI平台训练大型语言模型

    韩国先进的移动运营商构建包含数百亿个参数的大型语言模型,并使用 NVIDIA DGX SuperPO....
    的头像 NVIDIA英伟达企业解决方案 发表于 09-27 09:24 182次 阅读

    从小霸王游戏机变压器到手机快充,这些年发生了哪些变化?

    电子发烧友网报道(文/李诚)小霸王游戏机应该算是很多80、90后挥之不去的童年记忆了,除了不断擦拭游....
    的头像 海明观察 发表于 09-27 08:00 509次 阅读
    从小霸王游戏机变压器到手机快充,这些年发生了哪些变化?

    亿智电子完成数亿元B轮融资 加速推进在端侧AI通用算力平台建设

    近日,亿智电子完成了累计数亿元规模的B轮融资。其中超亿元的B2轮于本月完成交割,B2轮由温氏资本领投....
    的头像 亿智电子 发表于 09-26 17:44 351次 阅读

    一个利用物理系统实现深层网络学习和推理的框架

    01 物理神经网络 看到最近在 Nature 杂志上发表的一篇文章   Deep Physical Neural Networks Trained with Ba...
    发表于 09-26 16:14 1444次 阅读

    中科曙光联合雅捷信息面向金融行业发布数据智能一体机

    随着金融领域数智化转型进程的不断深入,金融大数据正呈现几何式爆发,而作为金融信息系统的关键基础设施,....
    的头像 中科曙光 发表于 09-26 15:18 381次 阅读

    思必驰携手追觅科技打造智能家居AI语控清洁助理

    近日,思必驰与智能清洁领域的创新科技公司追觅科技达成深入合作,携手推出智能扫地机器人新品——追觅豪华....
    发表于 09-26 14:35 46次 阅读

    阐述硅钢片两种参数设置的区别

    在Maxwell中,通常把叠片硅钢片用一个整体来建模,而不会把每一片叠片模型都单独建出来,叠片模型采....
    的头像 工程师邓生 发表于 09-26 11:39 134次 阅读

    变压器的零线与地线相通的原因

    如果变压器的中性点(零线)与地线相连,就叫保护接零;保护接零一般用于三相电路中,零线作为保护线时,与....
    的头像 科技大小事 发表于 09-26 11:34 252次 阅读

    华为加速昇腾AI生态在高校的落地

    “智能基座昇腾高校行”活动是基于教育部-华为“智能基座”产教融合协同育人基地项目开展的重要活动。活动....
    发表于 09-26 11:00 108次 阅读

    带有平面变压器的1W隔离电源参考设计

    描述          隔离式电源是每个工业应用的主要要求,在这些应用中,模块连接到可编程逻辑控制器...
    发表于 09-26 07:48 1301次 阅读

    开关变压器温升

    全桥大电流变压器,原边实效电流30Arms,  考虑采用t0.25mm*W20mm的铜板设计,从铜板引出到针脚的电线根据30Arms电流...
    发表于 09-16 17:10 8154次 阅读

    分享一种用于神经网络处理的新8位浮点交换格式

    启用安全且无处不在的人工智能 (AI) 是 Arm 架构的关键优先事项。人工智能和机器学习 (ML) 的潜力是显而易见的,几乎每天都...
    发表于 09-15 15:15 1535次 阅读

    请教各位大神一个变压器Q值问题

    各位大神,我司生产得一款变压器,客户规格要求Q值min350,测试电感、电阻都没有问题,但是Q值不达标在320左右,奇怪的是二次焊...
    发表于 09-09 14:50 6895次 阅读

    优化神经网络训练方法有哪些?

    优化神经网络训练方法有哪些?
    发表于 09-06 09:52 948次 阅读

    浅试RT-Thread AI Kit的RISC-V插件

      应广大开发者要求,我们加班加点推出了 RT-AK(RT-AK:RT-Thread AI Kit 简称) 支持的第二个插件:支持基于 ...
    发表于 09-02 15:15 1327次 阅读