突破算力限制，端侧AI部署提速

2023年8月23日，由电子发烧友网与ELEXCON2023深圳国际电子展联合主办的2023第七届人工智能大会暨第四届人工智能卓越创新奖颁奖典礼圆满落幕。本次大会主题为“智向远大、能者千面”，同时大会邀请到TI德州仪器、爱德万测试、爱芯元智、安谋科技、楼氏电子、ADI、瑞萨电子等全球知名企业高管和行业专家带来精彩分享。
 
楼氏：创新的音频解决方案——楼氏DSP及MEMS麦克风产品简介
 
作为首个将MEMS麦克风引入手机端的公司，也是MEMS麦克风市场的领导者，楼氏在消费级终端音频领域有着深厚的技术积累。而随着降噪等智能音频的需求逐渐增长，楼氏也推出了智能化的麦克风和音频DSP方案。本届AI大会上，楼氏电子高级经理廖彬彬分享了《创新的音频解决方案》，并对楼氏的MEMS麦克风和DSP产品进行了简介。

楼氏电子高级经理 廖彬彬

 
根据信噪比的性能表现，楼氏有着完整的入门到高端的麦克风产品阵容，同时也做到了低功耗、低延迟、低谐波失真等诸多优秀特性，其旗舰产品Raptor已经在高端TWS耳机上得到了应用。同时针对汽车领域，楼氏也推出了通过AEC-Q100/103的车规级麦克风。近期楼氏也发布了V2S振动麦克风，这类麦克风仅通过骨传导来拾取通话者的声音，抑制了环境噪声，可以用于提高嘈杂环境中的语音通话质量。
 
楼氏的另一音频产品线同样在智能麦克风应用中被广泛应用，那就是其音频DSP产品线AISonic。AISonic的先进DSP算法基于楼氏自研指令集打造，支持硬件加速神经网络指令，并实现了极高的计算效率。从IA611到即将推出的IA8202，AISonic DSP的性能也愈发强大，可以运行更加复杂的算法。
 
同时借助开放式的DSP架构，楼氏拥有了顶尖的第三方算法开发者合作生态，提供了从语音唤醒、降噪等一系列解决方案。楼氏还提供了专门用于算法开发的开发板以及IDE、SDK看，进一步助力客户将其音频DSP集成到产品中去。
 
ADI：赋能边缘AI
 
在本次大会上，ADI资深应用工程师刘明琳，带来了关于“ADI赋能边缘AI”的主题分享。刘明琳是AI行业的资深老兵，拥有10年以上的AIoT行业技术研发经验，他表示“人工智能革命正在快速进行，驱使冰冷的机器能够看到、听到和感知周围的世界并作出决策。越来越多的行业开始用到AI技术，而AI技术的发展使得深度学习这个功能变得强大，可以在微控制器上也实现智能。”

ADI资深应用工程师 刘明琳

 
深度学习是基于神经元的一个系统，单一数据输入后会进入到很多的神经元，而不同的神经元之间会进行交互，最后输出一个结果的信息。刘明琳在讲述人工智能概述后，也重点介绍了卷积神经网络的应用情况，根据他的介绍ADI边缘AI已经在多个领域有成功的应用案例，包括鸡蛋大小区分、指令控制智能头盔拍照或接电话、智能门锁的人脸识别、智能电表数字识别并自动报数等等。
 
为什么ADI要去做边缘AI呢？会上，刘明琳也给出了答案。他表示，相较云端，边缘推理有四大优点：①限制功耗使用。在传感器端计算结果，花费更少的功耗用于通讯和云端计算。②改善时延。本地推理可以更快且稳定得到计算结果。③保护隐私。本地计算允许在不离开场所的情况下处理和销毁数据。④包含成本和规模。采用嵌入式方案使得总体方案成本和规模更低。
 
ADI的AI产品策略主要是三个：低功耗、AI、超安全。低功耗方面，ADI的AI产品是一个小尺寸的低功耗、大内存的，可以做普适计算，具有安全、内存纠错、精度模拟等工业特征，可以助力客户在工业领域进行多元扩张。AI方面，相比传统的微处理器，ADI深度学习加速器可以使处理性能快100倍，功耗不到1%，这使电池应用的机器视觉成为可能。在超安全方面，ADI本身是做安全芯片起家的，安全处理器在业内极具领先，ADI表示它也会将安全技术集成到MCU内部，满足支付卡行业标准。
 
目前ADI边缘处理器主要有两款，分别为MAX78000和MAX78002。MAX78000是一颗具有超低功耗卷积神经网络加速器的人工智能微控制器。而MAX78002是一个新升级的产品，据刘明琳的介绍，这款产品主要是在卷积神经网络的升级，MAX78002的卷积神经网络可以处理更大的模型，模拟参数可以达到2.3兆，支持的卷积神经网络层数可以达到128层。ADI MAX7800x边缘处理器深度学习应用，可覆盖图像类应用、信号变换、时间序列类应用。
 
对于神经网络运算具有超高的性能和能效比。在边缘设备上可以实现深度学习推理加速。同时具有超低功耗技术，可以在极低的功耗下实现高性能的AI计算，从而延长嵌入式设备的电池寿命。并且搭载了多种接口，包括摄像头、I2C、SPI、GPIO等，方便开发者与外部设备进行连接和交互。
 
瑞萨电子：小资源大能量，边缘AI解决方案的秘密武器
 
在本次大会上，瑞萨电子资深技术专家凌滔带来了主题为“小资源大能量，边缘AI解决方案的秘密武器”的精彩分享。内容主要以AI概述、瑞萨边缘侧MCU上的AI/ML布局、瑞萨CORTEX M85 MCU三部分进行。

瑞萨电子资深技术专家 凌滔

 
什么是AI呢？“AI对我来说，就是现在的网红，特别是今年的Chat GPT生成式AI火得一塌糊涂。AI从学科上定义为研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。”凌滔表示。边缘侧AI已经广泛覆盖人脸识别、物体识别、声音识别、活动场景识别、设备振动监测、设备电压电流状态监测等应用场景。


在对AI概念进行讲解之后，凌滔详细介绍了瑞萨边缘侧MCU上AI/ML的布局。去年，瑞萨收购了专门做机器学习的Reality AI。它拥有实时分析的端到端自动机器学习工具、生成小型AI软件、强大的数学运算内核，生成出来的代码非常紧凑，而且模型具有可解释性。瑞萨还针对目前主流神经网络框架开发了一款e-AI Translator工具，有自带模型开发模式（BYOM），这更适用于已有自己模型且想快速部署到瑞萨MCU中的客户。
 
最后，在本次大会上，瑞萨电子重磅发布了全球第一颗CORTEX-M85 MCU。那这是一颗什么样的MCU呢？根据凌滔的介绍，这是一颗带Helium的MCU，可以为边缘节点人工智能等计算密集型应用提供先进的DSP/ML功能，运算得更快。Cortex-M85提供超过6 CoreMark/MHz的性能，可支持要求最高计算性能和DSP或ML功能的苛刻物联网应用。瑞萨下一代 RA MCU上的基于摄像头的人体检测，与Plumerai合作开发使用Helium加速，实现13fps的帧率，性能提升至Cortex-M7内核的3.6倍。
 
2023年人工智能产业概况及应用趋势分析
 
人工智能技术被认为是新一轮科技革命和产业革命的重要驱动力量。过去这些年，产业市场规模快速成长，根据调研机构数据，2021年全球人工智能产业市场收入总计为3833亿美元，2022年达到4328亿美元，同比增长19.6%。预计2023年将会超过5000亿美元规模。
 
在中国，人工智能产业的发展速度更快，2021年中国人工智能核心产业规模约为1998亿元，预计2026年将超过6000亿元，复合年增长率达到24.8%。
 
尽管如此，当前人工智能仍处于商业落地早期，主要面临场景需求碎片化、人力研发和应用计算成本高、长尾场景数据较少导致模型训练精度不够、模型算法从实验室场景到真实场景效果差距大等行业痛点。而大模型的出现有望推动人工智能产业化进一步加速。
 
人工智能的应用将会向更深更广的方向发展。根据电子发烧友调研，智能制造、智能驾驶、机器人是最被看好的几个应用领域，另外，智能家居、智能消防、智慧农业、医疗健康、养老、互联网、安防、能源、教育、零售等领域也将是人工智能的重要应用领域。

电子发烧友网产业编辑 李弯弯
 
此外，对于人工智能大规模落地的驱动力因素有哪些呢，从调研结果来看，算力进一步提升、算法继续优化、开放的数据平台被认为是当下的主要因素，其他因素还包括生态系统的建设、场景有效数据化、商业模式的成熟、成本进一步降低等。