0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

泛AI时代,中低端FPGA成为边缘重要部署组件

Felix分析 来源:电子发烧友 作者:吴子鹏 2024-03-21 00:10 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/吴子鹏)当前,行业对于AI人工智能)芯片的关注都集中在GPU或专用AI加速器芯片(如NPU和TPU)上。不过,AI实际上并不局限于大算力的高性能运算,部署到终端的AI同样有巨大的市场空间,因而有相当多的组件可以运行AI负载,包括在嵌入式领域广泛应用的FPGA

在2024年莱迪思(Lattice)客户技术交流大会上,莱迪思半导体首席战略与营销官Esam Elashmawi表示,莱迪思是全球FPGA出货量最大的公司,很早就布局AI市场。2021年莱迪思专门收购了一家AI软件公司Mirametrix。2023年,莱迪思在AI方面的收入已经超过了1亿美金。

wKgZomX6tqeAV564AAzeiJ5yqcM575.png
莱迪思半导体首席战略与营销官Esam Elashmawi

FPGA之于AI

对于了解FPGA灵活性和可编程性的人来说,基于FPGA实现AI是一件顺理成章的事情。FPGA器件一个重要的特点就是可编程特性,也就是灵活性,那么开发人员可以借助FPGA创建多个并行计算流水线,并分配存储块,从而优化数据传输。

FPGA的灵活性让其能够适配大量的AI算法,无论是计算还是控制,都可以根据算法需要提供相关的功能。以神经网络为例,其基本原理是通过多个神经元之间的连接进行信息传递和处理,从而实现算法的计算和输出。而神经网络也可以转化为FPGA可编程电路的形式,并可以根据算法需要调整硬件配置。

话虽如此,不过由于FPGA具有一定的设计门槛,所以还是需要FPGA厂商提供一些帮助。Esam Elashmawi指出,莱迪思目前拥有有史以来最强大的产品组合,会继续投资并推出新一代的较小型FPGA和中端FPGA,也将继续在软件工具和解决方案上投入更多资源。

在莱迪思官网可以看到,该公司所提供的强大产品组合包括功能全面的莱迪思sensAI。莱迪思sensAI提供评估、开发和部署基于FPGA的机器学习和人工智能解决方案所需的一切——模块化硬件平台、演示示例、参考设计、神经网络IP核、软件开发工具和定制设计服务。

在演示示例中,通过将内置摄像头与在莱迪思行业领先的低功耗FPGA上运行的机器学习模型相结合,莱迪思sensAI智能视觉传感技术可以追踪用户在使用设备时的注意力,让PC更加智能,更好地感知周围环境。还有一个示例是,通过在屏幕上弹出警示或自动打开屏幕隐私设置,莱迪思sensAI视觉传感技术可以防止黑客偷窥,保护PC用户安全。

因此,通过莱迪思sensAI工具加上该公司丰富的FPGA产品,能够快速构建终端类型的AI应用,有助于帮助开发人员抢占市场先机。

莱迪思Avant FPGA平台

莱迪思亚太区应用工程高级总监Frank Xie在演讲中谈到,莱迪思在性能、功率和连接性方面做得更好。而客户正在寻找的是实时响应的产品,因为边缘上的AI设备非常接近数据收集。莱迪思帮助客户持续优化响应时间和功耗,让他们实现更好的AI功能。

那么,这个更好方案基于怎样的平台呢?答案是莱迪思Avant FPGA平台。

2022年底,莱迪思发布低功耗中端Avant FPGA平台,是该公司进入中端FPGA市场的标志性事件,和Nexus FPGA平台一起组成莱迪思“史上最强产品组合”。

Esam Elashmawi指出,和Nexus FPGA平台相比,Avant FPGA平台容量提升5倍,达到500K逻辑单元,带宽提升10倍,计算性能提升30倍。根据介绍信息,Avant基于16nm FinFET平台,提供强大的25 Gb/s SERDES、硬核PCI Express和外部存储器PHY接口,以及适用于最新AI/ML和计算机视觉算法的大量DSP

和竞争对手的FPGA产品相比,莱迪思Avant是功耗更低、带宽更高、体积更小的方案。其中,Avant-E FPGA旨在解决客户在网络边缘面临的一些关键挑战,拥有低功耗、小尺寸和高性能,以及针对数据处理和AI等网络边缘应用量身定制的优化功能集。

Avant-G是针对中端应用的通用型FPGA,旨在通过提供无缝、灵活的接口桥接和优化的计算来实现系统可扩展性,满足更广泛的客户需求。莱迪思Avant-G器件提供领先的信号处理、AI和灵活的I/O——支持一系列系统接口,同时提供2400 Mbps的专用LPDDR4存储器接口。

Avant-X高级互连FPGA旨在实现高带宽和安全性,其功能集可根据客户对信号聚合和高吞吐量的需求量身定制。莱迪思Avant-X器件提供最高1 T/s的总系统带宽、带硬核DMA的PCIe Gen 4控制器,以及用于加密动态用户数据的安全引擎,提供量子安全加密功能。

有了更出色的FPGA平台加上全面的工具支持,开发人员可以非常便利地基于莱迪思FPGA实现自己的AI创新。当然,面向通信、自动化、机器学习、计算(包括服务器和存储)、汽车(激光雷达、娱乐系统、控制单元)和消费电子等领域也是同样的道理。

莱迪思亚太区应用工程高级总监Frank Xie称,未来莱迪思将持续加码AI创新。他在谈到未来规划时说:“莱迪思也在开发未来的AI应用,这是与硬件、软件一起出现的。目前我们看到的工业发展趋势是传感器到云的连接。传感器有不同种类的接口,意味着我们需要满足不同的接口要求。由于我们的服务是多协议支持,可以调整我们的服务协议,为客户提供各种不同的工业连接标准。”

写在最后

在2024年莱迪思客户技术交流大会上,莱迪思展示了其强大的FPGA合作生态系统,包括丰富的FPGA产品,以及全面的软件、开发套件资源。同时,该公司庞大的用户群基础也为莱迪思后续产品创新带来了源源不断的创新灵感和创新需求。

Esam Elashmawi表示,莱迪思在低功耗FPGA领域深耕超过40年,自2018年以来合作伙伴生态系统扩展了5倍,更多的公司为莱迪思构建软件知识产权(IP),也有越来越多的其他半导体公司参与到莱迪思生态系统。目前,莱迪思为全球10000+ 客户提供服务。

面向未来,我们今天重点谈论的AI当然是莱迪思的重点发展方向之一。同时,莱迪思也透露了该公司后续产品迭代的方向,包括低功耗、先进且灵活的连接性以及针对新兴应用优化的计算能力。此外,安全性是始终贯穿其中的,在量子计算等新技术层出不穷的情况下,安全防护会愈发重要。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1664

    文章

    22502

    浏览量

    639111
  • 莱迪思
    +关注

    关注

    2

    文章

    231

    浏览量

    41165
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值

    。openEuler作为华为主导的服务器操作系统,在ARM生态、内核优化和实时性方面有深厚积累,这对于将AI Station作为服务器或工业控制器使用至关重要。 真实的开发者案例:ACT模型部署(具身智能
    发表于 03-10 14:19

    瑞芯微RKNPU开发全指南:从环境搭建到性能优化,一文搞定边缘AI部署

    边缘 AI 领域,瑞芯微(Rockchip)的 RKNPU 凭借高性能、低功耗的特性,成为很多嵌入式开发者的首选。无论是 RK3588 的 3 核 NPU(算力达 6TOPS),还是 RV1106
    的头像 发表于 02-06 16:35 3625次阅读
    瑞芯微RKNPU开发全指南:从环境搭建到性能优化,一文搞定<b class='flag-5'>边缘</b><b class='flag-5'>AI</b><b class='flag-5'>部署</b>

    工业视觉网关:RK3576赋能多路检测与边缘AI

    ~150ms6TOPS NPU 边缘AI推理易对接 MES / 追溯系统 一、产线痛点:从“人看”到“机判”的转变· 多工位/多角度同步:单机位覆盖不足,典型项目需 8~12 路并发,且画面时序一致性要求高
    发表于 10-16 17:56

    适应边缘AI全新时代的GPU架构

    电子发烧友网站提供《适应边缘AI全新时代的GPU架构.pdf》资料免费下载
    发表于 09-15 16:42 47次下载

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    当今社会,AI已经发展很迅速了,但是你了解AI的发展历程吗?本章作者将为我们打开AI的发展历程以及需求和挑战的面纱。 从2017年开始生成式AI开创了新的
    发表于 09-12 16:07

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    在数字化浪潮的当下,AI 边缘计算网关正逐渐崭露头角,成为众多行业转型升级的关键力量。它宛如一座智能桥梁,一端紧密连接着各类物理设备,如传感器、摄像头、工业机器等,负责收集丰富的数据信息;另一端则
    发表于 08-09 16:40

    AI的未来,属于那些既能写代码,又能焊电路的“双栖人才”

    ”,再聪明的模型也只能停留在实验室。典型的场景有:场景需要的“双栖能力”将YOLOv8部署边缘盒子算法裁剪 + NPU指令调优 + 电源与内存优化AI PC系统集成AI协处理器驱动
    发表于 07-30 16:15

    为何边缘设备正成为AI的新重心

    人工智能 (AI) 正在以惊人的速度发展。企业不再仅仅是探索 AI,而是积极推动 AI 的规模化落地,从实验性应用转向实际部署。随着生成式模型日益精简和高效,
    的头像 发表于 07-30 09:12 998次阅读

    边缘AI盒子技术解析:ASIC/FPGA/GPU芯片及边缘-云端协同与自适应推理

      电子发烧友网综合报道 边缘AI盒子是一种集成了高性能芯片、AI算法和数据处理能力的硬件设备,部署在数据源的边缘侧,如工厂、商场、交通路口
    的头像 发表于 07-13 08:25 4873次阅读

    什么是AI边缘控制器,有什么特点?

    随着工业4.0和智能制造的快速发展,AI边缘控制器作为一种新兴的智能设备,正在成为工业自动化领域的重要技术。它将人工智能(AI)与
    的头像 发表于 07-08 18:03 6233次阅读
    什么是<b class='flag-5'>AI</b><b class='flag-5'>边缘</b>控制器,有什么特点?

    边缘AI实现的核心环节:硬件选择和模型部署

    边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备上,使这些设备能够在本地进行数据处理、分析和决策,而无需将数据传输到远程的云端服务器。
    的头像 发表于 06-19 12:19 1667次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>实现的核心环节:硬件选择和模型<b class='flag-5'>部署</b>

    STM32F769是否可以部署边缘AI

    STM32F769是否可以部署边缘AI
    发表于 06-17 06:44

    边缘AI实现的核心环节:硬件选择和模型部署

    电子发烧友网综合报道 边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备上,使这些设备能够在本地进行数据处理、分析和决策,而无需将数据传输到远程的云端服务器。
    发表于 05-26 07:09 1576次阅读

    Deepseek海思SD3403边缘计算AI产品系统

    海思SD3403边缘计算AI框架,提供了一套开放式AI训练产品工具包,解决客户低成本AI系统,针对差异化AI 应用场景,自己采集样本数据,进
    发表于 04-28 11:05

    Intel-Altera FPGA:通信行业的加速引擎,开启高速互联新时代

    :Silver Lake接管后,Altera将重点发展AI驱动的新兴市场(如边缘计算、机器人),并整合Agilex品牌下的高中低端产品,以提升市场竞争力。四、未来展望技术演进:预计将加速推进Agilex系列迭代
    发表于 04-25 10:19