0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI大模型在端侧加速落地已成必然趋势,芯片厂商提前布局!

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-12-29 00:47 次阅读

电子发烧友网报道(文/李弯弯)2023年对于AI行业来说可谓是非同寻常的一年,AI大模型的蓬勃发展带来新一轮技术变革。在此背景下,AI产品创新、落地应用、商业模式探索成了业界探讨的重点话题,业界普遍认为,2024年AI大模型在商业应用会有极大突破。

“AI大模型在端侧的加速落地已成必然趋势。”在星宸科技上周举办的2023开发者大会暨产品发布会上,该公司董事长&总经理林永育谈到。事实确实如此,AI大模型如果想要实现大规模落地应用,离不开在端侧的部署。可以看到,过去近半年时间里,无论是算法芯片企业,还是终端设备厂商,都在尝试推动AI大模型在边缘/端侧的部署。

基于五大核心IP,持续对端侧AI战略布局

AI大模型时代,云边端深度协同发展很有必要。云端主要能够进行大模型训练,同时也能运行规模较大的模型,其特点是通用性强,成本高;端侧可以用于模型推理,在端侧可以运行小模型、低时延、低功耗任务,其特点是成本低、隐私安全,能够让AI应用更为个性化。林永育表示:“目前端侧产品面临着更新迭代,我们也在思考大模型的轻量化部署需求。”

wKgaomWNUnqALUWMAANkOpYTwD8371.jpg

星宸科技成立于2017年,专注于音视频处理芯片,产品覆盖IP Cam、USB Cam、NVR、DVR、车载电子、运动相机、智能家居机器人工业等领域。据其官网介绍,星宸科技在SoC设计全流程具有丰富经验,坚持主要IP自主研发,在图像信号处理(ISP),音视频编解码等领域具有领先优势,并积极投入人工智能等新领域芯片的研发。

林永育表示,在新趋势下,星宸科技过去几年高度聚焦视频音频、显示、连接、AI五大核心IP,未来将在更高性能、更低功耗、更先进制程、更易部署等领域持续演进。他强调,如果没有闭环的商业模式,没有特定的应用场景,算法、数据都无从谈起。未来星宸科技将基于五大核心IP,持续对端侧AI战略布局,加速AI普惠应用。

wKgZomWNUoKAaP4_AAPG_tAIEeI098.jpg


wKgaomWNUouAVaYqAAM9awhSjY8309.jpg


星宸科技的愿景是实现Leading AI Everywhere。可以看到,星宸科技在智慧视觉、智慧家庭、智慧办公、智慧出行、智慧教育、智慧商业等方面都有布局。比如智慧视觉的IP Camera、NVR、运动相机等;智慧家庭的智能影音娱乐终端、扫地机、家电显示控制、家居智能中控、智能门锁;智慧办公的会议摄像头、服务机器人、会议音频设备、会议大屏、PC摄像头、智能门禁等;智慧出行的智能后视镜、自主泊车、智能中控、ADAS、车内监控系统等。

wKgZomWNUpKAfDr9AANBxR1k3-E154.jpg

L2-L3 ADAS以及独立AI视觉场景将成为主力应用

车载市场是星宸科技重点布局的领域之一。当前,汽车智能化渗透率正在稳步提升,车载对于感知计算芯片的需求空间极大。星宸科技智慧车载产品线负责人唐本冰表示,未来5-8年,L2-L3 ADAS以及独立AI视觉场景将会成为主力应用。星宸科技针对此市场已经推出系列ADAS感知计算SOC芯片以及方案开发平台,在此次发布会上,星宸科技也发布了新一代的ADAS芯片及解决方案。

wKgaomWNUpmAEtb_AAQF5PCS9pU036.jpg

星宸科技在车载领域的规划,第一步是在车规智能感知芯片方面进行布局,第二步是功能安全ADAS,第三则是进行跨域布局。据该公司智慧车载产品线负责人唐本冰介绍,在一系列核心技术支持下,2022年星宸科技已经发布并量产车规系列SAC8542、SAC8539,面向DVR、CMS、DMS、E-Mirror等场景,2023年发布并量产功能安全演进系列SAC8904、SAC8702等,面向ADAS、APA、行泊一体、DMS、AVM等场景,规划2024年及之后AD跨域处理器SAC8A20等,将逐步实现完整产品线三步走战略目标。

具体来看,在极致性价比的车载视觉感知计算场景中,星宸科技可以提供与各个细分场景匹配的芯片,如CMS/DMS/OMS:SAC8542/8902;DVR:SAC8539;E-Mirror:SAC8539/8902;APA:SAC8702;智能车灯:SAC8542;新国标:SAC8542。

在行泊舱感知计算一体化场景,同样有相应的芯片匹配各个应用。比如,行车场景中的ACC(自适应巡航)、LDW(车道偏离预警)、LKA(车道保持辅助)、TJA(交通拥堵辅助)、AEB(自动紧急制动)、NOA(领航系统),可以使用SAC8904+SAC8702、SAC8916、SAC8950。泊车场景中的APA/AVP(自动/自主泊车)可以使用SAC8904/89048702。座舱智能感知场景中的CMS(电子外后视镜)、DMS(驾驶员疲劳监测)、OMS(乘客监测)、IMS(车厢内检测),有SAC8702/SAC8542芯片可以匹配使用。

在发布会现场,唐本冰还同步分享了基于SAC8542的CMS架构、DMS/OMS+DVR架构,基于SAC8904的前视ADAS架构等创新方案。如下图:

wKgaomWNUqKAJucnAAPccq56fVY171.jpg
wKgaomWNUquARRwzAAOfg2wFlcI041.jpg
wKgaomWNUrSADynRAAOkm7uQ5xY781.jpg

星宸科技的车规产品已经通过GB/T 38892认证,具有丰富的外设适应能力、稳定可靠的SDK。唐本冰介绍说,公司车载芯片出货量已超千万,合作车企包括上汽集团、吉利、一汽大众、广汽本田、奇瑞、一汽奥迪等,公司未来将继续与产业链伙伴加大合作力度,加速实现汽车领域入门及腰部市场的差异化和智能化发展。

就如上文所言,星宸科技具备强大的核心IP自研能力,其自研的ISP已进化到第三代,自研IPU也针对行车智驾、自动泊车、座舱智能感知等汽车智能化应用进行计算效率优化,并将在下一代ADAS芯片支持BEV+Transformer等大网络模型高效率在腰部市场的落地应用。同时星宸科技还提供StarEngine自研算法工具链平台,以及开放式StarEngine解决方案SDK开发平台,与全产业链各环节合作伙伴和开发者一起构建高效的、差异化的汽车智能化功能。

wKgaomWNUruAV47tAAPIt-T47Ds723.jpg

写在最后

除了车载市场应用解决方案,此次大会,星宸科技也发布了面向智能机器人场景的全新解决方案。就智能机器人对行走、导航、避障、交互、连接、多融合感知、多任务执行、低功耗、高性价比等需求,星宸科技结合自身在CPU、IPU、MCU、PMU、ISP等领域的深厚积累,提出了多核异构、多传感融合、高能效算力智能机器人芯片解决方案。

总的来说,AI大模型在端侧的部署是必然趋势。可以预想,手机、PC、车载、机器人等终端设备未来都将能够看到大模型的应用。而所有这些的实现都离不开芯片的支持,就如专家们预计的那样,如果大模型的商业应用在2024年会迎来突破,那么芯片是不是也将迎来新一轮机会。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264051
  • AI大模型
    +关注

    关注

    0

    文章

    194

    浏览量

    91
收藏 人收藏

    评论

    相关推荐

    模型时代,国产AI芯片最新进展!算力集群化是必然趋势

    电子发烧友网报道(文/李弯弯)在刚过去的2023世界人工智能大会上,大模型可以说是其中的大亮点之一,华为盘古、商汤日日新、网易伏羲等30多款国产AI模型集中亮相。与此同时,各类人工智能芯片
    的头像 发表于 07-11 09:05 1404次阅读
    大<b class='flag-5'>模型</b>时代,国产<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>最新进展!算力集群化是<b class='flag-5'>必然趋势</b>

    开发者手机 AI - 目标识别 demo

    Lite的API接口实现主要功能; Mindspore Lite为Openharmony AI推理框架,为上层应用提供统一的AI推理接口,可以完成在手机等设备中的
    发表于 04-11 16:14

    RISC-V厂商正在AI领域积极布局

    电子发烧友网报道(文/李弯弯)在AI大浪潮的席卷下,越来越多具备多模态能力的AI模型加速涌现,AI推理
    的头像 发表于 04-09 00:13 3140次阅读
    RISC-V<b class='flag-5'>厂商</b>正在<b class='flag-5'>AI</b>领域积极<b class='flag-5'>布局</b>!

    NVIDIA在加速识因智能AI模型落地应用方面的重要作用介绍

    本案例介绍了 NVIDIA 在加速识因智能 AI模型落地应用方面的重要作用。生成式大模型已广泛应用于各领域,通过学习人类思维方式,能快速
    的头像 发表于 03-29 15:28 276次阅读

    机器人:AI模型终端落地的第三大方向?

    电子发烧友网报道(文/吴子鹏)前有AI落地难,如今AI模型落地也遇到了一些挑战。虽然各大企业推出了非常多的行业垂直大
    的头像 发表于 03-24 10:22 3763次阅读

    基于AI模型,千方科技做了哪些尝试呢?

    AI模型逐步走入冷静期,思考大模型如何助力解决实际问题、实现商业化落地成为新趋势
    的头像 发表于 01-12 09:18 241次阅读

    AI模型怎么解决芯片过剩?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:42:05

    RISC-V内核突破百亿颗 RVV1.0如何解锁AI市场应用潜能

    ,从而推动高性能RISC-V芯片落地应用。AI芯片厂商嘉楠科技也发布了基于平头哥玄铁C908,业界首款支持RVV1.0标准的
    发表于 12-01 13:17

    云边AI必然趋势和硬件承载

    云边AI是指把AI模型和算法在云端训练和优化后,部署到边缘设备上运行,从而将AI能力融入终端设备。在前期的AI发展中,云端计算平台凭借其强
    的头像 发表于 11-07 17:46 363次阅读
    云边<b class='flag-5'>AI</b>的<b class='flag-5'>必然趋势</b>和硬件承载

    打通AI芯片到大模型训练的算力桥梁,开放加速设计指南强力助推

    北京2023年10月17日 /美通社/ -- 日前,2023全球AI芯片峰会(GACS 2023)在深圳市举行,AI芯片产业链顶尖企业、专家学者齐聚,围绕生成式
    的头像 发表于 10-17 16:51 536次阅读
    打通<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>到大<b class='flag-5'>模型</b>训练的算力桥梁,开放<b class='flag-5'>加速</b>设计指南强力助推

    【KV260视觉入门套件试用体验】Vitis AI 构建开发环境,并使用inspector检查模型

    FFT运算(Vivado) 四、硬件加速之—使用PL加速矩阵乘法运算(Vitis HLS) 五、Vitis AI 构建开发环境,并使用inspector检查模型 六、Vitis
    发表于 10-14 15:34

    盘古ai模型用的什么芯片

    盘古ai模型用的什么芯片? 盘古AI模型是一种基于深度学习算法的人工智能技术,它是由中国互联网公司暴风集团投入上亿元研发的一项人工智能技
    的头像 发表于 08-31 09:01 2381次阅读

    【书籍评测活动NO.18】 AI加速器架构设计与实现

    加速器架构设计与实现》 主要内容本书是一本讲解NPU硬件架构设计与技术实现的著作。作者将自己CPU、GPU和NPU领域15年的软硬件工作经验融会贯通,将四代NPU架构设计经验融为一体,将
    发表于 07-28 10:50

    中软国际参加首期百度智能云文心千帆大模型SFT微调能力实训营

    的发展。 在AI 2.0时代,大模型与行业深度融合是技术发展的必然趋势。由于大模型本身存在不掌握本地和实时数据、推理局限在常识范围、本地部署成本高等制约,影响了大
    的头像 发表于 07-17 18:15 621次阅读
    中软国际参加首期百度智能云文心千帆大<b class='flag-5'>模型</b>SFT微调能力实训营

    AI简报20230714期】人工智能在日常生活中的应用,国产AI芯片最新进展公布!

    1. 大模型时代,国产AI芯片最新进展!算力集群化是必然趋势 原文: https://mp.weixin.qq.com/s/k-InpBMMJTUltuMcB2hKSg 在刚过去的20
    的头像 发表于 07-14 20:40 795次阅读
    【<b class='flag-5'>AI</b>简报20230714期】人工智能在日常生活中的应用,国产<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>最新进展公布!