0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI大模型在端侧加速落地已成必然趋势,芯片厂商提前布局!

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-12-29 00:47 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李弯弯)2023年对于AI行业来说可谓是非同寻常的一年,AI大模型的蓬勃发展带来新一轮技术变革。在此背景下,AI产品创新、落地应用、商业模式探索成了业界探讨的重点话题,业界普遍认为,2024年AI大模型在商业应用会有极大突破。

“AI大模型在端侧的加速落地已成必然趋势。”在星宸科技上周举办的2023开发者大会暨产品发布会上,该公司董事长&总经理林永育谈到。事实确实如此,AI大模型如果想要实现大规模落地应用,离不开在端侧的部署。可以看到,过去近半年时间里,无论是算法、芯片企业,还是终端设备厂商,都在尝试推动AI大模型在边缘/端侧的部署。

基于五大核心IP,持续对端侧AI战略布局

AI大模型时代,云边端深度协同发展很有必要。云端主要能够进行大模型训练,同时也能运行规模较大的模型,其特点是通用性强,成本高;端侧可以用于模型推理,在端侧可以运行小模型、低时延、低功耗任务,其特点是成本低、隐私安全,能够让AI应用更为个性化。林永育表示:“目前端侧产品面临着更新迭代,我们也在思考大模型的轻量化部署需求。”

wKgaomWNUnqALUWMAANkOpYTwD8371.jpg

星宸科技成立于2017年,专注于音视频处理芯片,产品覆盖IP Cam、USB Cam、NVR、DVR、车载电子、运动相机、智能家居机器人、工业等领域。据其官网介绍,星宸科技在SoC设计全流程具有丰富经验,坚持主要IP自主研发,在图像信号处理(ISP),音视频编解码等领域具有领先优势,并积极投入人工智能等新领域芯片的研发。

林永育表示,在新趋势下,星宸科技过去几年高度聚焦视频、音频、显示、连接、AI五大核心IP,未来将在更高性能、更低功耗、更先进制程、更易部署等领域持续演进。他强调,如果没有闭环的商业模式,没有特定的应用场景,算法、数据都无从谈起。未来星宸科技将基于五大核心IP,持续对端侧AI战略布局,加速AI普惠应用。

wKgZomWNUoKAaP4_AAPG_tAIEeI098.jpg


wKgaomWNUouAVaYqAAM9awhSjY8309.jpg


星宸科技的愿景是实现Leading AI Everywhere。可以看到,星宸科技在智慧视觉、智慧家庭、智慧办公、智慧出行、智慧教育、智慧商业等方面都有布局。比如智慧视觉的IP Camera、NVR、运动相机等;智慧家庭的智能影音娱乐终端、扫地机、家电显示控制、家居智能中控、智能门锁;智慧办公的会议摄像头、服务机器人、会议音频设备、会议大屏、PC摄像头、智能门禁等;智慧出行的智能后视镜、自主泊车、智能中控、ADAS、车内监控系统等。

wKgZomWNUpKAfDr9AANBxR1k3-E154.jpg

L2-L3 ADAS以及独立AI视觉场景将成为主力应用

车载市场是星宸科技重点布局的领域之一。当前,汽车智能化渗透率正在稳步提升,车载对于感知计算芯片的需求空间极大。星宸科技智慧车载产品线负责人唐本冰表示,未来5-8年,L2-L3 ADAS以及独立AI视觉场景将会成为主力应用。星宸科技针对此市场已经推出系列ADAS感知计算SOC芯片以及方案开发平台,在此次发布会上,星宸科技也发布了新一代的ADAS芯片及解决方案。

wKgaomWNUpmAEtb_AAQF5PCS9pU036.jpg

星宸科技在车载领域的规划,第一步是在车规智能感知芯片方面进行布局,第二步是功能安全ADAS,第三则是进行跨域布局。据该公司智慧车载产品线负责人唐本冰介绍,在一系列核心技术支持下,2022年星宸科技已经发布并量产车规系列SAC8542、SAC8539,面向DVR、CMS、DMS、E-Mirror等场景,2023年发布并量产功能安全演进系列SAC8904、SAC8702等,面向ADAS、APA、行泊一体、DMS、AVM等场景,规划2024年及之后AD跨域处理器SAC8A20等,将逐步实现完整产品线三步走战略目标。

具体来看,在极致性价比的车载视觉感知计算场景中,星宸科技可以提供与各个细分场景匹配的芯片,如CMS/DMS/OMS:SAC8542/8902;DVR:SAC8539;E-Mirror:SAC8539/8902;APA:SAC8702;智能车灯:SAC8542;新国标:SAC8542。

在行泊舱感知计算一体化场景,同样有相应的芯片匹配各个应用。比如,行车场景中的ACC(自适应巡航)、LDW(车道偏离预警)、LKA(车道保持辅助)、TJA(交通拥堵辅助)、AEB(自动紧急制动)、NOA(领航系统),可以使用SAC8904+SAC8702、SAC8916、SAC8950。泊车场景中的APA/AVP(自动/自主泊车)可以使用SAC8904/89048702。座舱智能感知场景中的CMS(电子外后视镜)、DMS(驾驶员疲劳监测)、OMS(乘客监测)、IMS(车厢内检测),有SAC8702/SAC8542芯片可以匹配使用。

在发布会现场,唐本冰还同步分享了基于SAC8542的CMS架构、DMS/OMS+DVR架构,基于SAC8904的前视ADAS架构等创新方案。如下图:

wKgaomWNUqKAJucnAAPccq56fVY171.jpg
wKgaomWNUquARRwzAAOfg2wFlcI041.jpg
wKgaomWNUrSADynRAAOkm7uQ5xY781.jpg

星宸科技的车规产品已经通过GB/T 38892认证,具有丰富的外设适应能力、稳定可靠的SDK。唐本冰介绍说,公司车载芯片出货量已超千万,合作车企包括上汽集团、吉利、一汽大众、广汽本田、奇瑞、一汽奥迪等,公司未来将继续与产业链伙伴加大合作力度,加速实现汽车领域入门及腰部市场的差异化和智能化发展。

就如上文所言,星宸科技具备强大的核心IP自研能力,其自研的ISP已进化到第三代,自研IPU也针对行车智驾、自动泊车、座舱智能感知等汽车智能化应用进行计算效率优化,并将在下一代ADAS芯片支持BEV+Transformer等大网络模型高效率在腰部市场的落地应用。同时星宸科技还提供StarEngine自研算法工具链平台,以及开放式StarEngine解决方案SDK开发平台,与全产业链各环节合作伙伴和开发者一起构建高效的、差异化的汽车智能化功能。

wKgaomWNUruAV47tAAPIt-T47Ds723.jpg

写在最后

除了车载市场应用解决方案,此次大会,星宸科技也发布了面向智能机器人场景的全新解决方案。就智能机器人对行走、导航、避障、交互、连接、多融合感知、多任务执行、低功耗、高性价比等需求,星宸科技结合自身在CPU、IPU、MCU、PMU、ISP等领域的深厚积累,提出了多核异构、多传感融合、高能效算力智能机器人芯片解决方案。

总的来说,AI大模型在端侧的部署是必然趋势。可以预想,手机、PC、车载、机器人等终端设备未来都将能够看到大模型的应用。而所有这些的实现都离不开芯片的支持,就如专家们预计的那样,如果大模型的商业应用在2024年会迎来突破,那么芯片是不是也将迎来新一轮机会。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    41834

    浏览量

    302983
  • AI大模型
    +关注

    关注

    0

    文章

    415

    浏览量

    1051
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    大为创芯进军AI眼镜存储,AI存储全面布局

    当前大模型应用持续渗透,AI 产业正迎来一轮关键的架构迁移,AI 存储正从以云端集中处理为主,逐步向终端与边缘下沉延伸。这一趋势
    的头像 发表于 04-03 10:20 4246次阅读
    大为创芯进军<b class='flag-5'>AI</b>眼镜存储,<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>存储全面<b class='flag-5'>布局</b>

    晶晨携手谷歌,助力模型Gemini的硬件落地

    AI)相关产品的核心芯片供应商,双方人工智能领域紧密协作,聚焦于谷歌模型Gemini的
    的头像 发表于 01-29 10:44 2533次阅读

    模型上车:从“语音助手”到“车内 AI 智能体”的跃迁革命

    生活空间”的可能性。当7B级大模型在车规级芯片上流畅运行,当多模态交互(语音+视觉+传感)成为标配,车载助手已从“被动响应”升级为“主动决策”,成为车内真正的“数字大脑”。这场由
    的头像 发表于 01-13 09:10 951次阅读

    出货量暴增165%!这一新范式将引爆AI

    电子发烧友网报道(文/莫婷婷))2025年,AI加速向终端大规模落地。据Gartner等行业机构数据显示,2025年,搭载
    的头像 发表于 12-16 10:51 6700次阅读
    出货量暴增165%!这一新范式将引爆<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>

    高算力、低功耗!下一代AI芯片排队进场

    电子发烧友网报道(文/李弯弯)随着人工智能技术的飞速发展,AI正成为推动智能硬件变革的核心动力。汽车、机器人、AI眼镜、可穿戴设备等多
    的头像 发表于 12-12 08:58 1w次阅读

    引领模型落地!Firefly-RK182X 开发套件上线发售

    海量参数的大模型AI行业带来颠覆性的体验,然而在设备中,由于有限的DRAM带宽、硬件算力、存储容量等瓶颈,让
    的头像 发表于 11-26 16:33 2927次阅读
    引领<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b><b class='flag-5'>落地</b>!Firefly-RK182X 开发套件上线发售

    瑞芯微发力AI,RK3588汽车电子与机器人领域广泛应用

    电子发烧友网综合报道 近期,瑞芯微回应了诸多关于AI相关的问题。如,AI发展到何种地步?
    的头像 发表于 11-25 08:25 8780次阅读

    悟空图像与华为CANN正式落地PCAI闪绘功能

    近日,基于华为CANN(Compute Architecture for Neural Networks)云协同架构打造的华为PCAI闪绘功能正式落地,标志着
    的头像 发表于 11-10 14:43 1099次阅读

    聚焦AI:看美格智能全栈能力如何支撑AI产业六大趋势

    当前阶段,AI技术的竞争已从模型的“宏大叙事”转向落地应用的“精耕细作”。当行业焦点回归现实效能,一个共识愈发清晰:计算的未来,正从云端向万物互联的边缘
    的头像 发表于 10-29 16:09 1438次阅读
    聚焦<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>:看美格智能全栈能力如何支撑<b class='flag-5'>AI</b>产业六大<b class='flag-5'>趋势</b>

    此芯科技发布“合一”AI加速计划,赋能边缘与AI创新

    产品组合,覆盖从1.5B至32B参数规模的AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术从云端向边缘
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b><b class='flag-5'>加速</b>计划,赋能边缘与<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    当主控SoC遇上AI模型,物奇智能蓝牙芯片驱动AI新场景

    ,成为AI落地的重要载体,将超越传统音频播放范畴,演变为人机交互的关键接口,带来前所未有的智能体验。 借助AI
    的头像 发表于 08-27 11:29 1.5w次阅读
    当主控SoC遇上<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>,物奇智能蓝牙<b class='flag-5'>芯片</b>驱动<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>新场景

    AI推理赋能效率革命,美格智能多领域落地打造行业范本

    产业进阶:AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgen
    的头像 发表于 08-25 17:06 4244次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>推理赋能效率革命,美格智能多领域<b class='flag-5'>落地</b>打造行业范本

    华为CANN与智谱GLM模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM模型已完成与CANN的适配。这标志着国产大模型与计算架构
    的头像 发表于 08-11 11:00 2852次阅读

    媒体报道 | 锚定“AI+机器人”,移远又有大动作!

    以前瞻性的技术布局与场景落地能力深度参与“AI+机器人”产业链,已率先在这一领域取得关键进展。
    的头像 发表于 07-11 19:05 1180次阅读
    媒体报道 | 锚定“<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>+机器人”,移远又有大动作!

    广和通加速通义千问Qwen3全面落地

    6月,广和通宣布:率先完成通义千问Qwen3系列混合推理模型高通QCS8550平台的适配部署。广和通通过定制化混合精度量化方案与创新硬件加速
    的头像 发表于 06-25 15:35 1449次阅读