0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能座舱大模型,混合算力还是全靠端侧输出

E4Life 来源:电子发烧友 作者:周凯扬 2024-03-26 01:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)除了传统的LLM模型外,不少垂直领域的大模型也在飞速发展,尤其是在汽车领域,越来越多的车企开始考虑在车内引入AI大模型。如今汽车此前由于车端算力的限制,大模型很难运行在智能座舱上,而全程联网跑的座舱大模型在使用体验上又有所欠缺。然而,随着新一代智能汽车算力硬件纷纷进入下一阶段,如今智能座舱开始在新车型上铺开。

理想Mind GPT

去年年底,理想发布了最新的OTA 5.0版本,率先为Max车型升级了AD MAX 3.0智能驾驶。然而,这一次OTA还包括了最新的智能空间SS 3.0,为Max、Pro和Air车型正式引入了Mind GPT这一智能座舱多模态认知大模型。

理想从零构建了Mind GPT的原始基座模型,并采用了自研的TaskFormer神经网络架构,Mind GPT使得理想语音助手“理想同学”获得了听感和自行能力全面升级,并基于其重点场景,定制了111个领域、1000种以上的专属能力,比如理解语义、多语种交流、模糊感知和行程安排规划等。

从中文大模型排行榜C-Eval网站上可以看到,12月4日发布的Mind GPT在当时斩获了闭源模型第一的成绩。尽管随后被荣耀、海思和vivo的大模型超过,但Mind GPT目前依然以89.7的成绩高居第四的位置。

可以看出,理想Mind GPT对于硬件的要求并不算高,从理想分享的Mind GPT推理引擎来看,其推理负载被分配给了云端GPT和端侧的NPU,从而降低智能座舱的算力要求,使得更多老车型也可以享受到大模型的完整体验。

蔚来NOMI GPT

蔚来宣称NOMI GPT是业内首家纯端侧部署的多模态感知大模型,新的NOMI借由这一大模型,可以在无需联网的前提下识别数千种物体,且做到快速响应,还可以根据非颜色类磁珠,完成氛围灯的颜色组合。由于是纯端侧处理,NOMI GPT做到了车主隐私数据不出车,提高了信息安全性。

之所以能做到纯端侧,自然离不开计算硬件的支撑。2024款蔚来全系车型均将采用全新的中央计算平台ADAM,在智舱上搭载了高通最新的骁龙8295智能座舱芯片。在5nm工艺和架构优化下,8295相较上一代8155在性能上有了巨大的提升,除了通用计算与图形处理的CPUGPU算力分别翻了2倍和3倍外,用于AI计算的NPU算力也提升了8倍,达到了30TOPS。

除此之外,蔚来的ADAM通过系统级创新实现了舱驾融合,不仅可以拓展算力,更可以实现跨域算力共享。如此一来,类似NOMI GPT这样的多模大模型端侧部署,就可以调用来自智驾芯片Orin X的算力,从而提高CPU、GPU和NPU的使用效率。

写在最后

可以看出,理想和蔚来在智能座舱大模型上采用了不尽相同的策略,理想的Mind GPT主打让所有L系列车主都能享受到大模型的智能空间,而蔚来则是追求极致的硬件算力,把一切推理计算都留在端侧。这两种方式都各有优劣,未来随着更多车企跟进智能座舱大模型,我们届时将看到究竟何种技术路线更受欢迎。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 智能汽车
    +关注

    关注

    30

    文章

    3231

    浏览量

    109143
  • 算力
    +关注

    关注

    2

    文章

    1385

    浏览量

    16566
  • 智能座舱
    +关注

    关注

    4

    文章

    1241

    浏览量

    17233
  • 大模型
    +关注

    关注

    2

    文章

    3442

    浏览量

    4967
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    引领模型落地!Firefly-RK182X 开发套件上线发售

    海量参数的大模型给AI行业带来颠覆性的体验,然而在设备中,由于有限的DRAM带宽、硬件算、存储容量等瓶颈,让
    的头像 发表于 11-26 16:33 798次阅读
    引领<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>落地!Firefly-RK182X 开发套件上线发售

    聚焦AI:看美格智能全栈能力如何支撑AI产业六大趋势

    ”与算攀升,AI成为产业共识大模型“瘦身”不断推进,AI模型正在不断变得更小并且更加高效随着
    的头像 发表于 10-29 16:09 824次阅读
    聚焦<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI:看美格<b class='flag-5'>智能</b>全栈能力如何支撑AI产业六大趋势

    广和通发布情感对话大模型FiboEmo-LLM

    9月,广和通正式发布自主研发的情感对话大模型FiboEmo-LLM。该模型专注于情感计算与自然语言交互融合,致力于为AI玩具、智能陪伴设
    的头像 发表于 09-26 13:37 1605次阅读

    AI推理赋能效率革命,美格智能多领域落地打造行业范本

    产业进阶:AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgent的主要外在呈现和功能入口。随着
    的头像 发表于 08-25 17:06 3466次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b>AI推理赋能效率革命,美格<b class='flag-5'>智能</b>多领域落地打造行业范本

    模型迎来“轻”革命!移远通信 × RWKV 打造“轻量AI大脑”

    7月27日,移远通信宣布与RWKV公司建立全面合作关系,双方将依托移远的算平台,优化并支持RWKV最新模型架构,共同推动大模型设备的
    的头像 发表于 07-27 19:02 645次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>迎来“轻”革命!移远通信 × RWKV 打造“轻量AI大脑”

    广和通加速通义千问Qwen3在全面落地

    6月,广和通宣布:率先完成通义千问Qwen3系列混合推理模型在高通QCS8550平台的适配部署。广和通通过定制化混合精度量化方案与创新硬
    的头像 发表于 06-25 15:35 775次阅读

    面壁小钢炮模型MiniCPM4.0发布,智能更进一步

    版和0.5B最强小小钢炮。     李大海表示,面壁智能是第一个把全模态模型带到的公司。面壁智能小钢炮,旨在把大
    的头像 发表于 06-08 08:18 6758次阅读
    面壁小钢炮<b class='flag-5'>模型</b>MiniCPM4.0发布,<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>智能</b>更进一步

    德赛西威模型重塑智能座舱体验

    智能汽车产业发展正从规模扩张向质量跃升转变,其中大模型驱动的智能化升级将成为产业突破的核心引擎。在日前召开的2025上海车展国际汽车关键技术论坛上,德赛西威技术中心人工智能实验室专家张
    的头像 发表于 05-15 09:13 1574次阅读

    德赛西威与面壁智能发布模型语音交互方案

    日前,全球领先的移动出行科技公司德赛西威与模型技术领军企业面壁智能共同发布业界首个基于高通座舱平台(SA8255P,简称8255)的
    的头像 发表于 05-14 17:40 1023次阅读

    英特尔与面壁智能宣布建立战略合作伙伴关系,共同研发端原生智能座舱,定义下一代车载AI

    今日,英特尔与面壁智能签署合作备忘录。双方宣布达成战略级合作伙伴关系,旨在打造端原生智能座舱,定义下一代车载AI。目前,双方已合作推出“英特尔&面壁
    的头像 发表于 04-23 21:46 933次阅读
    英特尔与面壁<b class='flag-5'>智能</b>宣布建立战略合作伙伴关系,共同研发端<b class='flag-5'>侧</b>原生<b class='flag-5'>智能</b><b class='flag-5'>座舱</b>,定义下一代车载AI

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    的自有模型移植,使首字词生态速度比云端方案提升70%,赋能绝影多模态智能座舱强大的运行能力,让汽车拥有“有趣的灵魂”。 不仅如此,天玑
    发表于 04-13 19:52

    AI大模型侧部署正当时:移远端AI大模型解决方案,激活场景智能新范式

    在AI技术飞速发展的当下,AI大模型的应用正从云端向加速渗透。 作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻性的战略布局,在AI大模型
    发表于 03-27 11:26 425次阅读
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>侧部署正当时:移远端<b class='flag-5'>侧</b>AI大<b class='flag-5'>模型</b>解决方案,激活场景<b class='flag-5'>智能</b>新范式

    AI大模型侧部署正当时:移远端AI大模型解决方案,激活场景智能新范式

    在AI技术飞速发展的当下,AI大模型的应用正从云端向加速渗透。作为全球领先的物联网整体解决方案供应商,移远通信凭借深厚的技术积累与前瞻性的战略布局,在AI大模型
    的头像 发表于 03-26 19:05 991次阅读
    AI大<b class='flag-5'>模型</b><b class='flag-5'>端</b>侧部署正当时:移远端<b class='flag-5'>侧</b>AI大<b class='flag-5'>模型</b>解决方案,激活场景<b class='flag-5'>智能</b>新范式

    【一文看懂】什么是

    随着物联网(IoT)、人工智能和5G技术的快速发展,正逐渐成为智能设备性能提升和智能化应
    的头像 发表于 02-24 12:02 2968次阅读
    【一文看懂】什么是<b class='flag-5'>端</b><b class='flag-5'>侧</b>算<b class='flag-5'>力</b>?

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算越来越高、模型能力越来越强、实时响应及隐私保护的应用需求增
    的头像 发表于 12-12 10:35 1291次阅读