0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能座舱大模型,混合算力还是全靠端侧输出

E4Life 来源:电子发烧友 作者:周凯扬 2024-03-26 01:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/周凯扬)除了传统的LLM模型外,不少垂直领域的大模型也在飞速发展,尤其是在汽车领域,越来越多的车企开始考虑在车内引入AI大模型。如今汽车此前由于车端算力的限制,大模型很难运行在智能座舱上,而全程联网跑的座舱大模型在使用体验上又有所欠缺。然而,随着新一代智能汽车算力硬件纷纷进入下一阶段,如今智能座舱开始在新车型上铺开。

理想Mind GPT

去年年底,理想发布了最新的OTA 5.0版本,率先为Max车型升级了AD MAX 3.0智能驾驶。然而,这一次OTA还包括了最新的智能空间SS 3.0,为Max、Pro和Air车型正式引入了Mind GPT这一智能座舱多模态认知大模型。

理想从零构建了Mind GPT的原始基座模型,并采用了自研的TaskFormer神经网络架构,Mind GPT使得理想语音助手“理想同学”获得了听感和自行能力全面升级,并基于其重点场景,定制了111个领域、1000种以上的专属能力,比如理解语义、多语种交流、模糊感知和行程安排规划等。

从中文大模型排行榜C-Eval网站上可以看到,12月4日发布的Mind GPT在当时斩获了闭源模型第一的成绩。尽管随后被荣耀、海思和vivo的大模型超过,但Mind GPT目前依然以89.7的成绩高居第四的位置。

可以看出,理想Mind GPT对于硬件的要求并不算高,从理想分享的Mind GPT推理引擎来看,其推理负载被分配给了云端GPT和端侧的NPU,从而降低智能座舱的算力要求,使得更多老车型也可以享受到大模型的完整体验。

蔚来NOMI GPT

蔚来宣称NOMI GPT是业内首家纯端侧部署的多模态感知大模型,新的NOMI借由这一大模型,可以在无需联网的前提下识别数千种物体,且做到快速响应,还可以根据非颜色类磁珠,完成氛围灯的颜色组合。由于是纯端侧处理,NOMI GPT做到了车主隐私数据不出车,提高了信息安全性。

之所以能做到纯端侧,自然离不开计算硬件的支撑。2024款蔚来全系车型均将采用全新的中央计算平台ADAM,在智舱上搭载了高通最新的骁龙8295智能座舱芯片。在5nm工艺和架构优化下,8295相较上一代8155在性能上有了巨大的提升,除了通用计算与图形处理的CPUGPU算力分别翻了2倍和3倍外,用于AI计算的NPU算力也提升了8倍,达到了30TOPS。

除此之外,蔚来的ADAM通过系统级创新实现了舱驾融合,不仅可以拓展算力,更可以实现跨域算力共享。如此一来,类似NOMI GPT这样的多模大模型端侧部署,就可以调用来自智驾芯片Orin X的算力,从而提高CPU、GPU和NPU的使用效率。

写在最后

可以看出,理想和蔚来在智能座舱大模型上采用了不尽相同的策略,理想的Mind GPT主打让所有L系列车主都能享受到大模型的智能空间,而蔚来则是追求极致的硬件算力,把一切推理计算都留在端侧。这两种方式都各有优劣,未来随着更多车企跟进智能座舱大模型,我们届时将看到究竟何种技术路线更受欢迎。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 智能汽车
    +关注

    关注

    30

    文章

    3364

    浏览量

    109730
  • 算力
    +关注

    关注

    2

    文章

    1777

    浏览量

    16858
  • 智能座舱
    +关注

    关注

    4

    文章

    1380

    浏览量

    17371
  • 大模型
    +关注

    关注

    2

    文章

    3864

    浏览量

    5299
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    紫光展锐携手斑马智能发布AI Box,160T算赋能智能座舱

    紫光展锐与斑马智能近日联合发布了面向智能座舱AI Box创新产品。这是双方继去年上海车展联合首发A8880芯片后的又一次深度合作,产品
    的头像 发表于 05-09 10:24 1161次阅读

    面壁智能与安波福达成战略合作,AI座舱方案走向全球市场

    第十九届北京国际汽车展览会期间,北京面壁智能科技有限责任公司(以下简称"面壁智能")与安波福(中国)科技研发有限公司(以下简称"安波福")正式签署战略合作框架协议。双方将围绕
    的头像 发表于 04-30 11:55 156次阅读
    面壁<b class='flag-5'>智能</b>与安波福达成战略合作,<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI<b class='flag-5'>座舱</b>方案走向全球市场

    理想汽车发布模型软硬协同设计定律

    近日,理想汽车联合国创决策智能技术研究所正式发布模型“软硬协同设计定律”,提出面向车载与边缘场景的大模型软硬一体化设计方法,为下一代
    的头像 发表于 03-04 16:00 980次阅读
    理想汽车发布<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>软硬协同设计定律

    晶晨携手谷歌,助力模型Gemini的硬件落地

    AI)相关产品的核心芯片供应商,双方在人工智能领域紧密协作,聚焦于谷歌模型Gemini的硬件生态落地。   公司积极推出适配Gemini的
    的头像 发表于 01-29 10:44 2583次阅读

    智能设备的本地计算革命与未来图景

    前言随着物联网(IoT)、人工智能和5G技术的飞速演进,智能设备正从被动响应向主动感知、实时决策升级,而这一变革的核心驱动力之一,便是
    的头像 发表于 01-22 10:41 1225次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b>算<b class='flag-5'>力</b>:<b class='flag-5'>智能</b>设备的本地计算革命与未来图景

    模型上车:从“语音助手”到“车内 AI 智能体”的跃迁革命

    2025年,智能汽车的座舱不再只是“语音助手”的舞台,而是一个搭载生成式AI和大语言模型(LLM)的智能体。从云端示范到车内落地,这一跨越不仅改变了人机交互的边界,更重构了汽车作为“第
    的头像 发表于 01-13 09:10 996次阅读

    引领模型落地!Firefly-RK182X 开发套件上线发售

    海量参数的大模型给AI行业带来颠覆性的体验,然而在设备中,由于有限的DRAM带宽、硬件算、存储容量等瓶颈,让
    的头像 发表于 11-26 16:33 2966次阅读
    引领<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>落地!Firefly-RK182X 开发套件上线发售

    聚焦AI:看美格智能全栈能力如何支撑AI产业六大趋势

    ”与算攀升,AI成为产业共识大模型“瘦身”不断推进,AI模型正在不断变得更小并且更加高效随着
    的头像 发表于 10-29 16:09 1458次阅读
    聚焦<b class='flag-5'>端</b><b class='flag-5'>侧</b>AI:看美格<b class='flag-5'>智能</b>全栈能力如何支撑AI产业六大趋势

    广和通发布情感对话大模型FiboEmo-LLM

    9月,广和通正式发布自主研发的情感对话大模型FiboEmo-LLM。该模型专注于情感计算与自然语言交互融合,致力于为AI玩具、智能陪伴设
    的头像 发表于 09-26 13:37 2117次阅读

    AI推理赋能效率革命,美格智能多领域落地打造行业范本

    产业进阶:AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgent的主要外在呈现和功能入口。随着
    的头像 发表于 08-25 17:06 4271次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b>AI推理赋能效率革命,美格<b class='flag-5'>智能</b>多领域落地打造行业范本

    华为CANN与智谱GLM模型完成适配

    已于7月28日正式开源其新一代基座模型GLM-4.5,其GLM模型已完成与CANN的适配。这标志着国产大模型与计算架构在
    的头像 发表于 08-11 11:00 2868次阅读

    模型迎来“轻”革命!移远通信 × RWKV 打造“轻量AI大脑”

    7月27日,移远通信宣布与RWKV公司建立全面合作关系,双方将依托移远的算平台,优化并支持RWKV最新模型架构,共同推动大模型设备的
    的头像 发表于 07-27 19:02 1210次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>迎来“轻”革命!移远通信 × RWKV 打造“轻量AI大脑”

    终于有人把模型说清楚了

    最近总听到"模型"这个词,感觉很高大上,但到底是什么意思?和我们平时用的ChatGPT、DeepSeek各种大模型有什么区别?今天就来彻底搞清楚这件事。1、为什么叫
    的头像 发表于 07-24 12:03 2714次阅读
    终于有人把<b class='flag-5'>端</b><b class='flag-5'>侧</b>大<b class='flag-5'>模型</b>说清楚了

    广和通加速通义千问Qwen3在全面落地

    6月,广和通宣布:率先完成通义千问Qwen3系列混合推理模型在高通QCS8550平台的适配部署。广和通通过定制化混合精度量化方案与创新硬
    的头像 发表于 06-25 15:35 1469次阅读

    面壁小钢炮模型MiniCPM4.0发布,智能更进一步

    版和0.5B最强小小钢炮。     李大海表示,面壁智能是第一个把全模态模型带到的公司。面壁智能小钢炮,旨在把大
    的头像 发表于 06-08 08:18 7598次阅读
    面壁小钢炮<b class='flag-5'>模型</b>MiniCPM4.0发布,<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>智能</b>更进一步