0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

MediaTek从芯片到应用全方位支持端侧AI

联发科技 来源:联发科技 2025-08-16 10:01 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

我们早已习惯打开 APP 或网站

就能用上各种 AI 功能

但你是否想过:如果哪天突然断网

这些基于云端的 AI 还能用吗?

为了建造一个真正让 AI 无处不在的智能世界

仅靠设备本地算力就能运行 AI 模型尤为重要

它们能在手机、汽车、家电中离线运行

让 AI 不止在云端,也可「落地」到你设备中

这就是端侧 AI(On-device AI)和边缘 AI(Edge AI)的区别

从芯片到应用 全方位支持端侧 AI

01. 芯片

更强大的 AI 算力

NPU 是专为神经网络设计的 AI 处理单元,可为各种 AI 任务提供更强大的算力支持。

MeidaTek第八代 AI 处理器——MediaTek NPU 890,作为智能体化 AI 引擎,可显著提升移动设备的 AI 的性能和能力,以满足全球千行百业对生成式 AI 和智能体 AI 运行大模型的需求。

MediaTek NPU 890 搭载的增强型推理解码技术(Enhanced SPD),可使端侧推理速度提升20%,并支持端侧离线运行 DeepSeek-R1-Distill(1.5B/7B/8B)模型。

MediaTek Kompanio Ultra 旗舰处理器内置第八代 NPU,AI 算力可达 50 TOPS(Tera Operations Per Second – 每秒万亿次操作),带来更强的边缘算力,能在终端离线提供快速、安全、高效率的 AI 运算处理能力。强悍 AI 芯片,无惧断网离线!

02. 模型

更轻便易用的本地 AI 大模型

作为推动 AI 进一步发展的先进技术,终端侧部署生成式 AI(端侧 AI)与云端部署生成式 AI 应用和服务相比,在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。

MediaTek 已与多家主流大模型厂商深度合作,在多款天玑旗舰移动平台上完成了大模型的端侧部署,即可实现在离线状态下即时、精准的多轮人机对话问答,并支持更多跨应用智能体化体验。此类合作改善了“软件适配难”“开发环境不完备”等诸多挑战,攻克大量底层适配及上层开发的系列技术及工程难题,真正把大模型“装进”手机芯片中,助力开发者们在未来创造出更多灵活、新奇、实用的 AI 应用。

03. 生态系统

更灵活多变的部署

AI 时代,智能早已不限于手机和电脑,更多终端设备如汽车、家电、路由器等,也统统想要「AI 一下」!

为帮助标准各异的设备高效部署 AI,MediaTek 推出并不断迭代NeuroPilot AI 开发工具,其中包括各类软件工具与 API 等。开发者可以通过NeuroPilot 简化的开发流程,高效完成 AI 模型的训练、优化到最终的部署,通过 MeidaTek 的芯片赋能汽车、物联网智能家居、个人电脑等设备,让 AI 功能更好、更快、直接地运行在各种终端上,加速 AI 生态进化。

如果 AI 都能被离线使用

你希望它能帮你做什么?

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54440

    浏览量

    469414
  • AI
    AI
    +关注

    关注

    91

    文章

    41156

    浏览量

    302617
  • Mediatek
    +关注

    关注

    0

    文章

    369

    浏览量

    25249

原文标题:断网后,你的 AI 还能用吗?

文章出处:【微信号:mtk1997,微信公众号:联发科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    MediaTek CITE 2026精彩回顾

    在本届中国电子信息博览会 MediaTek 展区,首先映入眼帘的是 MediaTek 天玑 9500 旗舰 5G 智能体 AI 芯片,其采用了先进的第三代 3 纳米制程,集成了强力焕新
    的头像 发表于 04-14 10:54 424次阅读

    AI进入爆发期,江波龙“集成存储”引领AI PC/手机、可穿戴存储创新

    DeepSeek AI推理大模型今年爆火的OpenClaw AI智能体,
    的头像 发表于 04-01 10:06 5060次阅读
    <b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>进入爆发期,江波龙“集成存储”引领<b class='flag-5'>AI</b> PC/手机、可穿戴存储创新

    AI成就美好生活|天数智算AI智能体,打造端全域智能解决方案​

    的精准感知云端的全域协同,硬件的多元落地应用的全场景覆盖,天数智算
    的头像 发表于 03-17 11:20 681次阅读
    让<b class='flag-5'>AI</b>成就美好生活|天数智算<b class='flag-5'>AI</b>智能体,打造端<b class='flag-5'>到</b><b class='flag-5'>端</b>全域智能解决方案​

    MediaTek携手FightCamp打造新型AI拳击训练健身主机

    当拳击运动遇上端 AI,一场关于速度、精准与沉浸感的健身体验变革正悄然发生,MediaTek 携手 FightCamp释放 MediaTek Genio 350 智能物联网
    的头像 发表于 02-28 14:54 791次阅读

    MediaTek Genio平台推动AI在零售场景中规模化落地

    智能货架和预测式补货,自适应数字标牌和基于自然语言的客户互动, AI 正在推动零售被动
    的头像 发表于 02-10 15:23 577次阅读

    借助谷歌LiteRT构建下一代高性能AI

    自 2024 年 LiteRT 问世以来,我们一直致力于将机器学习技术栈其 TensorFlow Lite (TFLite) 基础之上演进为一个现代化的 AI (On-Devic
    的头像 发表于 01-30 11:23 3258次阅读
    借助谷歌LiteRT构建下一代高性能<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>

    大模型上车:“语音助手”“车内 AI 智能体”的跃迁革命

    生活空间”的可能性。当7B级大模型在车规级芯片上流畅运行,当多模态交互(语音+视觉+传感)成为标配,车载助手已从“被动响应”升级为“主动决策”,成为车内真正的“数字大脑”。这场由大模型驱动的变革,正推动主机厂将“
    的头像 发表于 01-13 09:10 701次阅读

    探索TLE4999线性霍尔评估套件:硬件软件的全方位解析

    探索TLE4999线性霍尔评估套件:硬件软件的全方位解析 在电子工程师的日常工作中,评估套件是验证和开发传感器应用的重要工具。今天,我们就来深入探讨一下TLE4999线性霍尔评估套件,
    的头像 发表于 12-18 15:45 855次阅读

    这家AI芯片企业冲刺港股IPO,AI Scaler全面出货3700万颗

    电子发烧友网报道(文/李弯弯) 算力提升与多模态交互普及,使终端设备对智能显示与感控芯片性能要求更高。显示芯片要增强信号解析与图像渲染,满足AI
    的头像 发表于 12-17 08:36 8609次阅读
    这家<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>企业冲刺港股IPO,<b class='flag-5'>AI</b> Scaler全面出货3700万颗

    自研AI芯片?京东高薪招人

    电子发烧友网综合报道 近日消息,京东正招募AI芯片领域人才。京东此次的招聘方向主要集中在存算一体AI
    的头像 发表于 12-16 08:48 5472次阅读
    自研<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>?京东高薪招人

    高算力、低功耗!下一代AI芯片排队进场

    电子发烧友网报道(文/李弯弯)随着人工智能技术的飞速发展,AI正成为推动智能硬件变革的核心动力。在汽车、机器人、AI眼镜、可穿戴设备等多个领域,具备本地化大模型处理能力的
    的头像 发表于 12-12 08:58 9953次阅读

    瑞芯微发力AI,RK3588在汽车电子与机器人领域广泛应用

    电子发烧友网综合报道 近期,瑞芯微回应了诸多关于AI相关的问题。如,AI发展
    的头像 发表于 11-25 08:25 8679次阅读

    此芯科技发布“合一”AI加速计划,赋能边缘与AI创新

    产品组合,覆盖1.5B至32B参数规模的AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b>加速计划,赋能边缘与<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    【「AI芯片:科技探索与AGI愿景」阅读体验】+可期之变:AI硬件AI湿件

    想到,除了研究大脑的抽象数学模型外,能否抛弃传统的芯片实现方式,以化学物质和生物组件、材料及相关现象来构建人工神经网络或提取其功能来用于AI处理,甚至直接用生物体来实现AI功能,这就是
    发表于 09-06 19:12

    Wi-Fi7异构AI,博通集成智能突围

    且严苛的要求。他表示,用户的需求已不再局限于简单的指令响应,而是向着更自然、实时、个性化的AI交互迈进。对于硬件而言,实现连接、感知
    的头像 发表于 06-19 09:12 7110次阅读
    <b class='flag-5'>从</b>Wi-Fi7<b class='flag-5'>到</b>异构<b class='flag-5'>AI</b>,博通集成<b class='flag-5'>端</b><b class='flag-5'>侧</b>智能突围