0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

MediaTek从芯片到应用全方位支持端侧AI

联发科技 来源:联发科技 2025-08-16 10:01 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

我们早已习惯打开 APP 或网站

就能用上各种 AI 功能

但你是否想过:如果哪天突然断网

这些基于云端的 AI 还能用吗?

为了建造一个真正让 AI 无处不在的智能世界

仅靠设备本地算力就能运行 AI 模型尤为重要

它们能在手机、汽车、家电中离线运行

让 AI 不止在云端,也可「落地」到你设备中

这就是端侧 AI(On-device AI)和边缘 AI(Edge AI)的区别

从芯片到应用 全方位支持端侧 AI

01. 芯片

更强大的 AI 算力

NPU 是专为神经网络设计的 AI 处理单元,可为各种 AI 任务提供更强大的算力支持。

MeidaTek第八代 AI 处理器——MediaTek NPU 890,作为智能体化 AI 引擎,可显著提升移动设备的 AI 的性能和能力,以满足全球千行百业对生成式 AI 和智能体 AI 运行大模型的需求。

MediaTek NPU 890 搭载的增强型推理解码技术(Enhanced SPD),可使端侧推理速度提升20%,并支持端侧离线运行 DeepSeek-R1-Distill(1.5B/7B/8B)模型。

MediaTek Kompanio Ultra 旗舰处理器内置第八代 NPU,AI 算力可达 50 TOPS(Tera Operations Per Second – 每秒万亿次操作),带来更强的边缘算力,能在终端离线提供快速、安全、高效率的 AI 运算处理能力。强悍 AI 芯片,无惧断网离线!

02. 模型

更轻便易用的本地 AI 大模型

作为推动 AI 进一步发展的先进技术,终端侧部署生成式 AI(端侧 AI)与云端部署生成式 AI 应用和服务相比,在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。

MediaTek 已与多家主流大模型厂商深度合作,在多款天玑旗舰移动平台上完成了大模型的端侧部署,即可实现在离线状态下即时、精准的多轮人机对话问答,并支持更多跨应用智能体化体验。此类合作改善了“软件适配难”“开发环境不完备”等诸多挑战,攻克大量底层适配及上层开发的系列技术及工程难题,真正把大模型“装进”手机芯片中,助力开发者们在未来创造出更多灵活、新奇、实用的 AI 应用。

03. 生态系统

更灵活多变的部署

AI 时代,智能早已不限于手机和电脑,更多终端设备如汽车、家电、路由器等,也统统想要「AI 一下」!

为帮助标准各异的设备高效部署 AI,MediaTek 推出并不断迭代NeuroPilot AI 开发工具,其中包括各类软件工具与 API 等。开发者可以通过NeuroPilot 简化的开发流程,高效完成 AI 模型的训练、优化到最终的部署,通过 MeidaTek 的芯片赋能汽车、物联网智能家居、个人电脑等设备,让 AI 功能更好、更快、直接地运行在各种终端上,加速 AI 生态进化。

如果 AI 都能被离线使用

你希望它能帮你做什么?

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53569

    浏览量

    459376
  • AI
    AI
    +关注

    关注

    89

    文章

    38184

    浏览量

    296971
  • Mediatek
    +关注

    关注

    0

    文章

    344

    浏览量

    24663

原文标题:断网后,你的 AI 还能用吗?

文章出处:【微信号:mtk1997,微信公众号:联发科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    瑞芯微发力AI,RK3588在汽车电子与机器人领域广泛应用

    电子发烧友网综合报道 近期,瑞芯微回应了诸多关于AI相关的问题。如,AI发展
    的头像 发表于 11-25 08:25 7908次阅读

    此芯科技发布“合一”AI加速计划,赋能边缘与AI创新

    产品组合,覆盖1.5B至32B参数规模的AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b>加速计划,赋能边缘与<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    【「AI芯片:科技探索与AGI愿景」阅读体验】+可期之变:AI硬件AI湿件

    想到,除了研究大脑的抽象数学模型外,能否抛弃传统的芯片实现方式,以化学物质和生物组件、材料及相关现象来构建人工神经网络或提取其功能来用于AI处理,甚至直接用生物体来实现AI功能,这就是
    发表于 09-06 19:12

    Wi-Fi7异构AI,博通集成智能突围

    且严苛的要求。他表示,用户的需求已不再局限于简单的指令响应,而是向着更自然、实时、个性化的AI交互迈进。对于硬件而言,实现连接、感知
    的头像 发表于 06-19 09:12 6458次阅读
    <b class='flag-5'>从</b>Wi-Fi7<b class='flag-5'>到</b>异构<b class='flag-5'>AI</b>,博通集成<b class='flag-5'>端</b><b class='flag-5'>侧</b>智能突围

    AI 芯片:终端智能落地的核心引擎

    电子发烧友网报道(文 / 李弯弯) AI 芯片,是专门为在诸如智能手机、IoT 设备、自动驾驶汽车等终端设备上,高效运行人工智能算法而设计的处理器。通过硬件级优化,它们能够实现低功
    的头像 发表于 04-14 02:11 4024次阅读

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    AI巨头强强联手,势必为智能体化AI体验时代按下超级加速键。 AI终端的下一步是“普适智能”,而不是“极限性能”。联发科凭借天玑9400+强悍的
    发表于 04-13 19:52

    AI应用——“后DeepSeek时代”产业机遇分析

    ,面向行业进一步释放 " AI 应用" 的确定性机遇,推动“后DeepSeek时代” PC生产力边界实现跨越式拓展。 搭载AMD锐龙AI处理器的Windows 11
    的头像 发表于 03-26 17:34 687次阅读

    两大芯片厂商比拼AI音频芯片,高算力蓝牙6.0成亮点

    (电子发烧友网综合报道)随着人工智能技术的飞速发展,AI芯片作为其核心硬件支撑,正逐渐云端向拓展。
    的头像 发表于 03-24 08:51 2785次阅读

    AI 音频处理器:集成音频处理与 AI 计算能力的创新芯片

    电子发烧友网综合报道: AI 音频处理器是专为智能物联网(AIoT)设备设计,集成了人工智能(A
    的头像 发表于 02-16 00:13 3086次阅读

    广和通Fibocom AI Stack:加速AI部署新纪元

    、海量模型以及全方位支持与服务于一体,为智能设备提供了AI解决方案。为适应多样化的
    的头像 发表于 01-13 11:32 1431次阅读

    广和通CES 2025发布Fibocom AI Stack,赋能千行百业应用

    千行百业的智能化转型提供强有力的支持。 Fibocom AI Stack集成了高性能模组、AI工具链、高性能推理引擎、海量模型以及全方位支持
    的头像 发表于 01-08 15:18 1127次阅读

    广和通发布Fibocom AI Stack,助力客户快速实现跨平台跨系统的AI部署

    AI工具链、高性能推理引擎、海量模型、支持与服务一体化的AI解决方案,帮助智能设备快速实现AI
    发表于 01-08 11:38 476次阅读
    广和通发布Fibocom <b class='flag-5'>AI</b> Stack,助力客户快速实现跨平台跨系统的<b class='flag-5'>端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>部署

    中信建投建议关注AI模组机会

    析,OpenAI在其“连续12天直播发布”的第5天宣布,支持Apple Intelligence的苹果设备现已能够开启ChatGPT功能。这一消息不仅显示了AI技术在消费级市场的广泛应用潜力,也预示着
    的头像 发表于 12-17 14:05 926次阅读

    炬芯科技发布ATS323X系列AI音频芯片

    刚过去不久,炬芯科技宣布全新一代基于模数混合SRAM存内计算(Mixed-mode SRAM based CIM,简称“MMSCIM”)技术的AI音频芯片正式发布,紧接着,炬芯科技
    的头像 发表于 12-12 14:58 1685次阅读

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算力越来越高、模型能力越来越强、实时响应及隐私保护的应用需求增
    的头像 发表于 12-12 10:35 1297次阅读