0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

联发科创新技术加速AI生态布局,天玑9300重新定义AI移动体验

科技快报 来源:科技快报 作者:科技快报 2023-11-10 14:37 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

全新一代的旗舰级5G生成式AI移动芯片天玑9300已由联发科发布,其独特的全大核架构设计,结合新一代AI处理器APU和联发科的先进技术,为生成式AI应用提供强劲的性能,给用户带来精彩纷呈的生成式AI体验。此外,联发科还与众多AI公司进行深度合作,共同构建了在移动环境中的AI生态。

wKgaomVNz7WAAUPXAAQ3TenYVuU999.png

全新第七代AI处理器APU 790,为生成式AI而生

随着用户对生成式AI应用需求日益增长,端侧生成式AI便捷、安全性等优势便凸显出来。当然,部署端侧AI大语言模型需要强大的AI算力支撑。

天玑9300搭载联发科第七代AI处理器APU 790,为生成式AI而设计,拥有硬件级的生成式AI引擎,可以实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,速度是上一代的8倍。

wKgZomVNz7WAdfNmAACAKjC3qno56.jpeg

同时APU 790的性能和能效得到显著提升,整数运算和浮点运算能力提升至前一代的2倍,苏黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109 分,AI性能成功霸榜,功耗更是降低了45%。在强大的AI性能支持下,1秒以内即可生成图片。天玑9300强悍的AI算力、创新的全大核CPU架构和Immortalis-G720 GPU都为端侧运行生成式AI打下坚实的性能基础。

wKgaomVNz7WAb2tCAADeRBHfMik368.png

同时,基于亿级参数大语言模型的特性,联发科开发了混合精度 INT4 量化技术,结合联发科特有的内存硬件压缩技术NeuroPilot Compression,可以更高效地利用内存带宽,大幅减少AI大模型占用终端内存,为端侧运行AI大语言模型突破手机内存限制,助力更大参数模型在端侧落地。

基于以上,天玑9300首次在vivo旗舰手机端侧落地70亿参数AI大语言模型,处理速度可达20 Tokens每秒。不仅如此,联发科突破了行业极限,已经与vivo成功在端侧运行了130亿参数的大语言模型。甚至,天玑9300已率先实现在移动芯片上成功运行330亿参数的AI大语言模型,领跑业界。

wKgZomVNz7aADOArAAPPtwbJuWc067.png

天玑9300还支持多模态生成式AI大模型,打造出“文生诗”“文生图”“文生趣图”等丰富有趣的端侧体验。

wKgaomVNz7aAKzI3AAGaCv5Plyo389.png

可见,天玑9300的AI算力和端侧生成式AI能力已领先行业,足以让用户随时随地AI创造力全飙。

生成式AI模型端侧技能扩充,带来全面、丰富的端侧生成式AI体验

与云侧生成式AI解决方案不同,由于硬件环境的差异,部署端侧生成式AI也需要考虑手机内存、存储容量、负载上限等因素。为此,联发科率先提出了先进的解决方案。

APU 790 支持生成式AI模型端侧技能扩充技术NeuroPilot Fusion,它可以基于基础大模型持续在端侧进行低秩自适应(LoRA,Low-Rank Adaptation)融合,在混合式AI的赋能下,可以基于1个基础大模型,通过云端训练,在端侧完成N个功能的融合,赋予基础大模型更全面、更丰富的生成式AI应用能力。

wKgZomVNz7aAKSZYAABaWKSYnzQ697.png

比如基于AI模型端侧技能扩充技术的“图生GIF动图”功能,用户可以根据一张照片更换不同的风格甚至表情,玩出个人专属风格的表情包,秒变表情包小达人。

wKgaomVNz7eALNt1AACRrudsS3I35.jpeg

AI开发平台NeuroPilot加速端侧生成式AI生态布局

基于强大的AI算力和先进的内存硬件压缩技术、AI模型端侧技能扩充等技术,天玑9300的APU 790将端侧生成式AI的速度和广度提升到了全新的水平。同时,为加速生成式AI在端侧部署和普及,联发科也凭借其AI开发平台NeuroPilot构建了丰富的AI生态,从底层硬件到工具链、模型中心以及开发生态,助力生态快速、高效地部署端侧生成式AI应用。

wKgZomVNz7eAJrk7AAFtyqnYvf411.jpeg

AI开发平台NeuroPilot支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

wKgaomVNz7eAat6bAAA8z6By0Gs601.png

更为重要的是,NeuroPilot拥有一套完整且先进的工具链,除了NeuroPilot Compression低秩自适应融合,还有Speculative Decoding推测解码加速和模型优化与转化技术。

wKgZomVNz7eAIcNqAADSWumX36o81.jpeg

联发科的天玑开发者中心还可提供端侧生成式AI落地一站式开发者资源,分享端侧模型部署案例提升开发效率。目前已有20多个生成式AI合作伙伴加入生态共建。

联发科还携手业界合同伙伴打造精彩的生成式AI应用体验。虹软的生成式AI超级分辨率技术基于天玑9300 APU 边缘计算能力,相比前代,性能可提升30%。在25倍放大的拍摄时,利用生成式AI超级分辨率技术,可以拍出细节更真实的图像效果。

wKgaomVNz7iANVhKAABQdQkk4sE535.png

极感科技的生成式AI语意搜索技术也基于天玑9300 APU边缘计算能力,对比前代,性能可提升260%。比如在手机的相册中搜索照片,描述照片的内容即可在毫秒内精准搜到对应的照片。而且在断网状态下也能搜索,隐私也不会泄露。

Morpho的视频通话实时数字分身生成技术,同样基于天玑9300 APU边缘计算能力,对比前代,性能提升26%。一般的虚拟人像生成器需手动选取容貌样式花费时间。但基于视频通话实时数字分身生成技术,用户操作容易,仅需打开摄像头单帧图片即可瞬间生成数字分身。

基于天玑9300 APU边缘计算能力,慧鲤生成式AI防眩光技术性能可提升60%。在此技术加持下,无论是室外还是室内,在拍摄时如有眩光,只要轻松一暗即可消除眩光干扰。

可以看到,在AI端云融合的趋势下,天玑9300在AI算力、生成式AI用户体验和生态方面展现出全面的优势,为新一代旗舰级端侧生成式AI体验树立了新的标杆,强大生成式AI就要用天玑。

wKgZomVNz76AckBEAAQBOXjl-Yk662.png

与此同时,以联发科为典型的生成式AI领先者们正携手并进,通过不间断的技术创新和周全的生态布局来推进混合式AI计算,为端侧生成式AI部署找出一条独特且高效的道路,全力以赴的推广生成式AI在端侧应用,旨在让更多普通用户享受到个性化的端侧AI体验,进而构建出全场景智能新体验,让科技的益处触及更大的民众。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 手机
    +关注

    关注

    36

    文章

    6980

    浏览量

    160655
  • AI
    AI
    +关注

    关注

    89

    文章

    38120

    浏览量

    296661
  • 天玑9000
    +关注

    关注

    1

    文章

    47

    浏览量

    4874
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Q3营收优于预期!9500和卫星芯片强势布局AI+通信”新赛道

    、BE3600Wi-Fi7模组等多款产品集体亮相,同时中国移动科技在6G领域的最新合作进展也有展示。 图:9500 电子发烧友拍摄
    的头像 发表于 10-12 05:21 9151次阅读
    <b class='flag-5'>联</b><b class='flag-5'>发</b><b class='flag-5'>科</b>Q3营收优于预期!<b class='flag-5'>天</b><b class='flag-5'>玑</b>9500和卫星芯片强势<b class='flag-5'>布局</b>“<b class='flag-5'>AI</b>+通信”新赛道

    首发端侧4K生图!单核性能追平苹果A19,重磅发布9500

    9月22日,科技正式发布了智能手机旗舰级芯片9500,首发了ARM全新非凡架构。“9
    的头像 发表于 09-22 21:53 8363次阅读
    首发端侧4K生图!单核性能追平苹果A19,<b class='flag-5'>联</b><b class='flag-5'>发</b><b class='flag-5'>科</b>重磅发布<b class='flag-5'>天</b><b class='flag-5'>玑</b>9500

    野心不小,9500 AI算力直接翻倍

    最近看到9500的爆料,AI性能提升挺惊喜的。尤其是说用了新的“存算一体”架构,不仅快还省电,听起来真的有用。厂商今年的AI新功能感觉会更靠谱了。 近几年,旗舰芯片的
    的头像 发表于 08-20 13:33 739次阅读
    <b class='flag-5'>联</b><b class='flag-5'>发</b><b class='flag-5'>科</b>野心不小,<b class='flag-5'>天</b><b class='flag-5'>玑</b>9500 <b class='flag-5'>AI</b>算力直接翻倍

    NVIDIA携手微软加速代理式AI发展

    代理式 AI 正在重新定义科学探索,推动各行各业的研究突破和创新发展。NVIDIA 和微软正通过深化合作提供先进的技术,从云到 PC 加速
    的头像 发表于 05-27 14:03 760次阅读

    ​​广和通发布5G AI MiFi 解决方案,重新定义AI万物

    4月25日,广和通发布5G AI MiFi 解决方案,深度融合5G通信与AI语音技术,是一款便携式移动热点设备。该解决方案的推出不仅标志着广和通在智能终端领域的又一突破性
    发表于 05-21 17:11 1175次阅读
    ​​广和通发布5G <b class='flag-5'>AI</b> MiFi 解决方案,<b class='flag-5'>重新定义</b><b class='flag-5'>AI</b>智<b class='flag-5'>联</b>万物

    MediaTek9400率先完成阿里Qwen3模型部署

    AI 技术浪潮加速千行百业发展的进程中,MediaTek 持续领航产业前沿,携手全球生态伙伴深化协同创新,以开放共赢的理念推动
    的头像 发表于 05-08 10:11 941次阅读

    Dimensity Profiler 重构Android开发效率体系

    4月11日的深圳,开发者大会2025火力全开,现场真的是一个“AI+游戏控的天堂”。大会主题“AI随芯,应用无界”听起来很技术,但看完才
    的头像 发表于 04-14 14:56 628次阅读
    <b class='flag-5'>联</b><b class='flag-5'>发</b><b class='flag-5'>科</b>Dimensity Profiler 重构Android开发效率体系

    首创开源架构,AI开发套件让端侧AI模型接入得心应手

    倍,可见天AI开发者解决方案已经被开发者高度认可,AI生态圈正在飞速成长起来。
    发表于 04-13 19:52

    硅基觉醒已至前夜,携手生态加速智能体化用户体验时代到来

    ,大幅节省模型分析时间。 为加速实现智能体化用户体验愿景,还在会上为开发者带来了全新升级后的AI应用开发武器库——
    发表于 04-13 19:51

    TCL携手INDEMIND重新定义家庭AI交互边界

    与INDEMIND联合打造的创新产品,不仅重新定义了家庭陪伴方式,更通过全场景视觉感知技术助力机器人实现从"功能执行"到"情感共生"的跨越式突破。
    的头像 发表于 03-25 13:32 1030次阅读

    官宣!开发者大会2025定档4月11日

    近日,开发者大会 2025 官宣定档4 月 11 日! 作为 2025 AI 领域的开
    的头像 发表于 03-14 14:08 1035次阅读

    MediaTek发布7400和6400移动芯片

    的游戏和 AI 相机技术 6400 可提供物有所值的出色性能和增强的 5G 功能。继
    的头像 发表于 02-25 17:34 3007次阅读

    AI跑分超8000,9400凭实力碾压一众旗舰芯片

    近两年, AI手机端侧AI应用和AI体验开始进入“超级加速”的时期,层出不穷的技术创新背后其实更离不开手机芯片的核心支持。在这股浪潮中,
    的头像 发表于 01-10 12:40 1451次阅读
    <b class='flag-5'>AI</b>跑分超8000,<b class='flag-5'>天</b><b class='flag-5'>玑</b>9400凭实力碾压一众旗舰芯片

    调整天9500芯片制造工艺

    近日,据外媒最新报道,正在积极筹备下一代旗舰级芯片——9500,并计划在今年末至明年初正式推出这款备受期待的芯片。 原本,
    的头像 发表于 01-06 13:48 1051次阅读

    9400拿下AI性能榜冠军,最强NPU引领手机AI应用变革

    近两年, AI手机端侧AI应用和AI体验开始进入“超级加速”的时期,层出不穷的技术创新背后其实更离不开手机芯片的核心支持。在这股浪潮中,
    的头像 发表于 12-30 20:09 1111次阅读
    <b class='flag-5'>天</b><b class='flag-5'>玑</b> 9400拿下<b class='flag-5'>AI</b>性能榜冠军,最强NPU引领手机<b class='flag-5'>AI</b>应用变革