0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

骁龙证明自己成为面向生成式AI的首选平台

科技数码 来源:科技数码 作者:科技数码 2023-11-09 14:17 次阅读

高通用一年一度的一场技术峰会,为其AI战略做了专题展示。

10月25日,高通在骁龙峰会上一举推出包括智能手机5G SoC和支持Windows 11的新一代旗舰PC芯片在内的AI技术平台。

从高通CEO安蒙在骁龙峰会上的主题演讲内容、措辞和介绍的旗舰芯片技术特性侧重点,可以看出,高通将AI作为战略核心,布局既久又广,且已形成相对完整的行业生态。

一般来说,供应链核心技术公司推出某项技术后,头部终端公司会迅速跟进,以迭代相应的C端应用。

“明年手机行业技术创新关键词估计是‘端侧AI’。”一位国内智能手机终端公司高管和华尔街见闻说。

11月1日,vivo推出端侧AI大模型“蓝心大模型”;小米也在此前不久推出的小米澎湃OS系统植入AI大模型,实现端侧AI技术落地;荣耀CEO赵明也在骁龙峰会上宣布,荣耀Magic6会支持端侧AI大模型。

在PC方面,联想于10月26日推出首款AI PC。联想集团董事长兼CEO杨元庆对华尔街见闻说,“AI PC预计将于2024年四季度落地。”

站在生成式AI技术、应用和供应链上下游关系的角度,看这场终端公司集体行为,不难发现,这正是高通长期以来推进终端侧AI以及5G+AI生态布局的结果映射。

当AI大模型跑上终端,当智能触手可及,移动计算行业新一轮的创新周期也在就此拉开,而骁龙也在不断证明自己有能力成为面向生成式AI的首选平台。

AI为手机终端注入新动力

旗舰智能手机SoC平台,一直是骁龙峰会的绝对主角。

此次发布的5G旗舰SoC平台——骁龙8 Gen 3(第三代骁龙8),与以往稍有不同:这是高通首颗生成式AI移动旗舰芯片,被高通冠以“终端侧AI集大成者”标签,通过生成式AI再次树立了旗舰芯片平台性能新标杆。

AI何以如此重要?

高通公司CEO安蒙说,“我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势,未来骁龙赋能的生成式AI体验将无处不在。”

wKgZomVMeWyADm2gAAuDOg_dgdE601.png

“第三代骁龙8将高性能AI注入整个平台系统,给消费者带来顶级性能和非凡体验。”高通技术公司高级副总裁兼手机业务总经理Chris Patrick说,“该平台将开启生成式AI的新时代——赋能用户创作独特内容、帮助生产力提升,并实现其他突破性的用例。”

本代骁龙移动SoC 5G旗舰芯片,与此前骁龙8 Gen 2一样,也是台积电4nm制程工艺,为高通转投台积电后的第二颗大迭代版本芯片。因此,骁龙8 Gen 2出色的功耗控制特性,也得以延续。

虽然高通在技术峰会上,没有详细介绍骁龙8 Gen 3的结构,但据公开报道,其采用了1+5+2的全新CPU三丛集架构:1颗主频为3.3GHz的Cortex-X4大核处理器;5颗A720处理器中,有3颗频率为3.2GHz,2颗是3.0GHz频率,以及2颗频率为2.3GHz的A520处理器。

基于Kryo 64位架构,骁龙8 Gen 3的CPU性能,比前代产品提高30%。性能提升幅度如此显著,能效竟然还能提升20%,可见高通的设计水平。

骁龙8 Gen 3的GPUAdreno 750,性能提升25%,能效提高20%;支持硬件光线追踪技术,光追性能提升高达40%,降低智能移动终端10%的功耗,支持高达240 FPS(每秒传输帧数:Frame Per Second)的高帧率游戏。

骁龙8 Gen 3最显著的技术特性,并不是其CPU和GPU的性能提升和能耗控制,而是,这是高通首个专为生成式AI(AIGC:Artificial Intelligence Generated Content)而研发的移动平台。

所谓生成式AI,简单说,就是在智能移动终端上,也能运行AI大模型。

基于NPU,通过训练大规模的数据集,学习抽象出数据的本质规律,再利用生成模型,形成全新的真实数据。这种数据可能是文本,或图像,也可能是音视频。这种新技术,能给移动终端用户带来前所未有的新体验。

骁龙8 Gen 3 AI能力的发挥主要依靠高通AI引擎,当然其中硬件层面最核心的部分就是 Hexagon NPU。Hexagon一直被高通赋予专门的AI计算能耗控制和性能担当。与前代平台相比,本代旗舰平台的Hexagon处理器推理速度提升98%,能效提升40%。

生成式AI带来的新体验的丰富性,与移动平台能生成多少新数据有关。目前,骁龙8 Gen 3能支持运行超过100亿个参数的大模型;若面向70亿参数大语言模型,能做到每秒生成20个Token。这个平台技术之强悍,支持在1秒内,通过Stable Diffusion,即可生成1张图片。

就体验端来说,高通举例,这些AI能力,支持用户在拍摄视频过程中,擦除不需要的对象,也能同时生成/切换实时视频中的背景。可以预见,用搭载高通骁龙8 Gen 3的手机用户,在朋友圈假日秀视频,可以足不出户,“游览”天下,并做出分享。

AI PC技术平台催生新行业

虽然旗舰智能手机芯片一直是传统重点,但此次骁龙峰会的风头却似乎被骁龙X Elite——高通专为AI PC研发的、基于Arm架构的新计算平台抢了去。

wKgaomVMeW2AXvCwABlNGzp0SSc003.png

这并不是高通推出的首款基于Arm架构的PC芯片。2018年,高通发布第一代Arm PC芯片骁龙8CX。

骁龙X Elite采用全新结构设计,集成Oryon CPU、Adreno GPU和Hexagon NPU,在具备优异性能和能耗控制的同时,更显著的特点是AI特性出色,其采用4nm工艺制程。

这颗芯片搭载的高通AI引擎,既有通用CPU和GPU硬件加速单元,另外还配置了一颗专为高算力AI工作负载设计的高性能AI硬件加速单元——Hexagon处理器。

出于对PC本身作为计算平台的使用场景考虑,骁龙X Elite也集成了独立的Sensing Hub。这个Hub包含Micro NPU、ISP、DSP和独立内存单元。

这就是说,这颗芯片能不依赖CPU,直接执行更多的AI计算任务,还能有效降低产品本身的功耗。包括这些模块的集成式结构,共同构成一整套异构计算系统,以此充分释放高通AI引擎的AI加速能力。

据高通披露,这颗PC AI芯片的处理速度是x86竞品的4.5倍;凭此性能,骁龙X Elite支持在端侧运行超过130亿参数的生成式AI模型,可以实现每秒生成30个token。

从技术角度看,大型语言模型(LLM)有三要素,即算力、算法和数据。这三者的相互关系是,算力强弱,决定算法效率,而算法又决定数据有效性;反过来,数据是训练算法的要件,能决定AI学到的知识量。

骁龙X Elite的AI算力如何?据高通披露,高通AI引擎的算力达到75TOPS。其中,高通Hexagon NPU提供的算力为45TOPS。

骁龙X Elite的Oryon CPU内核,由高通2021年初收购的Nuvia公司研发:拥有12个高性能内核(3个集群,每个集群包括4个核心),最高主频3.8GHz;内存最高支持LPDDR5x 8533MT/s的规格,最大64GB,8通道,带宽136GB/s。

高通称,这颗芯片的CPU和GPU性能是同级x86架构竞品的两倍,实现相同性能能耗还降低了70%。

高通技术公司高级副总裁兼计算与游戏业务总经理Kedar Kondap表示,“骁龙X Elite标志着计算技术创新的巨大飞跃,全新定制的高通Oryon CPU性能强悍,将为消费者带来惊人的能效,并将创造力和生产力提升至全新水平。强大的终端侧AI将支持无缝的多任务处理和全新的直观用户体验,赋能消费者和企业的创作和发展。”

高通认为,AI正在改变人们与PC的交互方式。骁龙X Elite旨在支持未来的高负载智能任务,赋能生产力、创造力和无处不在的沉浸式娱乐体验。高通预计,搭载骁龙X Elite的PC将于2024年中面市。

联想集团董事长兼CEO杨元庆对华尔街见闻说,“AI PC预计将于2024年四季度大规模落地。这是一种全新的技术产品。”联想于今年10月26日推出首款AI PC。

好体验:技术底座生态造

高通极具竞争力的技术,真正的指向,并不仅限于性能和AI侧重,高通有着更多的体系化考量。这既是应用高通技术带来的优异体验真正的源泉,也是高通在未来整合生态力量的隐形战略。

这究竟是什么?

高通推出了全新的跨平台技术“Snapdragon Seamless”,这是一项极具野心的整合技术。在骁龙峰会上,这项技术并没有被着重解释,但其战略意义或许比推出AI PC芯片更强。正所谓,“字越少,事越大”。

wKgZomVMeW6APmSiABAAzj69nr4270.png

Snapdragon Seamless具有整合这些搭载高通AI技术平台的多品牌终端能力:实现多台终端跨多个操作系统(如Android、Windows和其他操作系统)无缝连接,以及共享外设(成为事实上的分布式终端系统)和数据。

目前,包括微软、Android、小米、华硕、荣耀、联想和OPPO在内的公司,正与高通合作,联合创建Snapdragon Seamless赋能的多终端体验。这项技术,最早将于今年在全球范围发布的终端平台上落地。

这相当于高通从两方面推动AI在包括手机、PC在内的终端侧落地——

首先是为下游终端公司提供高性能AI算力平台,比如骁龙X Elite和骁龙8 Gen 3;其次,搭建“朋友圈”(生态体系),通过新技术打通跨终端、跨品牌和跨操作系统的无缝连接,将之以技术手段整合成一个更广泛的、能共享外设和数据的巨型终端系统。

从体验端看,这套巨型终端系统,产生的实际应用前景,能和苹果推出iPhone带来的革命性的新交互方式,催生出无与伦比的全新体验、进而产生全新行业相媲美。

从2007年1月9日苹果公司创始人、CEO史蒂夫·乔布斯发布初代iPhone至今,以智能手机为核心的智能终端,因缺乏技术创新,在近几年进入存量市场阶段。

2022年12月,OpenAI推出现象级产品“ChatGPT”,生成式AI商业化的应用前景,再现曙光。

由此,新一代生成式AI技术被寄予在智能终端上得以结合,出现新的交互方式和全新体验之厚望,并有望带动行业新一轮增长。这种趋势,目前看起来无比清晰。

对于未来的全新可能和趋势,一些行业巨头常能提前洞察,并做出相应布局。比如1987年,张忠谋力排众议,成立台积电,开创了专业晶圆代工行业。在事后看来,这是一个极具前瞻洞察特性的战略布局。

对于AI技术与行业未来发展的关系,高通显然也早有认知并做了“张忠谋式”的长期布局。就华尔街见闻长期观察发现,AI尤其是终端侧AI是高通公司目前的战略重点;但高通构建AI生态版图,却已长达15年。

最能说明高通对AI和智能终端关系的认识,可以从今年年中高通发布的AI白皮书中看到:高通认为未来的AI将会是混合架构,既需要云,也需要数十亿能以低功耗做高性能AI运算的网联终端。

事实上,生成式AI、大语言模型(LLM)带来了灯塔式指引。但是,AI要真正落地,离不开硬件和设备的负载;而高通长期努力的方向就是提供高速、低功耗的AI计算平台,为行业提供技术底座。

站在高通提供的“技术地基”之上,从产业链关系看,高通居于终端公司上游。作为下游,例如联想,杨元庆认为,“未来的PC将是AI PC,未来的手机将是AI手机,未来的工作站将是AI工作站。智能设备是用户的数字延伸,如同用户的双胞胎,我们称之为‘个人AI双胞胎’。”

例如荣耀、小米和vivo等终端手机厂商,都在近期“集体”宣布了各自的端侧AI模型落地的应用和系统布局进展。

正所谓“其来也渐,其入也深”,生成式AI对新行业、新体验影响之深远,难以事前测度:技术并非瞬间即来,一蹴而就,而是在不知不觉间,不为人知地或快或慢,逐渐成型。最终,成为全新交互方式和应用体验的技术催化。

事实证明,一如高通这样的行业技术巨头,对于AI应用需求和带来的可能的变化之洞察,并以此提前做出相应的生态布局,正在开出极为绚烂的AI之花。

(本文转自华尔街见闻公众号)

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26485

    浏览量

    264112
  • 骁龙
    +关注

    关注

    2

    文章

    910

    浏览量

    36394
收藏 人收藏

    评论

    相关推荐

    Arm平台赋能移动端生成AI

    生成式人工智能 (Generative AI) 涵盖了当下广为人知,且备受关注的大语言模型 (LLM),如今也已落地边缘侧的移动设备。
    的头像 发表于 04-26 11:09 334次阅读

    NVIDIA推出生成AI微服务,供开发者在CUDA GPU系统中创建部署生成AI助手

    NVIDIA 于今日推出数十项企业级生成AI 微服务,企业可以利用这些微服务在自己平台上创建和部署定制应用,同时保留对知识产权的完整所有权和控制权。
    的头像 发表于 03-20 09:56 262次阅读

    英伟达将推出生成AI专业认证

    在人工智能日益成为技术发展的核心领域的今天,英伟达在近日举行的GTC大会上将推出生成AI专业认证。这一创新举措旨在帮助开发者、职场人士以及其他相关人员更好地证明和展示
    的头像 发表于 03-19 11:44 423次阅读

    AMD以技术赋能生成AI算力解决方案

    如今,AI是一个非常热门的话题,人工智能也是AMD未来发展的重中之重,AMD正把AI贯穿所有产品线,从数据中心的大规模训练与推理解决方案,到面向消费者的PC及游戏体验,到嵌入式智能终端。针对
    的头像 发表于 12-12 11:24 525次阅读

    MCU在线技术讲座-EFM和EFR: 面向物联网开发的通用MCU平台

    : 面向物联网开发的通用MCU平台”。 本次技术讲座将详细说明以芯科科技8位和32位MCU,以及无线SoC作为物联网开发通用平台的诸多优势,包括低功耗、高性能、缩减物料清单(BOM)成本,以及可轻松
    发表于 11-23 13:45

    全新NVIDIA Spectrum-X网络平台构筑阿里生成AI云底座

    全新 NVIDIA Spectrum-X 网络平台构筑阿里生成AI 云底座。
    的头像 发表于 11-02 09:07 352次阅读
    全新NVIDIA Spectrum-X网络<b class='flag-5'>平台</b>构筑阿里<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>云底座

    阿里平头哥发布首个 RISC-V AI 软硬全栈平台

    平台通过软硬件深度协同,较经典方案提升超 8 成性能,支持运行 170 余个主流 AI 模型,推动 RISC-V 进入高性能 AI 应用时代。 平头哥表示,他们通过更新自研一站
    发表于 08-26 14:14

    Rendered.ai 将 NVIDIA Omniverse 集成到其合成数据生成平台

    NVIDIA 初创加速计划成员 Rendered.ai 将 Omniverse Replicator 集成到其合成数据生成平台,使 AI 训练变得更加简单易用。 Rendered.
    的头像 发表于 07-12 19:10 336次阅读
    Rendered.<b class='flag-5'>ai</b> 将 NVIDIA Omniverse 集成到其合成数据<b class='flag-5'>生成</b><b class='flag-5'>平台</b>

    智慧有数,浪潮信息发布生成AI存储解决方案

    当前,生成AI(AIGC)已经成为AI产业化发展的主战场,随着大模型参数量和数据量的爆发式增长,多源异构数据的传、用、管、存,正在成为制约
    的头像 发表于 07-07 20:45 272次阅读

    国产生成AI,不能仅仅看向前方#生成AI #信息无障碍

    AI
    脑极体
    发布于 :2023年06月15日 19:06:36

    钉钉AI具备文生文、文生图、应用生成AI能力

    钉钉AI具备文生文、文生图、应用生成AI能力 此前在4月18日的钉钉2023春钉峰会上宣布全面接入通义千问大模型,并实际演示了AI部分能力。此后,该公司开始了内部测试,此次是该公司的
    的头像 发表于 05-31 18:50 1344次阅读

    COMPUTEX2023 | NVIDIA CEO 黄仁勋发布面向各行各业的生成AI 平台

    。 COMPUTEX—2023 年 5 月 29 日 — NVIDIA 创始人兼首席执行官黄仁勋在本次主题演讲中发布了多个平台。通过这些平台,企业可以把握住这一历史性的生成AI
    的头像 发表于 05-30 01:45 431次阅读
    COMPUTEX2023 | NVIDIA CEO 黄仁勋发布<b class='flag-5'>面向</b>各行各业的<b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> <b class='flag-5'>平台</b>

    NVIDIA 与软银公司合作,利用 Grace Hopper 超级芯片建设面向生成AI 和 5G/6G 的软银下一代数据中心

    宣布,双方正在合作打造一个基于 NVIDIA GH200 Grace Hopper 超级芯片 、面向生成AI 和 5G/6G 应用的开创性平台。软银计划在日本各地的全新分布式
    的头像 发表于 05-30 01:40 447次阅读
    NVIDIA 与软银公司合作,利用 Grace Hopper 超级芯片建设<b class='flag-5'>面向</b><b class='flag-5'>生成</b>式 <b class='flag-5'>AI</b> 和 5G/6G 的软银下一代数据中心

    什么是生成AI生成AI的四大优势

    生成AI是一种特定类型的AI,专注于生成新内容,如文本、图像和音乐。这些系统在大型数据集上进行训练,并使用机器学习算法生成与训练数据相似的
    发表于 05-29 14:12 2770次阅读

    高通8 Gen4放弃公版:升级自研架构Oryon CPU

    ARM正酝酿对其IP授权模式进行大刀阔斧地改革。 对此,数码闲聊站分享称,ARM授权收紧,高通最快在SM8750也就是8 Gen4开始使用自研架构Nuvia,2+6 8核设计。 此前,虽然高通
    发表于 05-28 08:49