0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通携手Meta利用Llama 2赋能终端侧AI应用

高通中国 来源:未知 2023-07-19 10:00 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

要点

高通计划从2024年起,在旗舰智能手机和PC上支持基于Llama 2的AI部署,赋能开发者使用骁龙平台的AI能力,推出激动人心的全新生成式AI应用。

与仅仅使用云端AI部署和服务相比,终端侧AI部署能够助力开发者以显著降低的成本,提升用户隐私保护、满足用户安全偏好、增强应用可靠性,并实现个性化。

高通技术公司和Meta正在合作优化Meta Llama 2大语言模型直接在终端侧的执行,无需仅依赖云服务。能够在智能手机、PC、VR/AR头显和汽车等终端上运行Llama 2一类的生成式AI模型,将支持开发者节省云成本,并为用户提供更加私密、可靠和个性化的体验。

因此,高通技术公司计划支持基于Llama 2的终端侧AI部署,以赋能打造激动人心的全新AI应用。这将支持客户、合作伙伴和开发者构建智能虚拟助手、生产力应用、内容创作工具和娱乐等用例。这些由骁龙赋能的全新终端侧AI体验,可在没有网络连接的区域、甚至是飞行模式下工作。

高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理马德嘉表示:

我们十分赞赏Meta对于AI技术采取的开放且负责的策略。高通技术公司致力于推动创新,通过将生成式AI引入终端侧,将为各种规模的开发者降低开发门槛。为了将生成式AI有效地规模化扩展至主流市场,AI需要同时在云端和边缘终端上运行,比如智能手机、笔记本电脑、汽车和物联网终端。

a9bd8864-25d7-11ee-962d-dac502259ad0.png

Meta和高通技术公司长期合作,共同推动技术创新,打造下一代卓越终端体验。双方目前在支持Llama生态系统方面的合作,覆盖了研究和产品工程技术工作。凭借终端侧AI的领导力,高通技术公司在支持Llama生态系统方面具备独特优势。公司拥有领先的边缘侧布局,其行业领先的AI硬件和软件解决方案赋能了数十亿智能手机、汽车、XR头显与眼镜、PC和物联网等终端,为生成式AI的规模化扩展提供了广阔机遇。 高通技术公司计划从2024年起,在搭载骁龙平台的终端上支持基于Llama 2的AI部署。现在开发者可以开始使用高通AI软件栈面向终端侧AI进行应用优化。高通AI软件栈是一套支持在骁龙平台上更高效处理AI的专用工具,让轻薄的小型终端也能支持终端侧AI。 欲了解更多信息更新,请点击【阅读原文】,订阅高通月度开发者简讯。

关于前瞻性声明的谨慎提示

除历史信息之外,本新闻稿包含本身受风险和不确定性影响的前瞻性声明,包括但不限于有关以下事项的声明:高通与Meta的合作及其利益和影响、高通在搭载骁龙平台的终端上支持基于Llama 2的AI部署的计划及时间,以及终端侧AI的优势和性能。一般用“估计”、“指引”、“期望”、“预期”、“打算”、“计划”、“认为”、“寻求”等词语和类似陈述表明前瞻性声明。此类前瞻性声明仅在本新闻稿发表之日有效,基于高通当前的假设、预期和看法,以及目前可用的信息。这些前瞻性声明不是对未来业绩的保证。由于大量重要因素的影响,实际结果可能与前瞻性声明中提及的结果有实质性差异,这些因素包括但不限于高通向美国证券交易委员会(SEC)所提交的最新年度报告10-K表和后续季度报告10-Q表中描述的风险。高通向美国证券交易委员会提交的报告可在高通官网www.qualcomm.com获取。高通无义务更新或持续提供有关任何前瞻性声明或风险因素的信息,无论是新信息、未来活动还是其他事件产生的信息。

* 高通和骁龙是高通公司的商标或注册商标。*高通和骁龙是高通技术公司和/或其子公司的产品。 a9df88ba-25d7-11ee-962d-dac502259ad0.gif  


原文标题:高通携手Meta利用Llama 2赋能终端侧AI应用

文章出处:【微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7765

    浏览量

    200623
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    异构算力智能,大联大诠鼎携手此芯科技推动智能体终端落地

    大联大控股旗下诠鼎集团宣布,联合此芯科技(CIX Technology)举办“此芯P1:异构AI算力OpenClaw龙虾盒子和AI NAS解决方案”主题线上研讨会。此次研讨会聚焦业
    的头像 发表于 05-25 17:16 328次阅读

    进迭时空 Upstream|全球主流大模型开源项目 llama.cpp

    作为全球最火的本地大模型推理引擎llama.cpp,进迭时空(SpacemiT)基于K3芯片的AI扩展指令集(IME2)成功合入全球主流开源项目llama.cpp主线,为端
    的头像 发表于 05-18 18:04 6198次阅读
    进迭时空 Upstream|全球主流大模型开源项目 <b class='flag-5'>llama</b>.cpp

    紫光展锐携手全球伙伴共筑端AI终端新生态

    指明方向。作为集团旗下核心企业,紫光展锐紧随战略步伐,深耕端边AI赛道,发布多款端边AI产品和解决方案,携手全球伙伴共筑端AI
    的头像 发表于 05-13 10:15 409次阅读

    上海交通大学携手华为以AI再造智慧校园管理新格局

    AI正成为各行业重要的创新引擎。高等院校作为基础研究的主力军与重大科技突破的策源地,如何借力AI实现高质量发展?华为“100+行业智能化转型故事” 第135期,我们走进上海交通大学(以下简称“上海交大”),了解上海交大如何携手
    的头像 发表于 03-27 11:21 666次阅读

    AI无处不在 紫光展锐携AI+5G解决方案亮相AWE 2026

    紫光展锐携多款芯片解决方案及系列消费电子终端产品亮相,全面展示AI+5G创新产品应用矩阵,AI无处不在。
    的头像 发表于 03-17 01:56 449次阅读

    从“芯”出发,为功率路径“把关”:MOS管选型如何终端

    冠华伟业WINSOK(微硕)品牌的全球总代理商:2026年从“芯”出发,为功率路径“把关”:P沟道MOS管选型如何终端效?正文:在电子产业的宏大叙事,功率半导体往往是决定系统成败
    的头像 发表于 02-25 18:32 313次阅读
    从“芯”出发,为功率路径“把关”:MOS管选型如何<b class='flag-5'>赋</b><b class='flag-5'>能</b><b class='flag-5'>终端</b><b class='flag-5'>能</b>效

    MetaAI慢性病,靠Manus治吗?

    Meta
    脑极体
    发布于 :2026年01月08日 16:58:02

    矢量计算性能提升200%,安谋STAR-MC3AI革命

    电子发烧友网综合报道,在人工智能从云端向终端加速迁移的产业浪潮中,端AI正成为智能设备创新的核心驱动力。无论是AI智能眼镜、可穿戴设备,
    的头像 发表于 10-27 09:11 2856次阅读

    Arm与Meta深化战略合作

    近日,Arm 与 Meta 宣布一项战略合作项目,双方将围绕人工智能 (AI) 软件与数据中心基础设施两大核心领域,全面提升各计算层面的 AI 效率,为全球数十亿用户打造更丰富的体验。从驱动
    的头像 发表于 10-24 17:54 1806次阅读

    AI6G与卫星通信:开启智能天网新时代

    需求?传统网络会因流量激增而拥堵,而AI的6G网络则能提前预测流量模式,动态调整资源分配。 AI算法能够实时分析海量数据,包括用户位置、网络负载、历史流量模式等。在2025年上海世
    发表于 10-11 16:01

    此芯科技发布“合一”AI加速计划,边缘与端AI创新

    产品组合,覆盖从1.5B至32B参数规模的端AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术从云端向边缘高效落地。“合一”
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b>加速计划,<b class='flag-5'>赋</b><b class='flag-5'>能</b>边缘与端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    AI推理效率革命,美格智能多领域落地打造行业范本

    产业进阶:端AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgent的主要外在呈现和功能入口。随着端
    的头像 发表于 08-25 17:06 4287次阅读
    端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>推理<b class='flag-5'>赋</b><b class='flag-5'>能</b>效率革命,美格智能多领域落地打造行业范本

    浙江移动携手华为全面推进AI+应用百花齐放

    AI作为新质生产力的核心驱动力,正加速浙江移动自有业务的数智化转型。浙江移动携手华为,全面推进AI+应用“百花齐放”,
    的头像 发表于 07-28 10:07 1113次阅读

    AI需求大爆发!安谋科技发布新一代NPU IP,AI终端应用

    (电子发烧友网报道 文/章鹰) 2025年是端AI爆发元年,以AI眼镜为例,Meta的Ray-Ban系列价格已降至299美元,2025年预计出货200万副,此外,混合
    的头像 发表于 07-11 01:16 9249次阅读
    端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>需求大爆发!安谋科技发布新一代NPU IP,<b class='flag-5'>赋</b><b class='flag-5'>能</b><b class='flag-5'>AI</b><b class='flag-5'>终端</b>应用

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    安装了 OpenVINO™ GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    发表于 06-25 07:20