0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通携手Meta利用Llama 2赋能终端侧AI应用

高通中国 来源:未知 2023-07-19 10:00 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

要点

高通计划从2024年起,在旗舰智能手机和PC上支持基于Llama 2的AI部署,赋能开发者使用骁龙平台的AI能力,推出激动人心的全新生成式AI应用。

与仅仅使用云端AI部署和服务相比,终端侧AI部署能够助力开发者以显著降低的成本,提升用户隐私保护、满足用户安全偏好、增强应用可靠性,并实现个性化。

高通技术公司和Meta正在合作优化Meta Llama 2大语言模型直接在终端侧的执行,无需仅依赖云服务。能够在智能手机、PC、VR/AR头显和汽车等终端上运行Llama 2一类的生成式AI模型,将支持开发者节省云成本,并为用户提供更加私密、可靠和个性化的体验。

因此,高通技术公司计划支持基于Llama 2的终端侧AI部署,以赋能打造激动人心的全新AI应用。这将支持客户、合作伙伴和开发者构建智能虚拟助手、生产力应用、内容创作工具和娱乐等用例。这些由骁龙赋能的全新终端侧AI体验,可在没有网络连接的区域、甚至是飞行模式下工作。

高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理马德嘉表示:

我们十分赞赏Meta对于AI技术采取的开放且负责的策略。高通技术公司致力于推动创新,通过将生成式AI引入终端侧,将为各种规模的开发者降低开发门槛。为了将生成式AI有效地规模化扩展至主流市场,AI需要同时在云端和边缘终端上运行,比如智能手机、笔记本电脑、汽车和物联网终端。

a9bd8864-25d7-11ee-962d-dac502259ad0.png

Meta和高通技术公司长期合作,共同推动技术创新,打造下一代卓越终端体验。双方目前在支持Llama生态系统方面的合作,覆盖了研究和产品工程技术工作。凭借终端侧AI的领导力,高通技术公司在支持Llama生态系统方面具备独特优势。公司拥有领先的边缘侧布局,其行业领先的AI硬件和软件解决方案赋能了数十亿智能手机、汽车、XR头显与眼镜、PC和物联网等终端,为生成式AI的规模化扩展提供了广阔机遇。 高通技术公司计划从2024年起,在搭载骁龙平台的终端上支持基于Llama 2的AI部署。现在开发者可以开始使用高通AI软件栈面向终端侧AI进行应用优化。高通AI软件栈是一套支持在骁龙平台上更高效处理AI的专用工具,让轻薄的小型终端也能支持终端侧AI。 欲了解更多信息更新,请点击【阅读原文】,订阅高通月度开发者简讯。

关于前瞻性声明的谨慎提示

除历史信息之外,本新闻稿包含本身受风险和不确定性影响的前瞻性声明,包括但不限于有关以下事项的声明:高通与Meta的合作及其利益和影响、高通在搭载骁龙平台的终端上支持基于Llama 2的AI部署的计划及时间,以及终端侧AI的优势和性能。一般用“估计”、“指引”、“期望”、“预期”、“打算”、“计划”、“认为”、“寻求”等词语和类似陈述表明前瞻性声明。此类前瞻性声明仅在本新闻稿发表之日有效,基于高通当前的假设、预期和看法,以及目前可用的信息。这些前瞻性声明不是对未来业绩的保证。由于大量重要因素的影响,实际结果可能与前瞻性声明中提及的结果有实质性差异,这些因素包括但不限于高通向美国证券交易委员会(SEC)所提交的最新年度报告10-K表和后续季度报告10-Q表中描述的风险。高通向美国证券交易委员会提交的报告可在高通官网www.qualcomm.com获取。高通无义务更新或持续提供有关任何前瞻性声明或风险因素的信息,无论是新信息、未来活动还是其他事件产生的信息。

* 高通和骁龙是高通公司的商标或注册商标。*高通和骁龙是高通技术公司和/或其子公司的产品。 a9df88ba-25d7-11ee-962d-dac502259ad0.gif  


原文标题:高通携手Meta利用Llama 2赋能终端侧AI应用

文章出处:【微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7682

    浏览量

    198615
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    此芯科技发布“合一”AI加速计划,边缘与端AI创新

    产品组合,覆盖从1.5B至32B参数规模的端AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术从云端向边缘高效落地。“合一”
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b>加速计划,<b class='flag-5'>赋</b><b class='flag-5'>能</b>边缘与端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    浙江移动携手华为全面推进AI+应用百花齐放

    AI作为新质生产力的核心驱动力,正加速浙江移动自有业务的数智化转型。浙江移动携手华为,全面推进AI+应用“百花齐放”,
    的头像 发表于 07-28 10:07 586次阅读

    AI需求大爆发!安谋科技发布新一代NPU IP,AI终端应用

    (电子发烧友网报道 文/章鹰) 2025年是端AI爆发元年,以AI眼镜为例,Meta的Ray-Ban系列价格已降至299美元,2025年预计出货200万副,此外,混合
    的头像 发表于 07-11 01:16 8351次阅读
    端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>需求大爆发!安谋科技发布新一代NPU IP,<b class='flag-5'>赋</b><b class='flag-5'>能</b><b class='flag-5'>AI</b><b class='flag-5'>终端</b>应用

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    安装了 OpenVINO™ GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    发表于 06-25 07:20

    华邦电子创新存储智能端

    华邦电子于 4 月 15 日、4 月 25 日受邀参加新唐科技 2025 新品发布会,期间进行了题为“创新存储智能”的主旨演讲,展示了华邦电子在端智能领域卓越的#创新存储解决
    的头像 发表于 05-14 09:59 1080次阅读
    华邦电子创新存储<b class='flag-5'>赋</b><b class='flag-5'>能</b>端<b class='flag-5'>侧</b>智能端<b class='flag-5'>侧</b>

    中国银河证券携手中科曙光以AI技术全面业务发展

    作为国内分支机构数量领先、服务超1700万客户的国有头部券商,中国银河证券积极拥抱AI携手中科曙光以AI技术全面业务发展,提升服务智能
    的头像 发表于 04-27 14:38 796次阅读

    美格智能携手通启动2025边缘智能创新应用大赛,AI革命

    前言:随着5G-A与AIoT技术深度融合,边缘智能正成为工业4.0、智慧城市、自动驾驶等领域的核心引擎。美格智能多年来与通公司持续深入合作,搭载通平台的算力模组已
    的头像 发表于 04-26 09:03 757次阅读
    美格智能<b class='flag-5'>携手</b><b class='flag-5'>高</b>通启动2025边缘智能创新应用大赛,<b class='flag-5'>赋</b><b class='flag-5'>能</b>端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>革命

    移远通信携手通举办“2025 通边缘智能创新应用大赛”,助力开发者探索AI创新潜能

    随着边缘计算和端智能迅猛发展,以机器人和各类智能终端为代表的物理智能体正深刻重塑人类的生产生活方式。作为全球领先的物联网整体解决方案供应商,移远通信积极
    的头像 发表于 04-20 08:07 958次阅读
    移远通信<b class='flag-5'>携手</b><b class='flag-5'>高</b>通举办“2025 <b class='flag-5'>高</b>通边缘智能创新应用大赛”,助力开发者探索<b class='flag-5'>AI</b>创新潜能

    首创开源架构,天玑AI开发套件让端AI模型接入得心应手

    科正将AI能力体系化并终端生态。 大会上,联发科定义了“智能体化用户体验”的五大特征:主动及时、知你懂你、互动协作、学习进化和专属隐私信息守护。这五大特征需要跨越从芯片、模型、应
    发表于 04-13 19:52

    通骁龙8至尊版移动平台革新终端AI影像体验

    自智能手机时代以来,人们对于手机摄影的专业追求从未停歇。骁龙凭借前沿的影像和终端AI技术,持续引领移动计算摄影发展。最新的骁龙8至尊版移动平台,实现了突破性的技术升级和影像体验,全新打造的A
    的头像 发表于 03-31 11:09 1593次阅读

    通推动终端AI释放全新价值

    通过蒸馏技术将百亿参数模型压缩至端设备可运行的创新,让AI推理成本大幅下降,为终端AI的爆发按下加速键。低成本、
    的头像 发表于 03-21 09:28 978次阅读
    <b class='flag-5'>高</b>通推动<b class='flag-5'>终端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>释放全新价值

    无法在OVMS上运行来自Meta的大型语言模型 (LLM),为什么?

    无法在 OVMS 上运行来自 Meta 的大型语言模型 (LLM),例如 LLaMa2。 从 OVMS GitHub* 存储库运行 llama_chat Python* Demo 时遇到错误。
    发表于 03-05 08:07

    Meta重磅发布Llama 3.3 70B:开源AI模型的新里程碑

    ​在人工智能领域,Meta的最新动作再次引起了全球的关注。今天,我们见证了Meta发布的 Llama 3.3 70B 模型,这是一个开源的人工智能模型,它不仅令人印象深刻,而且在性能上达到了一个
    的头像 发表于 12-18 16:46 878次阅读
    <b class='flag-5'>Meta</b>重磅发布<b class='flag-5'>Llama</b> 3.3 70B:开源<b class='flag-5'>AI</b>模型的新里程碑

    Meta推出Metamate AI工具,进军企业市场

    近日,社交媒体巨头Meta正积极进军企业市场,推出了一款内部研发的AI工具——Metamate。这款AI软件以提高企业生产力为目标,旨在为企业提供更高效、智能的解决方案。 Metamate
    的头像 发表于 12-09 14:57 1347次阅读

    Meta推出Llama 3.3 70B,AI大模型竞争白热化

    在今年的AI领域,Meta也不甘落后,推出了其压轴之作——Llama 3.3 70B大模型。与此同时,马斯克的xAI也宣布其Grok模型从今天起全球免费开放(但存在一定的使用限制)。 Meta
    的头像 发表于 12-09 14:50 1014次阅读