0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通与Meta合作优化Meta Llama 3,实现终端侧运行

微云疏影 来源:综合整理 作者:综合整理 2024-04-22 09:51 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

要点如下:

· 高通与Meta携手优化Meta Llama 3大语言模型,将在骁龙旗舰平台实现终端侧执行,加速产品上市并充分利用终端侧AI优势。

· 开发者可借助高通AI Hub的资源及工具,在骁龙平台优化运行Llama 3,进一步缩短产品上市周期且充分发挥AI潜能。

· 高通凭借业界顶尖的NPU、CPUGPU技术组合,赋予生成式AI应用即时性、高可靠性、隐私保护、情境感知个性化及经济效益。

2024年4月19日,圣迭戈——高通技术公司与Meta宣布达成合作,共同优化Meta Llama 3大语言模型(LLM)在智能手机、PC、VR/AR头显及汽车等终端设备上的执行。终端侧运行Llama 3具备卓越的响应速度、更强的隐私保护和可靠性,同时为用户带来个性化体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:“我们对Meta开放Meta Llama 3的策略表示赞赏,高通与Meta均致力于赋能开发者,推动AI创新。高通的终端侧AI领导地位,结合覆盖各类边缘终端的广泛市场布局,使我们有能力在全球范围内扩大Llama生态系统优势,助力客户、合作伙伴及开发者创造全新AI体验。”

本次合作旨在赋能OEM厂商及开发者,在搭载未来旗舰骁龙®平台的终端设备上支持Llama 3,推动生成式AI功能的普及。高通技术公司的异构计算技术能够无缝整合业界领先的CPU、GPU和NPU处理器,并结合先进的内存架构,助力客户、合作伙伴及开发者实现最佳应用性能、能效及电池续航。

开发者可通过高通AI Hub获取相关资源和工具,以便在骁龙平台优化运行Llama 3。高通AI Hub现已提供约100个优化AI模型,有助于开发者缩短产品上市周期,并充分发挥终端侧AI优势。如需了解更多信息,敬请关注高通每月开发者简报。

高通技术公司与Meta共同致力于推动创新,打造下一代AI体验。此次合作是双方长期合作关系的重要里程碑,彰显了双方以强大AI能力赋能开发者和用户的坚定决心。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7686

    浏览量

    198713
  • Meta
    +关注

    关注

    0

    文章

    316

    浏览量

    12355
  • 语言模型
    +关注

    关注

    0

    文章

    570

    浏览量

    11258
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Arm与Meta深化战略合作

    近日,Arm 与 Meta 宣布一项战略合作项目,双方将围绕人工智能 (AI) 软件与数据中心基础设施两大核心领域,全面提升各计算层面的 AI 效率,为全球数十亿用户打造更丰富的体验。从驱动终端
    的头像 发表于 10-24 17:54 1504次阅读

    三镜齐发+神经腕带!Meta AI眼镜“全家桶”开启“意念操控”时代

    电子发烧友网报道(文/莫婷婷)9月18日,MetaMeta Connect大会上正式发布了万众瞩目的新一代AI眼镜,包括第二代Ray-Ban Meta、首款运动眼镜Oakley Meta
    的头像 发表于 09-20 02:10 1.2w次阅读
    三镜齐发+神经腕带!<b class='flag-5'>Meta</b> AI眼镜“全家桶”开启“意念操控”时代

    Meta的AI之路,为何节节败退?

    如果继续自乱阵脚,Meta的AI黄昏或许将正式到来
    的头像 发表于 07-23 13:48 2398次阅读
    <b class='flag-5'>Meta</b>的AI之路,为何节节败退?

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    安装了 OpenVINO™ GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    发表于 06-25 07:20

    续航翻倍+3K录制,Meta最新AI运动眼镜亮相

    (电子发烧友网综合报道)6月20日,与全球知名眼镜品牌依视路(EssilorLuxottica)合作,推出了一款全新的智能眼镜——Oakley Meta HSTN。这款眼镜起售价为399美元(约合
    的头像 发表于 06-23 02:20 3443次阅读
    续航翻倍+<b class='flag-5'>3</b>K录制,<b class='flag-5'>Meta</b>最新AI运动眼镜亮相

    无法在OVMS上运行来自Meta的大型语言模型 (LLM),为什么?

    无法在 OVMS 上运行来自 Meta 的大型语言模型 (LLM),例如 LLaMa2。 从 OVMS GitHub* 存储库运行 llama
    发表于 03-05 08:07

    Meta启动全球裁员5%计划,约3700人受影响

    通知大多数国家受影响的员工。此次裁员计划将在数天内在不同地区陆续展开,而美国地区的员工将最先收到裁员通知。Meta人事主管贾内尔·盖尔(Janelle Gale)表示,公司此次裁员是出于对市场环境和业务发展的综合考虑,旨在优化团队结构,提高运营效率。 对于被裁员工,
    的头像 发表于 02-12 11:36 816次阅读

    Meta与UNESCO合作推动多语言AI发展

    Meta最近宣布了一项与联合国教科文组织(UNESCO)合作的全新计划——语言技术伙伴计划。该计划旨在收集多种语言的语音录音和文字记录,以推动未来开放可用的人工智能(AI)技术的发展,特别关注那些
    的头像 发表于 02-08 11:04 908次阅读

    Meta资本支出激增,全力布局AI

    近日,Meta首席执行官扎克伯格宣布了一项重大投资决策:今年Meta将投入600亿至650亿美元用于资本支出,这一数字较去年350亿至400亿美元的支出显著增加。
    的头像 发表于 02-05 15:39 750次阅读

    Meta 2024年四季度财报亮点:营收大幅增长

    Meta近期正式发布了其2024年第四季度及全年的财报数据。数据显示,Meta在2024年第四季度实现了483.9亿美元的营收,与去年同期相比增长了21%,这一表现超出了市场预期。 同时,Me
    的头像 发表于 02-05 14:21 1047次阅读

    Meta组建四大专研小组,深入探索DeepSeek模型

    。其中,两个小组致力于解析幻方量化如何降低DeepSeek模型的训练和运行成本,以期从中汲取经验,优化Meta自身的成本结构。第三个研究小组则聚焦于幻方量化训练DeepSeek模型所使用的数据,试图揭示其数据选择的独特之处,为
    的头像 发表于 02-05 14:02 720次阅读

    Meta计划裁员5%以提升绩效

    近日,Meta公司内部备忘录透露,该公司正计划裁减约5%的低绩效员工,以期在未来的发展中优化团队结构。Meta的CEO马克·扎克伯格在备忘录中明确表示,公司将提高绩效管理的标准,以更快的速度淘汰绩效
    的头像 发表于 01-16 10:36 808次阅读

    Meta重磅发布Llama 3.3 70B:开源AI模型的新里程碑

    ​在人工智能领域,Meta的最新动作再次引起了全球的关注。今天,我们见证了Meta发布的 Llama 3.3 70B 模型,这是一个开源的人工智能模型,它不仅令人印象深刻,而且在性能上达到了一个
    的头像 发表于 12-18 16:46 900次阅读
    <b class='flag-5'>Meta</b>重磅发布<b class='flag-5'>Llama</b> 3.3 70B:开源AI模型的新里程碑

    Meta要求阻止OpenAI营利化转变

    近日,据外媒报道,Meta已向司法部门提出投诉,要求阻止OpenAI从非营利性组织转变为营利性公司。这一举动引发了广泛关注,继特斯拉创始人马斯克之后,Meta也成为了反对OpenAI营利化转变的又一
    的头像 发表于 12-17 09:57 692次阅读

    Meta发布新AI模型Meta Motivo,旨在提升元宇宙体验

    Meta公司近日宣布,将推出一款名为Meta Motivo的全新人工智能模型。该模型具备控制类似人类的数字代理动作的能力,有望为元宇宙的用户体验带来显著提升。 Meta Motivo的发布,标志着
    的头像 发表于 12-16 10:34 1363次阅读