0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通携手Meta利用Llama 2赋能终端侧AI应用

微云疏影 来源:综合整理 作者:综合整理 2023-07-19 10:26 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

高通技术公司和Meta合作优化meta llama的两种语言模型在终端上直接运行,而不依赖云端服务。在智能手机、pc、vr/ar耳机和汽车终端上运行llama 2的生成型ai模型将为开发者节省云端费用,并为用户提供更加个人、可靠和个性化的体验。

因此,高通技术公司计划支持基于llama 2的终端ai部署,以创建新的、有趣的ai应用程序。通过这种方式,客户、合作伙伴和开发者可以构建智能模拟器、生产力应用程序、内容制作工具和娱乐等的使用案例。骁龙®赋能实现的新终端ai体验,即使在飞行模式下,也可以在没有网络连接的地区运行。

qualcomm technical corporation技术、企划及edge解决方案部门首席副总经理兼总经理马德嘉表示:“我们高度评价meta对ai技术的开放、负责任的战略。”高通技术公司在终端机中引入生成型ai,降低了不同规模的开发者的开发壁垒,正在推进革新。要想将人工智能(ai)有效地扩展到主要市场,ai必须在云端和边缘机器上同时运行。例如智能手机、笔记本电脑、汽车、物联网机器。

wKgaomS3ScSALuN0AAGOcbZJNQg230.png

meta与高通技术公司长期合作,共同推进技术创新,创造下一代最高水平的终端体验。两家公司目前在llama的研究和产品工程技术支持领域进行合作。高通技术公司在支持喇嘛生态系统方面具有独特的优势。该公司是业界最先进的ai硬件和软件解决方案,可以提供数十亿个智能手机、汽车、xr显示屏及眼镜、电脑及物联网终端机,为ai的大规模扩张提供了广阔的机会。

高通计划从2024年开始在骁龙平台终端机上配置以rama 2为基础的ai。现在开发者可以使用qualcomm ai堆栈来优化终端ai。高通AI软件栈是snapdragon平台上更有效地处理ai的专用工具,小而轻的终端也可以支持终端方面的ai。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7685

    浏览量

    198707
  • 应用程序
    +关注

    关注

    38

    文章

    3342

    浏览量

    59935
  • 模拟器
    +关注

    关注

    2

    文章

    994

    浏览量

    45389
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Arm与Meta深化战略合作

    近日,Arm 与 Meta 宣布一项战略合作项目,双方将围绕人工智能 (AI) 软件与数据中心基础设施两大核心领域,全面提升各计算层面的 AI 效率,为全球数十亿用户打造更丰富的体验。从驱动
    的头像 发表于 10-24 17:54 1503次阅读

    此芯科技发布“合一”AI加速计划,边缘与端AI创新

    产品组合,覆盖从1.5B至32B参数规模的端AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术从云端向边缘高效落地。“合一”
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b>加速计划,<b class='flag-5'>赋</b><b class='flag-5'>能</b>边缘与端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>创新

    AI推理效率革命,美格智能多领域落地打造行业范本

    产业进阶:端AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgent的主要外在呈现和功能入口。随着端
    的头像 发表于 08-25 17:06 3481次阅读
    端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>推理<b class='flag-5'>赋</b><b class='flag-5'>能</b>效率革命,美格智能多领域落地打造行业范本

    浙江移动携手华为全面推进AI+应用百花齐放

    AI作为新质生产力的核心驱动力,正加速浙江移动自有业务的数智化转型。浙江移动携手华为,全面推进AI+应用“百花齐放”,
    的头像 发表于 07-28 10:07 600次阅读

    AI需求大爆发!安谋科技发布新一代NPU IP,AI终端应用

    (电子发烧友网报道 文/章鹰) 2025年是端AI爆发元年,以AI眼镜为例,Meta的Ray-Ban系列价格已降至299美元,2025年预计出货200万副,此外,混合
    的头像 发表于 07-11 01:16 8387次阅读
    端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>需求大爆发!安谋科技发布新一代NPU IP,<b class='flag-5'>赋</b><b class='flag-5'>能</b><b class='flag-5'>AI</b><b class='flag-5'>终端</b>应用

    使用 NPU 插件对量化的 Llama 3.1 8b 模型进行推理时出现“从 __Int64 转换为无符号 int 的错误”,怎么解决?

    安装了 OpenVINO™ GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    发表于 06-25 07:20

    华邦电子创新存储智能端

    华邦电子于 4 月 15 日、4 月 25 日受邀参加新唐科技 2025 新品发布会,期间进行了题为“创新存储智能”的主旨演讲,展示了华邦电子在端智能领域卓越的#创新存储解决
    的头像 发表于 05-14 09:59 1101次阅读
    华邦电子创新存储<b class='flag-5'>赋</b><b class='flag-5'>能</b>端<b class='flag-5'>侧</b>智能端<b class='flag-5'>侧</b>

    中国银河证券携手中科曙光以AI技术全面业务发展

    作为国内分支机构数量领先、服务超1700万客户的国有头部券商,中国银河证券积极拥抱AI携手中科曙光以AI技术全面业务发展,提升服务智能
    的头像 发表于 04-27 14:38 804次阅读

    美格智能携手通启动2025边缘智能创新应用大赛,AI革命

    前言:随着5G-A与AIoT技术深度融合,边缘智能正成为工业4.0、智慧城市、自动驾驶等领域的核心引擎。美格智能多年来与通公司持续深入合作,搭载通平台的算力模组已
    的头像 发表于 04-26 09:03 769次阅读
    美格智能<b class='flag-5'>携手</b><b class='flag-5'>高</b>通启动2025边缘智能创新应用大赛,<b class='flag-5'>赋</b><b class='flag-5'>能</b>端<b class='flag-5'>侧</b><b class='flag-5'>AI</b>革命

    移远通信携手通举办“2025 通边缘智能创新应用大赛”,助力开发者探索AI创新潜能

    随着边缘计算和端智能迅猛发展,以机器人和各类智能终端为代表的物理智能体正深刻重塑人类的生产生活方式。作为全球领先的物联网整体解决方案供应商,移远通信积极
    的头像 发表于 04-20 08:07 967次阅读
    移远通信<b class='flag-5'>携手</b><b class='flag-5'>高</b>通举办“2025 <b class='flag-5'>高</b>通边缘智能创新应用大赛”,助力开发者探索<b class='flag-5'>AI</b>创新潜能

    首创开源架构,天玑AI开发套件让端AI模型接入得心应手

    科正将AI能力体系化并终端生态。 大会上,联发科定义了“智能体化用户体验”的五大特征:主动及时、知你懂你、互动协作、学习进化和专属隐私信息守护。这五大特征需要跨越从芯片、模型、应
    发表于 04-13 19:52

    通骁龙8至尊版移动平台革新终端AI影像体验

    自智能手机时代以来,人们对于手机摄影的专业追求从未停歇。骁龙凭借前沿的影像和终端AI技术,持续引领移动计算摄影发展。最新的骁龙8至尊版移动平台,实现了突破性的技术升级和影像体验,全新打造的A
    的头像 发表于 03-31 11:09 1614次阅读

    通推动终端AI释放全新价值

    通过蒸馏技术将百亿参数模型压缩至端设备可运行的创新,让AI推理成本大幅下降,为终端AI的爆发按下加速键。低成本、
    的头像 发表于 03-21 09:28 1005次阅读
    <b class='flag-5'>高</b>通推动<b class='flag-5'>终端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>释放全新价值

    无法在OVMS上运行来自Meta的大型语言模型 (LLM),为什么?

    无法在 OVMS 上运行来自 Meta 的大型语言模型 (LLM),例如 LLaMa2。 从 OVMS GitHub* 存储库运行 llama_chat Python* Demo 时遇到错误。
    发表于 03-05 08:07

    Meta重磅发布Llama 3.3 70B:开源AI模型的新里程碑

    ​在人工智能领域,Meta的最新动作再次引起了全球的关注。今天,我们见证了Meta发布的 Llama 3.3 70B 模型,这是一个开源的人工智能模型,它不仅令人印象深刻,而且在性能上达到了一个
    的头像 发表于 12-18 16:46 898次阅读
    <b class='flag-5'>Meta</b>重磅发布<b class='flag-5'>Llama</b> 3.3 70B:开源<b class='flag-5'>AI</b>模型的新里程碑