0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通推出全新AI Hub,使AI推理速度最高提升4倍

CHANBAEK 来源:网络整理 2024-02-28 10:28 次阅读

在今年的世界移动通信大会(MWC)上,高通公司展示了其最新的技术成果——全新的高通AI Hub。这一创新平台为开发者提供了全面优化的AI模型库,涵盖传统AI和生成式AI模型,并支持在骁龙和高通平台上进行部署。

高通AI Hub的推出,意味着开发者能够更便捷地利用高性能的AI模型。据悉,该Hub将支持超过75个AI模型,通过优化这些模型,开发者在运行AI推理时的速度将提升高达4倍。这一显著的速度提升不仅增强了应用的响应能力,也为开发者提供了更广阔的创作空间。

值得一提的是,除了速度提升外,优化后的模型还在内存带宽和存储空间方面有所减少。这意味着在相同的硬件条件下,模型能够更为高效地运行,从而实现更高的能效和更持久的电池续航。对于移动设备用户而言,这无疑是一项重要的改进,能够有效延长设备的使用时间。

高通AI Hub的推出,进一步巩固了高通在移动技术领域的领先地位。随着AI技术的日益普及,这一平台有望为开发者提供更为强大的支持,推动移动应用的发展和创新。未来,我们期待看到更多基于高通AI Hub的优秀应用涌现,为用户带来更为丰富的体验。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    76

    文章

    7163

    浏览量

    187886
  • 移动通信
    +关注

    关注

    10

    文章

    2536

    浏览量

    69387
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264061
收藏 人收藏

    评论

    相关推荐

    利用NVIDIA组件提升GPU推理的吞吐

    本实践中,唯品会 AI 平台与 NVIDIA 团队合作,结合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)将推理的稠密网络和热 Embedding 全置于 GPU 上进行加速,吞吐相比 CPU
    的头像 发表于 04-20 09:39 161次阅读

    Arm推动生成式AI落地边缘!全新Ethos-U85 AI加速器支持Transformer 架构,性能提升四倍

    电子发烧友网报道(文/黄晶晶)在嵌入式领域,边缘与端侧AI推理需求不断增长,Arm既有Helium 技术使 CPU 能够执行更多计算密集型的 AI 推理算法,也有Ethos 系列
    的头像 发表于 04-16 09:10 2285次阅读
    Arm推动生成式<b class='flag-5'>AI</b>落地边缘!<b class='flag-5'>全新</b>Ethos-U85 <b class='flag-5'>AI</b>加速器支持Transformer 架构,性能<b class='flag-5'>提升</b>四倍

    开发者手机 AI - 目标识别 demo

    Network Runtime 神经网络运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。提供统一AI
    发表于 04-11 16:14

    微软斥资25亿英镑在伦敦新建AI Hub,推动AI技术发展与商业化落地

    同时,微软还在四月初宣布成立全新的Microsoft AI团队,由DeepMind与Inflection联合创始人Mustafa Suleyman担任负责人,全力推动Copilot项目实施。Jordan Hoffmann则将领衔领导位于伦敦的Microsoft
    的头像 发表于 04-09 16:22 200次阅读

    ONNX Runtime支持龙架构,AI推理生态再添新翼

    近日,备受瞩目的AI推理框架开源社区ONNX Runtime宣布推出支持龙架构的新版本1.17.0,这一里程碑式的更新意味着龙芯平台上的AI推理
    的头像 发表于 03-27 10:58 269次阅读

    AMD EPYC处理器:AI推理能力究竟有多强?

    如今,AMD EPYC处理器已经成为最常被选择用于AI推理的服务器平台,尤其是第四代Genoa EPYC 9004系列,执行AI推理的能力又得到了巨大的飞跃。
    发表于 03-15 09:47 150次阅读

    高通AI Hub助力开发者解锁终端侧AI潜力

    在巴塞罗那世界移动通信大会(MWC)上,高通技术公司宣布了其在AI领域的最新进展,包括全新的高通AI Hub和前沿研究成果
    的头像 发表于 03-04 16:15 300次阅读

    高通AI Hub为开发者开启卓越终端侧AI性能

    在今年的巴塞罗那世界移动通信大会(MWC)上,高通技术公司再次引领AI技术的创新潮流,发布了其全新的高通AI Hub。这一创新平台为开发者提供了一个全面的
    的头像 发表于 02-27 11:15 356次阅读

    MWC2024:高通推出全新AI Hub及前沿多模态大模型

    2024年世界移动通信大会(MWC)上,高通再次展现其技术领导力,通过发布全新的高通AI Hub和展示前沿的多模态大模型技术,推动了5G和AI技术的融合创新。
    的头像 发表于 02-26 16:59 744次阅读

    HarmonyOS:使用MindSpore Lite引擎进行模型推理

    场景介绍 MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件设备 AI 模型推理的功能,目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。 本文介绍
    发表于 12-14 11:41

    亚马逊云科技推出8门全新的免费课程,帮助成年人提升AI和生成式AI技能

    提供免费人工智能(AI)技能培训和教育资源。亚马逊云科技计划通过推出新的人工智能课程和学习计划以及扩展现有项目来兑现这一承诺。作为该目标的一部分,亚马逊云科技宣布推出8门全新的免费课程
    的头像 发表于 11-24 13:54 281次阅读

    AI智能呼叫中心

    对这些数据的深入分析,呼叫中心可以有效改进服务质量、优化流程并提升业绩,此外,AI智能呼叫中心还可以基于数据分析的结果,进行智能预测并制定更加科学的策略,为企业的未来决策提供有力支持。四、节约成本传统
    发表于 09-20 17:53

    OpenHarmony AI框架开发指导

    实现客户端和服务端之间的跨进程通信管理及AI服务与插件之间的数据传输。后续,会逐步定义统一的AI能力接口,便于AI能力的分布式调用。同时,框架提供适配不同推理框架层级的统一
    发表于 09-19 18:54

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业将增长到200亿美元,其中大部分增长是人工智能推理。英特尔Xeon可扩展处理器约占运行AI推理的处理器
    发表于 08-04 07:25

    NIO的自动驾驶AI推理工作流

    自动驾驶的最优 AI 推理流水线设计
    的头像 发表于 07-05 16:30 390次阅读
    NIO的自动驾驶<b class='flag-5'>AI</b><b class='flag-5'>推理</b>工作流