0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通推出全新AI Hub,使AI推理速度最高提升4倍

CHANBAEK 来源:网络整理 2024-02-28 10:28 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在今年的世界移动通信大会(MWC)上,高通公司展示了其最新的技术成果——全新的高通AI Hub。这一创新平台为开发者提供了全面优化的AI模型库,涵盖传统AI和生成式AI模型,并支持在骁龙和高通平台上进行部署。

高通AI Hub的推出,意味着开发者能够更便捷地利用高性能的AI模型。据悉,该Hub将支持超过75个AI模型,通过优化这些模型,开发者在运行AI推理时的速度将提升高达4倍。这一显著的速度提升不仅增强了应用的响应能力,也为开发者提供了更广阔的创作空间。

值得一提的是,除了速度提升外,优化后的模型还在内存带宽和存储空间方面有所减少。这意味着在相同的硬件条件下,模型能够更为高效地运行,从而实现更高的能效和更持久的电池续航。对于移动设备用户而言,这无疑是一项重要的改进,能够有效延长设备的使用时间。

高通AI Hub的推出,进一步巩固了高通在移动技术领域的领先地位。随着AI技术的日益普及,这一平台有望为开发者提供更为强大的支持,推动移动应用的发展和创新。未来,我们期待看到更多基于高通AI Hub的优秀应用涌现,为用户带来更为丰富的体验。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7686

    浏览量

    198712
  • 移动通信
    +关注

    关注

    10

    文章

    2701

    浏览量

    71774
  • AI
    AI
    +关注

    关注

    90

    文章

    38225

    浏览量

    297115
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI推理的存储,看好SRAM?

    电子发烧友网报道(文/黄晶晶)近几年,生成式AI引领行业变革,AI训练率先崛起,带动带宽内存HBM一飞冲天。但我们知道AI推理的广泛应用才
    的头像 发表于 03-03 08:51 2440次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的存储,看好SRAM?

    亚马逊发布新一代AI芯片Trainium3,性能提升4

    Trainium 4的开发计划。亚马逊表示,这款芯片能够比英伟达市场领先的图形处理单元(GPU)更便宜、更高效地驱动AI模型背后的密集计算。     作为亚马逊首款3纳米工艺AI芯片,Trainium3的核心突破在于性能、能效与
    的头像 发表于 12-09 08:37 7195次阅读
    亚马逊发布新一代<b class='flag-5'>AI</b>芯片Trainium3,性能<b class='flag-5'>提升</b><b class='flag-5'>4</b><b class='flag-5'>倍</b>

    中软国际教育科技集团全新推出智云AI-Hub平台

    实施“人工智能+”行动的意见》中都明确提出“促进人工智能助力教育变革”的战略要求。中软国际教育科技集团全新推出智云AI-Hub平台,为高校人工智能教育注入强大动力。
    的头像 发表于 09-28 11:33 786次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    和探索;人类级别的理解能力;常识推理;现实世界的知识整合。 3、测试时计算 测试时计算(TTC)是指在模型推理阶段利用额外的计算资源来提升泛化性能。 4、具身智能与渗透式
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    主要步骤: ①溯因②假说③实验 1、科学推理的类型 ①演绎②归纳 2、自动化科学发现框架 AI-笛卡儿-----自动化科学发现框架,利用数据和知识来生成和评估候选的科学假说。 4项规则:三、直觉
    发表于 09-17 11:45

    华为亮相2025金融AI推理应用落地与发展论坛

    创新技术——UCM推理记忆数据管理器,旨在推动AI推理体验升级,提升推理性价比,加速AI商业正循
    的头像 发表于 08-15 09:45 980次阅读

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    网络智能诊断平台。通过对私有化网络数据的定向训练,信而泰打造了高性能、高可靠性的网络诊断模型,显著提升AI辅助诊断的精准度与实用性。该方案实现了网络全流量深度解析能力与AI智能推理
    发表于 07-16 15:29

    Nordic收购 Neuton.AI 关于产品技术的分析

    生成比传统框架(如 TensorFlow、PyTorch 等)小 10 的模型,模型体积可低至个位数 KB,并且推理速度更快、功耗更低。此次收购将 Neuton 的自动化 TinyML 平台
    发表于 06-28 14:18

    RK3588核心板在边缘AI计算中的颠覆性优势与场景落地

    、ResNet50等模型,推理速度较纯CPU方案(如i.MX8)快5-10,无需外接加速卡。 全接口覆盖: 原生支持PCIe 3.0、双千兆网口、USB 3.1 Gen2、SATA 3.0等接口,可扩展5G模组
    发表于 04-15 10:48

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    的端侧部署,Token产生速度提升了40%,让端侧大模型拥有更高的计算效率和推理性能,使端侧AI交互响应更及时,用户体验更贴心。 联发科还
    发表于 04-13 19:52

    曙光存储全新升级AI存储方案

    近日,曙光存储全新升级AI存储方案,秉持“AI加速”理念,面向AI训练、AI推理
    的头像 发表于 03-31 11:27 1069次阅读

    适用于数据中心和AI时代的800G网络

    ,成为新一代AI数据中心的核心驱动力。 AI时代的两大数据中心:AI工厂与AIAI时代催生了两类数据中心架构:
    发表于 03-25 17:35

    通推动终端侧AI释放全新价值

    通过蒸馏技术将百亿参数模型压缩至端侧设备可运行的创新,让AI推理成本大幅下降,为终端侧AI的爆发按下加速键。低成本、灵活性的特性引发了行业对这一技术突破的深度思考,也验证了
    的头像 发表于 03-21 09:28 1007次阅读
    <b class='flag-5'>高</b>通推动终端侧<b class='flag-5'>AI</b>释放<b class='flag-5'>全新</b>价值

    NVIDIA 推出开放推理 AI 模型系列,助力开发者和企业构建代理式 AI 平台

    由 NVIDIA 后训练的全新 Llama Nemotron 推理模型,为代理式 AI 提供业务就绪型基础 埃森哲、Amdocs、Atlassian、Box、Cadence、CrowdStrike
    发表于 03-19 09:31 336次阅读
    NVIDIA <b class='flag-5'>推出</b>开放<b class='flag-5'>推理</b> <b class='flag-5'>AI</b> 模型系列,助力开发者和企业构建代理式 <b class='flag-5'>AI</b> 平台

    FPGA+AI王炸组合如何重塑未来世界:看看DeepSeek东方神秘力量如何预测......

    成形时延缩短至3μs...... 4) 工业4.0神经中枢:机器视觉系统响应速度突破120fps;预测性维护准确率提升至99.2%...... 未来展望:当FPGA遇见生成式AI,D
    发表于 03-03 11:21