0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通持续推动终端侧生成式AI变革,推出高通AI Hub赋能开发者

高通中国 来源:高通中国 2024-02-26 16:46 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

要点

高通现赋能终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用,让智能计算无处不在。

•高通AI Hub为骁龙和高通平台提供超过75个优化AI模型,助力开发者缩短产品上市时间,并让终端侧AI的诸多优势在应用程序上得以发挥。这些模型也将在Hugging Face和GitHub上提供。开发者只需通过几行代码即可在搭载高通平台的云托管终端上自行运行这些模型。

•高通AI研究(Qualcomm AI Research)演示了在Android智能手机和Windows PC上运行多模态大模型和定制大视觉模型。

今日,高通技术公司在巴塞罗那世界移动通信大会(MWC)上发布了公司在AI领域的最新进展。从全新高通AI Hub、到前沿研究突破以及AI赋能的商用终端展示,高通技术公司正在为开发者赋能,并变革骁龙和高通平台支持的广泛终端品类上的用户体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:

随着面向智能手机的第三代骁龙8和面向PC的骁龙X Elite的推出,我们开启了终端侧AI的规模化商用。现在,借助高通AI Hub,我们将赋能开发者充分发挥这些前沿技术的潜力,打造具有吸引力的AI赋能应用。高通AI Hub为开发者提供了一个全面的AI模型库,使他们能够轻松快速地将预优化AI模型集成进应用程序,从而打造更快、更可靠且更具隐私性的用户体验。

高通AI Hub为开发者开启卓越终端侧AI性能

全新高通AI Hub包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPUGPU)的硬件加速能力,从而使推理速度提升4倍。

AI模型库能够自动处理从源框架到主流执行环境的模型转换,直接与高通AI引擎Direct SDK协同工作,并应用硬件感知优化。开发者可将这些模型无缝集成进应用程序,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。

这些优化模型现已在高通AI Hub、GitHub和Hugging Face上提供。高通AI Hub将持续增加新模型,同时还将支持更多平台和操作系统。开发者现可注册登录,在搭载高通技术公司平台的云托管终端上自行运行模型,并通过高通AI Hub提前获取新特性和AI模型。

Hugging Face联合创始人兼CEO Clement Delangue表示:

我们很高兴能够在Hugging Face上托管高通技术公司的AI模型。这些主流AI模型面向终端侧机器学习而优化,并且可在骁龙和高通平台上使用,将赋能下一代移动开发者和边缘AI应用,让AI进一步惠及所有人。

前沿AI研究进展

高通AI研究展示了首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVA),这是一个超过70亿参数的大型多模态语言模型(LMM),可接受包括文本和图像在内的多种类型的数据输入,并能够与AI助手生成关于图像的多轮对话。该LMM能够在终端侧以实时响应的速度生成token,从而增强了隐私、可靠性、个性化和成本优势。具有语言理解和视觉理解能力的LMM能够赋能诸多用例,例如识别和讨论复杂的视觉图案、物体和场景。

高通AI研究还将展示高通首个在Android智能手机上运行的LoRA模型。通过运行支持LoRA的Stable Diffusion,用户可基于个人或艺术偏好创建高质量自定义图像。LoRA减少了AI模型的可训练参数数量,赋能更加高效、可扩展、定制化的终端侧生成式AI用例。除了能够实现针对不同的艺术风格赋能语言视觉大模型(LVM)微调外,LoRA还广泛适用于定制AI模型(如大语言模型),以打造量身定制的个人助手、改进语言翻译等。

在Windows PC上,高通AI研究将展示全球首个在终端侧运行的超过70亿参数的大型多模态语言模型(LMM),可接受文本和音频输入(如音乐、交通环境音频等),并基于音频内容生成多轮对话。

在MWC巴塞罗那上展示跨终端品类赋能生成式AI

智能手机:高通技术公司将展示一系列搭载第三代骁龙8移动平台的商用旗舰AI智能手机,包括荣耀Magic6 Pro、OPPO Find X7 Ultra和Xiaomi 14 Pro。每款终端都集成了令人兴奋的生成式AI新特性,比如图像扩充(小米)、智慧成片和一拖日程(荣耀)、AI消除(OPPO)。

PC:全新骁龙X Elite及其45 TOPS NPU专为终端侧AI打造,将变革用户与PC的交互方式。高通技术公司将使用广受欢迎的免费图像编辑器GIMP集成Stable Diffusion插件进行演示:用户可输入想要的图像,生成式AI将在7秒内生成图像,速度比x86竞品快3倍。

汽车:利用行业领先的AI硬件和软件解决方案,高通技术公司还将演示骁龙数字底盘平台支持的传统AI和生成式AI功能,旨在为驾乘人员提供更加强大、高效、隐私、安全且个性化的体验。

消费级物联网:公司将展示在骁龙平台上运行的Humane AI Pin,让用户能够在全新、对话式以及无屏的终端形态中随时随地使用AI。

连接:全新推出的骁龙X80调制解调器及射频系统集成第二代5G AI处理器,助力提升蜂窝性能,扩大覆盖范围,降低时延并提高能效。高通还推出首个AI优化的Wi-Fi 7系统——高通FastConnect 7900移动连接系统,利用AI为自适应、高性能、低时延和低功耗的本地无线连接树立新标杆。

5G基础设施:高通技术公司将展示三项突破性的AI辅助网络管理增强特性,包括助力无线接入网(RAN)工程师简化网络和切片管理任务的生成式AI助手,降低网络能耗的AI辅助开放式RAN应用程序(rApp),以及AI辅助5G网络切片生命周期管理套件。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 智能手机
    +关注

    关注

    66

    文章

    18672

    浏览量

    185556
  • 物联网
    +关注

    关注

    2939

    文章

    47317

    浏览量

    407770
  • 大模型
    +关注

    关注

    2

    文章

    3440

    浏览量

    4963
  • 生成式AI
    +关注

    关注

    0

    文章

    537

    浏览量

    1020

原文标题:高通持续推动终端侧生成式AI变革,推出高通AI Hub赋能开发者

文章出处:【微信号:Qualcomm_China,微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    涂鸦智能重磅发布四大AIoT技术引擎,能开发者AI重构物理世界

    正加快推动AIoT技术普惠化进程。现场,涂鸦分享了AIAgent开发平台,并重磅发布了Tuya.AI、TuyaOpen和海德薇(HEDV)等技术引擎,
    的头像 发表于 05-08 19:07 636次阅读
    涂鸦智能重磅发布四大AIoT技术引擎,<b class='flag-5'>赋</b><b class='flag-5'>能开发者</b>以<b class='flag-5'>AI</b>重构物理世界

    涂鸦智能重磅发布四大AIoT技术引擎,能开发者AI重构物理世界

    薇(HEDV)等技术引擎,能开发者全方位释放AIoT价值潜力。最后,为加速全球AI商业价值实现,涂鸦还宣布使用涂鸦解决方案的开发者可以免费使
    发表于 04-24 09:42 654次阅读
    涂鸦智能重磅发布四大AIoT技术引擎,<b class='flag-5'>赋</b><b class='flag-5'>能开发者</b>以<b class='flag-5'>AI</b>重构物理世界

    移远通信携手通举办“2025 通边缘智能创新应用大赛”,助力开发者探索AI创新潜能

    随着边缘计算和端智能迅猛发展,以机器人和各类智能终端为代表的物理智能体正深刻重塑人类的生产生活方式。作为全球领先的物联网整体解决方案供应商,移远通信积极能端
    的头像 发表于 04-20 08:07 962次阅读
    移远通信携手<b class='flag-5'>高</b>通举办“2025 <b class='flag-5'>高</b>通边缘智能创新应用大赛”,助力<b class='flag-5'>开发者</b>探索<b class='flag-5'>AI</b>创新潜能

    DevEco Studio AI辅助开发工具两大升级功能 鸿蒙应用开发效率再提升

    HarmonyOS应用的AI智能辅助开发助手——CodeGenie,该AI助手深度集成在DevEco Studio中,提供鸿蒙知识智能问答、鸿蒙ArkTS代码补全/生成和万能卡片
    发表于 04-18 14:43

    首创开源架构,天玑AI开发套件让端AI模型接入得心应手

    生态系统的系统性革新,更需要高效、强力的开发者解决方案。为此,联发科带来了一站可视化智能开发工具——天玑开发工具集,包含AI应用全流程
    发表于 04-13 19:52

    推动终端AI释放全新价值

    通过蒸馏技术将百亿参数模型压缩至端设备可运行的创新,让AI推理成本大幅下降,为终端AI的爆发按下加速键。低成本、
    的头像 发表于 03-21 09:28 980次阅读
    <b class='flag-5'>高</b>通<b class='flag-5'>推动</b><b class='flag-5'>终端</b><b class='flag-5'>侧</b><b class='flag-5'>AI</b>释放全新价值

    Banana Pi 发布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    RZ/V2N——近期在嵌入世界2025上新发布,为 AI 计算、嵌入系统及工自动化提供强大支持。这款全新的计算平台旨在满足开发者和企业用户对高性能、低功耗和灵活扩展的需求。 [](
    发表于 03-19 17:54

    直播预告| AI 玩偶爆款密码:涂鸦 AI 玩偶方案如何能开发者伙伴?

    一、涂鸦AI玩具解决方案的独特之处涂鸦AI玩具解决方案重磅联手DeepSeek、豆包、通义千问、Kimi、元宝、OpenAI、Claude、Gemini、AmazonNova等大模型厂家,使开发者
    的头像 发表于 03-13 18:00 836次阅读
    直播预告| <b class='flag-5'>AI</b> 玩偶爆款密码:涂鸦 <b class='flag-5'>AI</b> 玩偶方案如何<b class='flag-5'>赋</b><b class='flag-5'>能开发者</b>伙伴?

    Banana Pi 与瑞萨电子携手共同推动开源创新:BPI-AI2N

    技术、嵌入系统和物联网等领域展开深度合作,为全球开发者和企业用户提供更强大的解决方案。 Banana Pi 长期以来致力于推动开源硬件的发展,凭借丰富的产品线和强大的社区支持,成为开发者
    发表于 03-12 09:43

    云端AI开发者工具的核心功能

    当今,云端AI开发者工具已成为推动科技创新与行业升级的重要力量。那么,云端AI开发者工具有哪些核心功能呢?下面,
    的头像 发表于 02-28 11:46 861次阅读

    Apex平台:简化AI API开发能开发者

    的优势在于,它让开发者无需具备深厚的人工智能专业知识或广泛的基础架构支持,就能轻松创建出强大且自主的解决方案。这一特性极大地降低了AI技术应用的门槛,使得更多非AI专业背景的开发者也能
    的头像 发表于 02-20 09:45 884次阅读

    AI开发平台如何能开发者

    当下,AI开发平台通过提供丰富的工具集、优化的开发环境以及高效的部署能力,极大地降低了AI应用的开发门槛,加速了创新步伐。那么,
    的头像 发表于 01-17 14:47 720次阅读

    联发科技携手Cocos共建端生成AI游戏开发生态,推动行业升级

    捷更高效的应用开发体验,助力全球亿万用户享受全新的智能互动体验。 随着智能终端性能的不断提升,端生成
    的头像 发表于 01-10 09:24 713次阅读

    通技术在CES 2025发布AI创新,引领多元终端变革

    、智能家居以及企业级等多个终端品类,充分展示了其在人工智能领域的深厚积累和卓越实力。这些创新成果不仅将为用户带来更加智能、便捷的使用体验,更将推动整个科技行业的快速发展和变革。 在PC领域,
    的头像 发表于 01-07 14:53 1230次阅读

    NVIDIA 推出高性价比的生成 AI 超级计算机

    Jetson Orin Nano Super 可将生成 AI 性能提升至1.7 倍,支持科技爱好开发者和学生使用的主流模型。    
    发表于 12-18 17:01 948次阅读
    NVIDIA <b class='flag-5'>推出</b>高性价比的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 超级计算机