0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通持续推动终端侧生成式AI变革,推出高通AI Hub赋能开发者

高通中国 来源:高通中国 2024-02-26 16:46 次阅读

要点

高通现赋能终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用,让智能计算无处不在。

•高通AI Hub为骁龙和高通平台提供超过75个优化AI模型,助力开发者缩短产品上市时间,并让终端侧AI的诸多优势在应用程序上得以发挥。这些模型也将在Hugging Face和GitHub上提供。开发者只需通过几行代码即可在搭载高通平台的云托管终端上自行运行这些模型。

•高通AI研究(Qualcomm AI Research)演示了在Android智能手机和Windows PC上运行多模态大模型和定制大视觉模型。

今日,高通技术公司在巴塞罗那世界移动通信大会(MWC)上发布了公司在AI领域的最新进展。从全新高通AI Hub、到前沿研究突破以及AI赋能的商用终端展示,高通技术公司正在为开发者赋能,并变革骁龙和高通平台支持的广泛终端品类上的用户体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:

随着面向智能手机的第三代骁龙8和面向PC的骁龙X Elite的推出,我们开启了终端侧AI的规模化商用。现在,借助高通AI Hub,我们将赋能开发者充分发挥这些前沿技术的潜力,打造具有吸引力的AI赋能应用。高通AI Hub为开发者提供了一个全面的AI模型库,使他们能够轻松快速地将预优化AI模型集成进应用程序,从而打造更快、更可靠且更具隐私性的用户体验。

高通AI Hub为开发者开启卓越终端侧AI性能

全新高通AI Hub包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPUGPU)的硬件加速能力,从而使推理速度提升4倍。

AI模型库能够自动处理从源框架到主流执行环境的模型转换,直接与高通AI引擎Direct SDK协同工作,并应用硬件感知优化。开发者可将这些模型无缝集成进应用程序,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。

这些优化模型现已在高通AI Hub、GitHub和Hugging Face上提供。高通AI Hub将持续增加新模型,同时还将支持更多平台和操作系统。开发者现可注册登录,在搭载高通技术公司平台的云托管终端上自行运行模型,并通过高通AI Hub提前获取新特性和AI模型。

Hugging Face联合创始人兼CEO Clement Delangue表示:

我们很高兴能够在Hugging Face上托管高通技术公司的AI模型。这些主流AI模型面向终端侧机器学习而优化,并且可在骁龙和高通平台上使用,将赋能下一代移动开发者和边缘AI应用,让AI进一步惠及所有人。

前沿AI研究进展

高通AI研究展示了首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVA),这是一个超过70亿参数的大型多模态语言模型(LMM),可接受包括文本和图像在内的多种类型的数据输入,并能够与AI助手生成关于图像的多轮对话。该LMM能够在终端侧以实时响应的速度生成token,从而增强了隐私、可靠性、个性化和成本优势。具有语言理解和视觉理解能力的LMM能够赋能诸多用例,例如识别和讨论复杂的视觉图案、物体和场景。

高通AI研究还将展示高通首个在Android智能手机上运行的LoRA模型。通过运行支持LoRA的Stable Diffusion,用户可基于个人或艺术偏好创建高质量自定义图像。LoRA减少了AI模型的可训练参数数量,赋能更加高效、可扩展、定制化的终端侧生成式AI用例。除了能够实现针对不同的艺术风格赋能语言视觉大模型(LVM)微调外,LoRA还广泛适用于定制AI模型(如大语言模型),以打造量身定制的个人助手、改进语言翻译等。

在Windows PC上,高通AI研究将展示全球首个在终端侧运行的超过70亿参数的大型多模态语言模型(LMM),可接受文本和音频输入(如音乐、交通环境音频等),并基于音频内容生成多轮对话。

在MWC巴塞罗那上展示跨终端品类赋能生成式AI

智能手机:高通技术公司将展示一系列搭载第三代骁龙8移动平台的商用旗舰AI智能手机,包括荣耀Magic6 Pro、OPPO Find X7 Ultra和Xiaomi 14 Pro。每款终端都集成了令人兴奋的生成式AI新特性,比如图像扩充(小米)、智慧成片和一拖日程(荣耀)、AI消除(OPPO)。

PC:全新骁龙X Elite及其45 TOPS NPU专为终端侧AI打造,将变革用户与PC的交互方式。高通技术公司将使用广受欢迎的免费图像编辑器GIMP集成Stable Diffusion插件进行演示:用户可输入想要的图像,生成式AI将在7秒内生成图像,速度比x86竞品快3倍。

汽车:利用行业领先的AI硬件和软件解决方案,高通技术公司还将演示骁龙数字底盘平台支持的传统AI和生成式AI功能,旨在为驾乘人员提供更加强大、高效、隐私、安全且个性化的体验。

消费级物联网:公司将展示在骁龙平台上运行的Humane AI Pin,让用户能够在全新、对话式以及无屏的终端形态中随时随地使用AI。

连接:全新推出的骁龙X80调制解调器及射频系统集成第二代5G AI处理器,助力提升蜂窝性能,扩大覆盖范围,降低时延并提高能效。高通还推出首个AI优化的Wi-Fi 7系统——高通FastConnect 7900移动连接系统,利用AI为自适应、高性能、低时延和低功耗的本地无线连接树立新标杆。

5G基础设施:高通技术公司将展示三项突破性的AI辅助网络管理增强特性,包括助力无线接入网(RAN)工程师简化网络和切片管理任务的生成式AI助手,降低网络能耗的AI辅助开放式RAN应用程序(rApp),以及AI辅助5G网络切片生命周期管理套件。




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 智能手机
    +关注

    关注

    66

    文章

    18058

    浏览量

    177063
  • 物联网
    +关注

    关注

    2869

    文章

    41622

    浏览量

    358380
  • 大模型
    +关注

    关注

    2

    文章

    1516

    浏览量

    1115
  • 生成式AI
    +关注

    关注

    0

    文章

    349

    浏览量

    212

原文标题:高通持续推动终端侧生成式AI变革,推出高通AI Hub赋能开发者

文章出处:【微信号:Qualcomm_China,微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    开发者手机 AI - 目标识别 demo

    功能简介 该应用是在Openharmony 4.0系统上开发的一个目标识别的AI应用,旨在从上到下打通Openharmony AI子系统,展示Openharmony系统的AI能力,并为
    发表于 04-11 16:14

    生成AI加速向终端侧演进,NPU、异构计算提供强大算力支持

    年的400亿美元,增长至2032年的1.3万亿美元,年复合增速达到42%。   生成AI终端快速演进   当前大部分生成AI
    的头像 发表于 03-16 00:16 2393次阅读

    高通AI Hub助力开发者解锁终端AI潜力

    在巴塞罗那世界移动通信大会(MWC)上,高通技术公司宣布了其在AI领域的最新进展,包括全新的高通AI Hub和前沿研究成果
    的头像 发表于 03-04 16:15 300次阅读

    高通发布AI Hub平台和Wi-Fi7芯片, 助力开发人员构建AI模型和多终端用例

    了最新Wi-Fi7技术和解决方案Fastconnect7900。同时,在终端AI模型落地和芯片构建上,高通推出AI Hub平台赋
    的头像 发表于 02-28 16:28 2453次阅读
    高通发布<b class='flag-5'>AI</b> <b class='flag-5'>Hub</b>平台和Wi-Fi7芯片, 助力<b class='flag-5'>开发</b>人员构建<b class='flag-5'>AI</b>模型和多<b class='flag-5'>终端</b>用例

    高通推出全新AI Hub,使AI推理速度最高提升4倍

    在今年的世界移动通信大会(MWC)上,高通公司展示了其最新的技术成果——全新的高通AI Hub。这一创新平台为开发者提供了全面优化的AI模型库,涵盖传统
    的头像 发表于 02-28 10:28 253次阅读

    高通AI Hub开发者开启卓越终端AI性能

    在今年的巴塞罗那世界移动通信大会(MWC)上,高通技术公司再次引领AI技术的创新潮流,发布了其全新的高通AI Hub。这一创新平台为开发者提供了一个全面的
    的头像 发表于 02-27 11:15 356次阅读

    HarmonyOS SDK,助力开发者打造焕然一新的鸿蒙原生应用

    场景推出场景化控件,帮助开发者快速地打造更纯净、更智能、更精致、更易用的鸿蒙原生应用。 提供六大领域,能力丰富完备 HarmonyOS SDK 拥有近 30000 个 API,覆盖了鸿蒙原生应用开发
    发表于 01-19 10:31

    欢迎加入飞腾派开发者社区,感谢每一位开发者

    希望更多的生态厂商能入驻电子发烧友论坛,一起能开发者,共筑繁荣社区生态! 关于飞腾: 飞腾信息技术有限公司是国内领先的自主核心芯片提供商,致力于飞腾系列国产高性能、低功耗通用计算微处理器的设计研发
    发表于 12-11 16:11

    2023 SAP TechEd,让每位开发者都变身为生成AI开发者

    SAP 推出一系列创新成果,围绕生成AI 应用开发和矢量数据库功能,为 AI 时代的开发者
    的头像 发表于 11-02 15:39 412次阅读

    HarmonyOS SDK,能开发者实现更具象、个性化开发诉求

    随着移动互联网的逐步成熟,用户的需求越来越细化。鸿蒙生态为开发者提供的HarmonyOS SDK开放能力,高效能美团外卖等合作伙伴实现更具象、个性化的开发诉求,给用户提供更丰富便捷的体验。
    发表于 10-24 17:34

    【直播合集】HDC.Together 2023 精彩回顾!收藏勿错过~

    生态商业化平台持续助力用户高效增长与发展,以更丰富的流量场景、更高效的产品能力、更灵活的激励政策能开发者。洞见行业发展之趋势,抓准获量增长着力点,深度挖掘行业发展新机会,携手伙伴探寻商业价值可
    发表于 08-17 17:21

    高通携手Meta利用Llama 2赋能终端AI应用

    高通计划从2024年起,在旗舰智能手机和PC上支持基于Llama 2的AI部署,赋能开发者使用骁龙平台的AI能力,推出激动人心的全新生成
    的头像 发表于 07-19 10:00 498次阅读

    高通携手Meta利用Llama 2赋能终端AI应用

    要点 — •  高通 计划从2024 年起,在旗舰智能手机和PC上支持基于Llama 2的AI部署,赋能开发者使用骁龙平台的AI能力,推出激动人心的全新
    的头像 发表于 07-19 10:00 355次阅读
    高通携手Meta利用Llama 2赋能<b class='flag-5'>终端</b>侧<b class='flag-5'>AI</b>应用

    国产生成AI,不能仅仅看向前方#生成AI #信息无障碍

    AI
    脑极体
    发布于 :2023年06月15日 19:06:36

    高通和微软在Microsoft Build开发者大会上携手推动终端AI规模化扩展

    在Microsoft Build 2023开发者大会期间,高通技术公司展示了公司最新的终端AI创新,包括在骁龙计算平台上运行生成AI,以
    的头像 发表于 05-25 09:50 468次阅读