0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通交付首批CloudAI100加速器和边缘方案开发套件:从终端到云端AI的联合

工程师邓生 来源:IT之家 作者:IT之家 2020-10-28 17:59 次阅读

在 2019 年 4 月,高通公司发布了一款专用于云端 AI 加速的处理器 Qualcomm Cloud AI 100,采用 7nm 工艺,性能比当时业界最先进的 AI 推理解决方案高出 10 倍以上。

而在 2020 年 9 月 16 日,高通宣布 AI 推理加速器 Cloud AI 100 已经面向全球部分客户出货。

高通 Qualcomm Cloud AI 100 加速器拥有先进的信号处理能力和领先的能效,能够支持诸多运行环境对于 AI 解决方案的需求,包括数据中心、云端边缘、边缘设备和 5G 基础设施等。

而全新宣布的 Qualcomm Cloud AI 100 边缘方案开发套件通过提供一整套面向 AI 处理的系统级解决方案,支持高达 24 路的 1080p 视频流和 5G 连接,旨在加速边缘应用的普及。

硬件方面,Qualcomm Cloud AI 100 支持高达 400TOPS 的 AI 算力,同时在 7nm 工艺的加持下,拥有出色的性能功耗比,旨在提供业界领先的 AI 推理效率。Qualcomm Cloud AI 100 还支持从 15W 到 75W 功率的多种设备形态,其中包括 PCI-E 卡。

至于 Qualcomm Cloud AI 100 软件套件,其中包含一套完整的工具栈,并支持 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes。

该软件套件包括具备编译器和模拟器的 Qualcomm Cloud AI 100 应用 SDK,以及具备 runtimes、API、内核驱动程序和工具的平台 SDK,旨在支持 Qualcomm Cloud AI 100 平台在多个运行环境中的开发、测试及部署。

Qualcomm Cloud AI 100 开发套件由三个模组化的 Qualcomm 组件构成:

Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理

Qualcomm 骁龙 865 模组化平台——支持应用和视频处理

骁龙 X55 调制解调器及射频系统模组——支持全球运营商的预认证模组实现领先的 5G 连接能力

总体来说,Qualcomm Cloud AI 100 边缘方案开发套件是已经优化的系统级解决方案,能够提供高性能的 AI 推理、视频处理和 5G 连接。

高级副总裁、计算与边缘云业务总经理 Keith Kressin 表示:“高通在提供拥有业界领先的性能功耗比、从边缘到云端的高性能 AI 解决方案方面处于绝佳地位。目前,Qualcomm Cloud AI 100 正面向全球部分客户出货,我们预计采用该产品的商用设备将于 2021 年上半年面市。”

随着 AI 技术在社会生产、生活中的应用越来越深入,AI 产业的规模也在不断增大,小到我们手上的智能手机,大到工业生产的设备,越来越需要 AI 的助力。这些 AI 中,有数据采集、计算、决策都在前端设备本地进行的终端 AI,也有数据训练、处理都是在云端进行的云端 AI。而未来终端 AI 和云端 AI 都不可能孤立存在,两者的彼此无缝协同联动才是大势所趋。

此背景下,在终端侧 AI 领域有着强大号召力的高通,通过 Qualcomm Cloud AI 100 加速器和开发套件将自身的 AI 实力拓展到云端,就很容易理解了。

过去高通一直以来给人的印象都是终端侧 AI 的坚定执行者,基于骁龙 AI Engine 人工智能引擎,高通通过终端 AI 为这个星球上一半以上的智能手机提供 AI 运算,方便人们的生活。但我们不知道的是,除了终端侧 AI,高通在运算 AI 方面也拥有深厚的积累,事实上,高通一直都在促进终端 AI 和云端 AI 的合作与协同,是分布式 AI 的先行者和践行者。

而本次交付的 Qualcomm Cloud AI 100 加速器和边缘方案开发套件,峰值性能能达到骁龙 855 和骁龙 820 的的 3 至 50 倍,就是高通在云端 AI 方面强大实力的最好例证。随着 5G 商业部署的深入,高通将推进 AI 在运算进行大规模的训练和推理,然后通过高速率低时延的 5G 网络,将 AI 的具体能力和执行落实到边缘终端侧,让边缘计算和云端的运算实时协同,既拥有强大的运算性能,又拥有极低的时延,从而让 AI 能够赋能社会生产生活的各方各面,彻底变革我们的生活方式。
责任编辑:psy

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    76

    文章

    7160

    浏览量

    187866
  • 加速器
    +关注

    关注

    2

    文章

    741

    浏览量

    36593
  • AI
    AI
    +关注

    关注

    87

    文章

    26424

    浏览量

    264030
收藏 人收藏

    评论

    相关推荐

    【LicheeRV-Nano开发套件试用体验】+智能平板开发

    首先感谢Sipeed矽速科技和电子发烧友给与的这次机会,得以试用LicheeRV-Nano开发套件,并与大家共同分享与学习。 鉴于试用报告格式调整,后面亦按要求展现。 申请理由: 个人多年嵌入式
    发表于 03-06 23:05

    PCIe在AI加速器中的作用

    从线上购物时的“猜你喜欢”、到高等级自动驾驶汽车上的实时交通信息接收,再到在线视频游戏,所有的这些都离不开人工智能(AI加速器AI加速器是一种高性能的并行计算设备,旨在高效处理神经
    的头像 发表于 11-18 10:36 1218次阅读
    PCIe在<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>中的作用

    紫光同创FPGA开发套件,高性能国产FPGA方案

    紫光同创FPGA开发套件,高性能国产FPGA方案100%国产化,全系列产品,方案可定制,满足多方面需求
    发表于 11-16 17:25

    紫光同创PGC1KG-LPG100 / PGC2KG-LPG100开发套件|盘古1K/2K开发套件

    盘古1K/2K 开发套件是基于紫光同创 FPGA 开发平台的开发套件,以紫光同创 Compa系列PGC1KG-LPG100 / PGC2KG-LPG
    发表于 09-22 15:03

    AI加速器架构设计与实现》+第2章的阅读概括

    首先感谢电子发烧友论坛提供的书籍和阅读评测的机会。 拿到书,先看一下封面介绍。这本书的中文名是《AI加速器架构设计与实现》,英文名是Accelerator Based on CNN Design
    发表于 09-17 16:39

    SynSense将开发基于铁电技术的超低功耗边缘AI加速器

    SynSense时识科技宣布成功斩获欧盟边缘人工智能项目Ferro4EdgeAI,将联合11家知名研发机构及企业,开发基于低成本、高密度、多级铁电(FE)存储技术及存内计算范式的超低功耗边缘
    发表于 09-08 10:21 266次阅读

    紫光同创PGC1KG-LPG100 / PGC2KG-LPG100开发套件|盘古1K/2K开发套件

    盘古1K/2K 开发套件是基于紫光同创 FPGA 开发平台的开发套件,以紫光同创 Compa系列PGC1KG-LPG100 / PGC2KG-LPG
    发表于 08-22 16:26

    紫光同创PGC1KG-LPG100 / PGC2KG-LPG100开发套件|盘古1K/2K开发套件

    盘古1K/2K 开发套件是基于紫光同创 FPGA 开发平台的开发套件,以紫光同创 Compa系列PGC1KG-LPG100 / PGC2KG-LPG
    发表于 08-02 14:20

    英特尔通过AI参考套件加速AI发展

    人工智能(AI)。每个套件均包含面向AI优化的模型代码、训练数据、机器学习流水线、库以及oneAPI组件,让企业可以在采用不同架构的本地、云端边缘
    的头像 发表于 07-28 19:45 579次阅读
    英特尔通过<b class='flag-5'>AI</b>参考<b class='flag-5'>套件</b><b class='flag-5'>加速</b><b class='flag-5'>AI</b>发展

    【书籍评测活动NO.18】 AI加速器架构设计与实现

    经验总结图解NPU算法、架构与实现,零设计产品级加速器当前,ChatGPT和自动驾驶等技术正在为人类社会带来巨大的生产力变革,其中基于深度学习和增强学习的AI计算扮演着至关重要的角色。新的计算范式需要
    发表于 07-28 10:50

    DA1468x 开发套件入门

    DA1468x 开发套件入门
    发表于 07-05 20:35 0次下载
    DA1468x <b class='flag-5'>开发套件</b>入门

    UM-B-100:DA14585 物联网多传感器开发套件用户指南

    UM-B-100:DA14585 物联网多传感器开发套件用户指南
    发表于 07-05 20:13 0次下载
    UM-B-<b class='flag-5'>100</b>:DA14585 物联网多传感器<b class='flag-5'>开发套件</b>用户指南

    高级开发套件快速入门指南

    高级开发套件快速入门指南
    发表于 07-03 20:20 0次下载
    高级<b class='flag-5'>开发套件</b>快速入门指南

    【EASY EAI Nano人工智能开发套件试用体验】EASY EAI Nano人工智能开发套件开箱及最快上手教程

    EASY EAI Nano人工智能开发套件简介 EASY EAI Nano是广州灵眸科技有限公司的旗舰级硬件产品。基于瑞芯微RV1126 处理设计,具有四核CPU@1.5GHz与NPU@2Tops
    发表于 06-11 13:34

    【EASY EAI Nano人工智能开发套件试用体验】EASY EAI Nano人工智能开发套件开箱及硬件初体验

    CPU@1.5GHz与NPU@2Tops AI边缘计算能力。有丰富的软硬件开发资料,而且外设资源丰富,接口齐全,还有丰富的功能配件可供选择。 基于瑞芯微RV1126 处理设计,具有四
    发表于 05-31 19:18