0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通交付首批CloudAI100加速器和边缘方案开发套件:从终端到云端AI的联合

工程师邓生 来源:IT之家 作者:IT之家 2020-10-28 17:59 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在 2019 年 4 月,高通公司发布了一款专用于云端 AI 加速的处理器 Qualcomm Cloud AI 100,采用 7nm 工艺,性能比当时业界最先进的 AI 推理解决方案高出 10 倍以上。

而在 2020 年 9 月 16 日,高通宣布 AI 推理加速器 Cloud AI 100 已经面向全球部分客户出货。

高通 Qualcomm Cloud AI 100 加速器拥有先进的信号处理能力和领先的能效,能够支持诸多运行环境对于 AI 解决方案的需求,包括数据中心、云端边缘、边缘设备和 5G 基础设施等。

而全新宣布的 Qualcomm Cloud AI 100 边缘方案开发套件通过提供一整套面向 AI 处理的系统级解决方案,支持高达 24 路的 1080p 视频流和 5G 连接,旨在加速边缘应用的普及。

硬件方面,Qualcomm Cloud AI 100 支持高达 400TOPS 的 AI 算力,同时在 7nm 工艺的加持下,拥有出色的性能功耗比,旨在提供业界领先的 AI 推理效率。Qualcomm Cloud AI 100 还支持从 15W 到 75W 功率的多种设备形态,其中包括 PCI-E 卡。

至于 Qualcomm Cloud AI 100 软件套件,其中包含一套完整的工具栈,并支持 Tensorflow、PyTorch 和 Caffe 等主流框架,以及 GLOW 和 ONNX 等 runtimes。

该软件套件包括具备编译器和模拟器的 Qualcomm Cloud AI 100 应用 SDK,以及具备 runtimes、API、内核驱动程序和工具的平台 SDK,旨在支持 Qualcomm Cloud AI 100 平台在多个运行环境中的开发、测试及部署。

Qualcomm Cloud AI 100 开发套件由三个模组化的 Qualcomm 组件构成:

Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理

Qualcomm 骁龙 865 模组化平台——支持应用和视频处理

骁龙 X55 调制解调器及射频系统模组——支持全球运营商的预认证模组实现领先的 5G 连接能力

总体来说,Qualcomm Cloud AI 100 边缘方案开发套件是已经优化的系统级解决方案,能够提供高性能的 AI 推理、视频处理和 5G 连接。

高级副总裁、计算与边缘云业务总经理 Keith Kressin 表示:“高通在提供拥有业界领先的性能功耗比、从边缘到云端的高性能 AI 解决方案方面处于绝佳地位。目前,Qualcomm Cloud AI 100 正面向全球部分客户出货,我们预计采用该产品的商用设备将于 2021 年上半年面市。”

随着 AI 技术在社会生产、生活中的应用越来越深入,AI 产业的规模也在不断增大,小到我们手上的智能手机,大到工业生产的设备,越来越需要 AI 的助力。这些 AI 中,有数据采集、计算、决策都在前端设备本地进行的终端 AI,也有数据训练、处理都是在云端进行的云端 AI。而未来终端 AI 和云端 AI 都不可能孤立存在,两者的彼此无缝协同联动才是大势所趋。

此背景下,在终端侧 AI 领域有着强大号召力的高通,通过 Qualcomm Cloud AI 100 加速器和开发套件将自身的 AI 实力拓展到云端,就很容易理解了。

过去高通一直以来给人的印象都是终端侧 AI 的坚定执行者,基于骁龙 AI Engine 人工智能引擎,高通通过终端 AI 为这个星球上一半以上的智能手机提供 AI 运算,方便人们的生活。但我们不知道的是,除了终端侧 AI,高通在运算 AI 方面也拥有深厚的积累,事实上,高通一直都在促进终端 AI 和云端 AI 的合作与协同,是分布式 AI 的先行者和践行者。

而本次交付的 Qualcomm Cloud AI 100 加速器和边缘方案开发套件,峰值性能能达到骁龙 855 和骁龙 820 的的 3 至 50 倍,就是高通在云端 AI 方面强大实力的最好例证。随着 5G 商业部署的深入,高通将推进 AI 在运算进行大规模的训练和推理,然后通过高速率低时延的 5G 网络,将 AI 的具体能力和执行落实到边缘终端侧,让边缘计算和云端的运算实时协同,既拥有强大的运算性能,又拥有极低的时延,从而让 AI 能够赋能社会生产生活的各方各面,彻底变革我们的生活方式。
责任编辑:psy

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    78

    文章

    7687

    浏览量

    198764
  • 加速器
    +关注

    关注

    2

    文章

    837

    浏览量

    39742
  • AI
    AI
    +关注

    关注

    90

    文章

    38290

    浏览量

    297341
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    边缘计算中的AI加速器类型与应用

    人工智能正在推动对更快速、更智能、更高效计算的需求。然而,随着每秒产生海量数据,将所有数据发送至云端处理已变得不切实际。这正是边缘计算中AI加速器变得不可或缺的原因。这种专用硬件能够直
    的头像 发表于 11-06 13:42 482次阅读
    <b class='flag-5'>边缘</b>计算中的<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>类型与应用

    此芯科技发布“合一”AI加速计划,赋能边缘与端侧AI创新

    产品组合,覆盖1.5B至32B参数规模的端侧AI模型推理需求,满足工业、消费电子、智能终端等多样化场景的部署需求,推动AI技术
    的头像 发表于 09-15 11:53 2011次阅读
    此芯科技发布“合一”<b class='flag-5'>AI</b><b class='flag-5'>加速</b>计划,赋能<b class='flag-5'>边缘</b>与端侧<b class='flag-5'>AI</b>创新

    ‌TI CC1311P3 LaunchPad™开发套件技术解析与应用指南

    Texas Instruments CC1311P3 LaunchPad™ 开发套件设计用于加速开发SimpleLink™ 亚1GHz无线MCU。该器件支持TI 15.4堆栈和专有射频协议。CC13XX-CC26XX软件
    的头像 发表于 09-01 15:19 858次阅读
    ‌TI CC1311P3 LaunchPad™<b class='flag-5'>开发套件</b>技术解析与应用指南

    Andes晶心科技推出新一代深度学习加速器

    高效能、低功耗 32/64 位 RISC-V 处理核与 AI 加速解决方案的领导供货商—Andes晶心科技(Andes Technology)今日正式发表最新深度学习
    的头像 发表于 08-20 17:43 1950次阅读

    东软睿驰联合推出基于AURIX TC4x的NeuSAR快速开发套件

    近日,东软睿驰联合英飞凌、HighTec推出基于AURIX TC4x的NeuSAR快速开发套件,为汽车软件开发提供高效、便捷的全栈开发环境,助力客户及
    的头像 发表于 07-08 11:30 946次阅读
    东软睿驰<b class='flag-5'>联合</b>推出基于AURIX TC4x的NeuSAR快速<b class='flag-5'>开发套件</b>

    时识科技推出XyloAudio 3神经形态开发套件

    时识科技(SynSense)推出的XyloAudio 3神经形态开发套件,为边缘AI音频处理树立全新能效标杆!基于类脑计算技术,XyloAudio 3专为实时声音检测与分类场景打造,以超低功耗(<1毫瓦)和毫秒级响应速度赋能下一
    的头像 发表于 05-15 15:07 974次阅读
    时识科技推出XyloAudio 3神经形态<b class='flag-5'>开发套件</b>

    云端终端:RAKsmart服务构筑AI云平台智慧城市全栈解决方案

    传统服务方案常面临算力分散、运维复杂、能效比低等问题,导致AI算法难以高效落地。而RAKsmart服务凭借其技术创新与全栈服务能力,正在为AI
    的头像 发表于 05-09 09:47 492次阅读

    SC171开发套件V3 技术资料

    /jishu_2485277_1_1.html 硬件配件测试与使用(SC171开发套件V3) https://bbs.elecfans.com/jishu_2485280_1_1.html AI端侧部署开发
    发表于 04-17 11:03

    平台介绍及基本使用(SC171开发套件V3)

    平台介绍及基本使用(SC171开发套件V3) 序列 课程名称 视频课程时长 视频课程链接 课件链接 1 边缘AIoT开发套件V3 *附件:边缘AIoT
    发表于 04-17 10:49

    AI功能(SC171开发套件V3)

    AI功能(SC171开发套件V3) 序列 课程名称 视频课程时长 视频课程链接 课件链接 工程源码 1 图像语义分割(deeplabv3)案例----基于SC171开发套件V3 7分44秒
    发表于 04-16 18:48

    AI端侧部署开发(SC171开发套件V3)

    AI端侧部署开发(SC171开发套件V3) 序列 课程名称 视频课程时长 视频课程链接 课件链接 工程源码 1 Fibo AI Stack模型转化指南------Docker Desk
    发表于 04-16 18:30

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    MDDC 2025,联发科不仅带来了更加强大、全面的开发者解决方案,更展示了不断拓展的天玑AI生态。去年MDDC 2024之后,天玑AI
    发表于 04-13 19:52

    边缘计算 云端计算

    边缘计算与云端计算的区别与联系   一、核心区别‌ 数据处理位置‌ 边缘计算‌:在靠近数据源的设备或边缘节点(如传感、本地服务
    的头像 发表于 03-27 08:30 678次阅读
    <b class='flag-5'>从</b><b class='flag-5'>边缘</b>计算 <b class='flag-5'>到</b><b class='flag-5'>云端</b>计算

    图形处理到AI加速,一文看懂Imagination D系列GPU

    Imagination的D系列于2022年首次发布,见证了生成式AI云端智能手机等消费设备中普及。在云端,由于GPU的可编程性、可扩展性
    的头像 发表于 02-27 08:33 844次阅读
    <b class='flag-5'>从</b>图形处理到<b class='flag-5'>AI</b><b class='flag-5'>加速</b>,一文看懂Imagination D系列GPU

    数据智能:边缘AI发展进入新阶段,方案部署面临怎样的挑战?

    回顾2024年AI产业的发展,AI大模型依然在高歌猛进,不过将AI工作负载云端卸载到终端的趋势
    的头像 发表于 01-15 00:13 3188次阅读
    <b class='flag-5'>从</b>数据<b class='flag-5'>到</b>智能:<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>发展进入新阶段,<b class='flag-5'>方案</b>部署面临怎样的挑战?