0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云端、边缘和终端AI芯片的挑战

工程师 来源:是德科技快讯 作者:是德科技快讯 2020-10-16 09:27 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

5年前,在大基金的东风下,芯片产业风起云涌。芯片设计公司的数量从2015年的736家,一越到了2016年的1362家,几乎翻了一倍。其中,AI芯片是当时一颗耀眼的新星。

经过几年的探索和沉淀,AI的发展也许已经悄然进入2.0阶段。大家更加注重与特定应用场景的结合,比如智能汽车,智能安防等;有部分则从单纯的基于ASIC的方式转向尝试通用计算道路的探索,兼顾通用性并针对一些重点应用做相应的优化。少了吵吵嚷嚷的热闹,多了踏踏实实的落地。

随着应用的深入和落地,云端、边缘和终端侧多点开花。每个节点的芯片侧重点可能略有不同,云端更加强调性能的极致,通常采用异构的芯片架构,用GPU或者专用的ASIC芯片与CPU配合,处理复杂的数据训练或者inference的工作,那GPU/ASIC之间以及GPU/ASIC与CPU之间以及GPU/ASIC与存储模块之间都需要极高性能的接口来支撑,如PCIe、CCIX、GenZ、DDR等;

边缘或者终端侧虽然不像云端对性能要求那么高,但是他们需要面对更多复杂的应用场景,如前面提到的智能驾驶、智能医疗、工业智能等,那么他们会在兼顾性能的同时更加看重能耗比的指数,因此也会有一些新的接口或者总线类型来适应他们的应用,如MIPI、UFS、LPDDR等。

从云端的总线来看,前面提到有很多种,我们以PCIe来举例。虽然它的效率和性能并不是最高的,但它目前是最成熟的,用的也比较多。目前商用落地的是PCIe 4.0技术,那到今年年底,有一些领先的服务器厂商就会推出PCIe 5.0的样品。那PCIe 5.0的速率已经达到了32Gbps,而且在这个速率下还要考虑到与前代的兼容,它的channel loss会非常大,在奈奎斯特频率下会达到36dB。在如此高的速率下要保证这么高的设计余量,对设计工程师来说,这是一个非常大的挑战。

举例来说,即使经过非常复杂的预加重、均衡、信道训练等,那最终达到芯片接收端,芯片内部的眼高不会超过15mW,眼宽不会超过10ps。这是非常非常小的余量。如果设计的余量不够,那总线的丢包率就会比较高,就会导致重传,那芯片的效率就大大降低了。那如何实现更大的设计余量?如何去测试设计的余量,如何将设计和测试做闭环验证都是工程师面临的巨大挑战。

那对于边缘或者终端侧来说,要考虑成本、要考虑功耗。所以它的总线技术不会像云端走的那么快,但它会采用一些特殊的总线来适应终端场景的需求。比如在云端更多的采用类似PCIe这种来做计算,但在终端/边缘侧则更多的采用类似MIPI这种总线进行计算或者数据的传输;在云端的数据存储总线可能会用到DDR4或者DDR5,但在终端/边缘,可能更多的会用到LPDDR;对于云端,可能更多的使用PCIe等去做扩展,而终端会更多倾向于用USB去做扩展。所以两者差异还是很大的。

除了速率上的不同,终端侧其实还需要考虑连接的简洁性以及功耗的性能,所以终端侧的总线的内部协议或者信号的调整方式上反而更加复杂一些。比如Type-C接口,它外面的连接非常简洁,但是其实它内部协议非常复杂。它要考虑正反插,要考虑供电,要兼容显示和数据传输等等。所以终端侧的这些总线的设计要求与云端又不一样。

• 当然,无论是什么样的AI芯片,无论是什么样的技术浪潮,是德科技都能陪伴在您的产品设计和研发过程中,为您的芯片质量提供坚实的保障。

• 无论是计算总线还是内存接口总线,无论是仿真还是产品测试,是德科技都有全面的解决方案,为您的产品保驾护航。

顺便广告一下,是德科技的产品中也加入了AI的算法,对于特定的测试波形,是德科技的AI测试能给您一些必要的线索,让您快速定位到问题所在,帮助产品快速推向市场。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53582

    浏览量

    459745
  • 终端
    +关注

    关注

    1

    文章

    1240

    浏览量

    31511
  • AI
    AI
    +关注

    关注

    90

    文章

    38247

    浏览量

    297254
  • 云端
    +关注

    关注

    0

    文章

    126

    浏览量

    17529
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    边缘AI技术变革如何驱动产业新生

    当下技术周期的“顶流”无疑是人工智能(AI)。而我们正在亲历一个新的黎明——AI云端下沉到边缘,在每一台终端设备上睁开“眼睛”,并在工业物
    的头像 发表于 12-10 09:56 168次阅读

    耐能正式推出新一代边缘AI芯片KL1140

    总部位于圣迭戈的 AI 科技企业 Kneron 耐能今日正式发表新一代 AI 系列芯片,并由全新旗舰产品 KL1140 领衔,全面构建从终端云端
    的头像 发表于 11-28 15:01 394次阅读

    2025年AI 智能终端和SoC芯片解读(下)

    AI智能终端经验分享
    电子发烧友网官方
    发布于 :2025年09月15日 16:49:21

    2025年AI 智能终端和SoC芯片解读(中)

    AI智能终端经验分享
    电子发烧友网官方
    发布于 :2025年09月15日 16:44:48

    2025年AI 智能终端和SoC芯片解读(上)

    AI智能终端经验分享
    电子发烧友网官方
    发布于 :2025年09月15日 16:37:48

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    景嘉微电子、海光信息技术、上海复旦微电子、上海壁仞科技、上海燧原科技、上海天数智芯半导体、墨芯人工智能、沐曦集成电路等。 在介绍完这些云端数据中心的AI芯片之后,还为我们介绍了边缘
    发表于 09-12 16:07

    Arm 洞察与思考:为什么 AI边缘迁移的速度超乎想象

    人工智能 (AI) 正在以惊人的速度发展。企业不再仅仅是探索 AI,而是积极推动 AI 的规模化落地,从实验性应用转向实际部署。随着生成式模型日益精简和高效,AI 的重心正从
    的头像 发表于 08-11 14:43 4.6w次阅读

    AI 边缘计算网关:开启智能新时代的钥匙​—龙兴物联

    顺畅地通向云端,实现设备与云端之间高效的数据传输与交互。通过融合先进的边缘计算和人工智能技术,AI 边缘计算网关能够在靠近数据源的网络
    发表于 08-09 16:40

    为何边缘设备正成为AI的新重心

    人工智能 (AI) 正在以惊人的速度发展。企业不再仅仅是探索 AI,而是积极推动 AI 的规模化落地,从实验性应用转向实际部署。随着生成式模型日益精简和高效,AI 的重心正从
    的头像 发表于 07-30 09:12 703次阅读

    边缘AI盒子技术解析:ASIC/FPGA/GPU芯片边缘-云端协同与自适应推理

      电子发烧友网综合报道 边缘AI盒子是一种集成了高性能芯片AI算法和数据处理能力的硬件设备,部署在数据源的边缘侧,如工厂、商场、交通路口
    的头像 发表于 07-13 08:25 4107次阅读

    边缘AI实现的核心环节:硬件选择和模型部署

    边缘AI的实现原理是将人工智能算法和模型部署到靠近数据源的边缘设备上,使这些设备能够在本地进行数据处理、分析和决策,而无需将数据传输到远程的云端服务器。
    的头像 发表于 06-19 12:19 1073次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>实现的核心环节:硬件选择和模型部署

    边缘AI的优势和技术基石

    在万物皆可AI(人工智能)的今天,市场上几乎每家企业都在宣称自己的业务中有了AI成分。因此,将AI接入极靠近终端客户的网络边缘也就没什么悬念
    的头像 发表于 06-12 10:14 1216次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>的优势和技术基石

    边缘计算 到云端计算

    边缘计算与云端计算的区别与联系   一、核心区别‌ 数据处理位置‌ 边缘计算‌:在靠近数据源的设备或边缘节点(如传感器、本地服务器)完成计算,减少数据传输距离‌。
    的头像 发表于 03-27 08:30 676次阅读
    从<b class='flag-5'>边缘</b>计算 到<b class='flag-5'>云端</b>计算

    AI赋能边缘网关:开启智能时代的新蓝海

    。这一变革不仅带来了技术架构的革新,更为产业发展开辟了新的增长空间。 传统边缘网关受限于计算能力和算法支持,往往只能完成数据采集和简单处理,大量原始数据需要回传云端处理,导致响应延迟和带宽压力。AI技术
    发表于 02-15 11:41

    从数据到智能:边缘AI发展进入新阶段,方案部署面临怎样的挑战

    回顾2024年AI产业的发展,AI大模型依然在高歌猛进,不过将AI工作负载从云端卸载到终端的趋势已经非常明显,以
    的头像 发表于 01-15 00:13 3181次阅读
    从数据到智能:<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>发展进入新阶段,方案部署面临怎样的<b class='flag-5'>挑战</b>?