0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云端、边缘和终端AI芯片的挑战

工程师 来源:是德科技快讯 作者:是德科技快讯 2020-10-16 09:27 次阅读

5年前,在大基金的东风下,芯片产业风起云涌。芯片设计公司的数量从2015年的736家,一越到了2016年的1362家,几乎翻了一倍。其中,AI芯片是当时一颗耀眼的新星。

经过几年的探索和沉淀,AI的发展也许已经悄然进入2.0阶段。大家更加注重与特定应用场景的结合,比如智能汽车,智能安防等;有部分则从单纯的基于ASIC的方式转向尝试通用计算道路的探索,兼顾通用性并针对一些重点应用做相应的优化。少了吵吵嚷嚷的热闹,多了踏踏实实的落地。

随着应用的深入和落地,云端、边缘和终端侧多点开花。每个节点的芯片侧重点可能略有不同,云端更加强调性能的极致,通常采用异构的芯片架构,用GPU或者专用的ASIC芯片与CPU配合,处理复杂的数据训练或者inference的工作,那GPU/ASIC之间以及GPU/ASIC与CPU之间以及GPU/ASIC与存储模块之间都需要极高性能的接口来支撑,如PCIe、CCIX、GenZ、DDR等;

边缘或者终端侧虽然不像云端对性能要求那么高,但是他们需要面对更多复杂的应用场景,如前面提到的智能驾驶、智能医疗、工业智能等,那么他们会在兼顾性能的同时更加看重能耗比的指数,因此也会有一些新的接口或者总线类型来适应他们的应用,如MIPI、UFS、LPDDR等。

从云端的总线来看,前面提到有很多种,我们以PCIe来举例。虽然它的效率和性能并不是最高的,但它目前是最成熟的,用的也比较多。目前商用落地的是PCIe 4.0技术,那到今年年底,有一些领先的服务器厂商就会推出PCIe 5.0的样品。那PCIe 5.0的速率已经达到了32Gbps,而且在这个速率下还要考虑到与前代的兼容,它的channel loss会非常大,在奈奎斯特频率下会达到36dB。在如此高的速率下要保证这么高的设计余量,对设计工程师来说,这是一个非常大的挑战。

举例来说,即使经过非常复杂的预加重、均衡、信道训练等,那最终达到芯片接收端,芯片内部的眼高不会超过15mW,眼宽不会超过10ps。这是非常非常小的余量。如果设计的余量不够,那总线的丢包率就会比较高,就会导致重传,那芯片的效率就大大降低了。那如何实现更大的设计余量?如何去测试设计的余量,如何将设计和测试做闭环验证都是工程师面临的巨大挑战。

那对于边缘或者终端侧来说,要考虑成本、要考虑功耗。所以它的总线技术不会像云端走的那么快,但它会采用一些特殊的总线来适应终端场景的需求。比如在云端更多的采用类似PCIe这种来做计算,但在终端/边缘侧则更多的采用类似MIPI这种总线进行计算或者数据的传输;在云端的数据存储总线可能会用到DDR4或者DDR5,但在终端/边缘,可能更多的会用到LPDDR;对于云端,可能更多的使用PCIe等去做扩展,而终端会更多倾向于用USB去做扩展。所以两者差异还是很大的。

除了速率上的不同,终端侧其实还需要考虑连接的简洁性以及功耗的性能,所以终端侧的总线的内部协议或者信号的调整方式上反而更加复杂一些。比如Type-C接口,它外面的连接非常简洁,但是其实它内部协议非常复杂。它要考虑正反插,要考虑供电,要兼容显示和数据传输等等。所以终端侧的这些总线的设计要求与云端又不一样。

• 当然,无论是什么样的AI芯片,无论是什么样的技术浪潮,是德科技都能陪伴在您的产品设计和研发过程中,为您的芯片质量提供坚实的保障。

• 无论是计算总线还是内存接口总线,无论是仿真还是产品测试,是德科技都有全面的解决方案,为您的产品保驾护航。

顺便广告一下,是德科技的产品中也加入了AI的算法,对于特定的测试波形,是德科技的AI测试能给您一些必要的线索,让您快速定位到问题所在,帮助产品快速推向市场。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    446

    文章

    47744

    浏览量

    409031
  • 终端
    +关注

    关注

    1

    文章

    998

    浏览量

    29595
  • AI
    AI
    +关注

    关注

    87

    文章

    26407

    浏览量

    264011
  • 云端
    +关注

    关注

    0

    文章

    111

    浏览量

    16749
收藏 人收藏

    评论

    相关推荐

    英伟达、英特尔、AMD等大厂的边缘AI芯片汇总

    需将数据传输到云端进行处理。                                                 边缘AI芯片的出现,极大地提升了
    的头像 发表于 04-24 02:15 705次阅读

    NanoEdge AI的技术原理、应用场景及优势

    NanoEdge AI 是一种基于边缘计算的人工智能技术,旨在将人工智能算法应用于物联网(IoT)设备和传感器。这种技术的核心思想是将数据处理和分析从云端转移到设备本身,从而减少数据传输延迟、降低
    发表于 03-12 08:09

    国科微:将持续优化边缘AI战略布局

    国科微近日在接受调研时透露,公司正积极推进搭载自研NPU架构的芯片研发,主要聚焦在边缘侧应用。公司表示,将持续优化边缘AI战略布局,加快AI
    的头像 发表于 02-23 11:23 412次阅读

    AI边缘计算机应用场景广泛!大语言模型与数字人结合方案在边缘侧落地

    电子发烧友网报道(文/李弯弯)AI边缘计算机是一种人工智能和边缘计算技术相结合的计算机设备。它可以在本地设备上运行AI模型,实现对设备数据的实时分析和响应,从而减少数据传输到
    的头像 发表于 01-16 01:11 1550次阅读

    边缘AI它到底是什么?能做什么?

    边缘,减少了数据的传输延迟和依赖云端的通信需求。边缘AI能够在接近数据源的设备上进行实时决策和推理,这为许多应用领域带来了革命性的改变。 边缘
    的头像 发表于 01-11 14:44 648次阅读

    2024年中国AI终端占比将达55%

    AI终端是指在终端设备中集成处理器的AI引擎。IDC认为,随着终端算力的提升和AI加速引擎逐渐在
    的头像 发表于 12-08 17:27 688次阅读

    算力强劲的AI边缘计算盒子# 边缘计算

    AI边缘计算
    成都华江信息
    发布于 :2023年11月24日 16:31:06

    什么是混合AI?混合AI优势在哪?

    生成式 AI 模型对计算基础设施需求极高,模型的推理随着用户数量和使用频率的增加而不断上升,云端推理成本剧增,这导致规模化扩展难以持续。混合AI为此提供了解决方案,不仅结合了云端
    发表于 11-20 16:26 418次阅读
    什么是混合<b class='flag-5'>AI</b>?混合<b class='flag-5'>AI</b>优势在哪?

    云边AI的必然趋势和硬件承载

    云边AI是指把AI大模型和算法在云端训练和优化后,部署到边缘设备上运行,从而将AI能力融入终端
    的头像 发表于 11-07 17:46 362次阅读
    云边<b class='flag-5'>AI</b>的必然趋势和硬件承载

    3D感知赋能终端智能,物奇边缘计算芯片WQ5007荣获「最具创新价值产品奖」

    边缘AI领域的创新实力和卓越贡献。   边缘AI芯片市场发展前景广阔 随着物联网与人工智能技术的快速发展,
    发表于 09-01 14:06 279次阅读

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用  随着人工智能技术的不断发展,
    的头像 发表于 08-24 15:18 1486次阅读

    边缘AI应用越来越普遍,AI模型在边缘端如何部署?

    电子发烧友网报道(文/李弯弯)在人工智能时代,越来越多的AI应用需要从云端扩展到边缘端,比如智能耳机、智能摄像机、智能手环、物流机器人等,在边缘端部署
    的头像 发表于 07-04 00:11 1929次阅读
    <b class='flag-5'>边缘</b><b class='flag-5'>AI</b>应用越来越普遍,<b class='flag-5'>AI</b>模型在<b class='flag-5'>边缘</b>端如何部署?

    AI边缘计算盒子是如何推动边缘AI应用落地的

    AI边缘计算盒子(AI Edge Computing Box)是一种集成了边缘计算和AI算法处理能力的设备,可以用于推动
    的头像 发表于 05-26 14:08 692次阅读

    边缘AI的“灵魂”,能否跟上Ta飞快脚步

    相结合,能有效地执行实时、小数据的处理,开展AI模型的推理,并将结果回传至云端,这种“云—边—端”协同的边缘智能架构,解决了目前AI应用中存在的海量数据处理、实时响应以及数据安全等问题
    的头像 发表于 05-19 09:22 857次阅读

    AI系列边缘计算盒子

    边缘盒子产品是一款基于Arm+NPU架构的AI深度学习视频分析识别边缘计算终端设备,具有算法多、精度高、多算法同步 运行、业务适配能力强、算法扩展性好、支持liunx操作系统
    发表于 05-18 16:11 3次下载
    <b class='flag-5'>AI</b>系列<b class='flag-5'>边缘</b>计算盒子