侵权投诉

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

AI芯片的设计也在“宜家化”?

来源:电子发烧友网 作者:周凯扬 2021-11-22 07:46 次阅读

在近日三星Foundry举办的SAFE论坛中,三星公布了一系列与IP、EDA和封装厂商合作与创新的消息,比如云端芯片设计平台的优化,以及EDA工具在三星3nm至5nm制程和2.5D/3D封装技术上的认证。而在论坛末尾,三星请到了半导体老将JimKeller分享其初创公司Tenstorrent在AI芯片设计的过程中,是如何实现模块化设计的。

软件2.0时代

JimKeller称我们即将迎来软件2.0时代,这也是他在特斯拉任职时,从特斯拉AI主管Andrei Karpathy那听来的概念。人们使用大数据训练网络去做有用的事,而不再是编写大量代码,依照过去的思路来构建程序。其次,我们将看到更多的算法用于训练网络,比如对抗训练等等,计算机将开始实时思考他们正在解决的问题。

自动驾驶就是一个很好的例子,过去典型的视觉代码中,每个目标检测背后都需要大量的代码支撑。如今大数据集的存在给自动驾驶带来了巨大的改变,你可以找到场景中所有的对象和路径,甚至可以得出每个actor的意图。

WormholeAI芯片Dieshot/Tenstorrent


在50至80年代左右,那时基本都是标量编程,直到后来向量和矩阵的出现。而如今我们正在构建的芯片很多是专门用来满足人工智能计算的,这就要考虑到晶体管密度、代工制程和全新的人工智能算法等多项因素,这些考量也改变了人们设计芯片的思路。

芯片设计的变化

过去的芯片结构相当复杂,一个芯片中会有50到100多个IP集成在一起,包含了各种各样的接口,需要一个上百人的大团队才能把整个芯片组装起来。这也造成一系列的问题,比如流片成本过高,多次测试才能获得最终成品。

而过去的5到10年间,这种状况开始发生变化,这也多亏了代工厂制程的提升和更高质量的PDK。经过硅验证的IP为芯片设计带来了便捷,无论是顶级的CAD公司、代工厂、初创企业还是内部设计,都提供了可信任的IP,甚至先发制人在下一代IP上做好了准备,比如PCIe5.0、400G以太网和GDDR6等。JimKeller开玩笑称,芯片设计如今就像是逛宜家一样,买到所需的现成IP后自行组装,加快了产品从设计到上市的进程。

模块化设计/Tenstorrent


除了通过硅验证的IP外,模块化设计也成了当今芯片设计的主流方案。以Tenstorrent的设计流程为例,他们在硬件层面先从代工技术、CAD工具和设计库来考虑如何打造这个芯片,然后将经过验证的IP和自己的IP统统放进SoC里。在软件层面,先把PyTorch程序通过Tenstorrent的图形编译器运行,接着把它放在芯片上,由AI系统完成协调,调用数学内核与数据流来管理计算。这种清晰的设计流程意味着只需要更小的团队,在流片前就可以完成硬件和软件的仿真和测试,最终一次性通过测试。不过当前不少AI芯片都选用了更先进的制程,所以流片费用依旧昂贵。

AI芯片设计

Wormhole/Tenstorrent


与近些年的客户端芯片和移动端芯片不同,AI计算是相当有规律的,所以往往是大量AI处理器协同工作,依照数据运行一个庞大的程序,所以在设计思路上必须做出改变。以Tenstorrent的第二代AI芯片Wormhole为例,该芯片只有六个分区,AI处理器、GDDR6内存、100G以太网、PCIe4.0、ARC CPU和一些系统逻辑。拿内存这个物理分区来说,解决GDDR6 PHY、GDDR6内存控制器和NOC接口的问题,然后再以同样的流程完成余下的分区,其芯片顶层其实就是NOC总线、时钟和扫描链。这种思路让芯片设计变得更容易管理,也能更快过渡到下一个制程节点。

AscalonRISC-V处理器/Tenstorrent


在Tenstorrent的AI芯片上,还用到了5个RISC-V核心,负责一部分的计算和协调工作。为了进一步拥抱开源生态,Tenstorrent宣布将开源自己的RISC-V小核,同时也正在考虑开源其向量单元。JimKeller还提到了Tenstorrent正在研发的RISC-V处理器Ascalon,这是一个64位8取指6发射的高性能处理器,配备了先进的分支预测单元、两个向量单元、两个浮点单元和两个读取/存储单元。

此外,由于AI工作负载往往需要庞大的计算量,单芯片和多芯片互联的方案往往只能解决单个机架的问题,而多机架的互联才是对AI芯片扩展性的考验。Wormhole可以直接通过以太网实现相同模组的互联,在芯片到芯片、服务器到服务器和机架到机架之间实现相同的满载带宽。此外,Wormhole在设计时已经内置了交换机,所以超算一类的方案不再需要用到任何昂贵的交换机。当然了,传统的数据中心在机架数量的配置要求上更灵活一些,这时采用顶部交换机的方案虽然不会影响芯片之间的带宽,但确实会对服务器间与机架间的带宽产生一定影响。

结语

根据JimKeller预测,未来五年的人工智能将在处理器、算法以及与芯片的协同工作上出现大量的创新。而AI芯片的设计不仅是把AI软件和算法考虑在内,甚至后者也在反过来助力AI芯片的设计,比如我们已经在设计工具中见到的布局与布线,未来AI构建的测试平台也可能会帮助我们验证代码和区块。AI芯片设计与AI设计芯片重合的场景可能离我们并不远了。

收藏 人收藏

    评论

    相关推荐

    联想投资寒武纪行歌,后者致力于自动驾驶AI芯片业务

    近日,企查查显示,寒武纪行歌(南京)科技有限公司发生工商变更,新增联想(北京)有限公司等多名股东。公....
    的头像 Carol Li 发表于 01-15 08:00 879次 阅读
    联想投资寒武纪行歌,后者致力于自动驾驶AI芯片业务

    车规级芯片与手机芯片又什么不一样的地方吗

    车规级芯片是,汽车元件。车规级是适用于汽车电子元件的规格标准。目前汽车电动化、智能化、网联化、共享化....
    的头像 Les 发表于 01-01 17:23 594次 阅读

    SENSORO 携手 Graphcore,打造基于 IPU 的城市 ESG 方案

    日前,SENSORO(北京升哲科技有限公司)宣布正与Graphcore(拟未)合作,打造基于IPU计....
    的头像 升哲科技 发表于 12-29 11:46 74次 阅读
    SENSORO 携手 Graphcore,打造基于 IPU 的城市 ESG 方案

    爱芯元智亮相ICCAD 2021:详解自研芯片AI赋能ISP提升画质

    随着产业智能化的深入,集成电路市场规模迎来新一轮上升趋势,其中AI芯片已成为引领产业增长的主流方向之....
    发表于 12-24 15:19 525次 阅读
    爱芯元智亮相ICCAD 2021:详解自研芯片AI赋能ISP提升画质

    燧原科技发布第二代云端人工智能推理加速卡云燧 i20

    近年来,国内外各大 AI 巨头的大规模语言模型(large language model,LLM)一....
    的头像 RTThread物联网操作系统 发表于 12-15 09:28 440次 阅读

    匹敌7nm GPU,燧原科技第二代云端AI推理卡发布,落地服务器、身份识别、车路协同等应用

    数据算力需求的日益增长带动了AI芯片行业的兴起,作为中国AI芯片的中坚力量,燧原科技聚焦于AI训练与....
    的头像 21克888 发表于 12-09 13:12 460次 阅读
    匹敌7nm GPU,燧原科技第二代云端AI推理卡发布,落地服务器、身份识别、车路协同等应用

    关于芯片的股票有哪些

    芯片龙头股。公司是中国领先的拥有芯片设计、晶圆制造、封装测试等全产业链一体化经营能力的半导体企业,产....
    的头像 倩倩 发表于 12-09 10:17 872次 阅读

    中国国产芯片最新突破 2021

    中国国产芯片最新突破 2021:据了解,我国的最新芯片国产能生产出11nm制程芯片的光刻机预计在20....
    的头像 lhl545545 发表于 12-08 16:15 9979次 阅读

    燧原科技自主研发第二代AI训练产品 解决AI芯片面临有效算力问题

    社会在大数据的驱动下,各个领域正在发生深刻范式的变化,大数据所带来的巨大信息量,要求庞大的算力,来挖....
    的头像 燧原科技Enflame 发表于 12-07 14:34 975次 阅读

    边缘处理加紧落地,计算核“芯”持续突破

    基于边缘计算的机器学习技术在物联网兴起的如今变得越来越重要,重要数据的处理需要更接近数据最初所在的位....
    的头像 Robot Vision 发表于 12-01 08:00 1051次 阅读
    边缘处理加紧落地,计算核“芯”持续突破

    优于深度学习AI芯片效率更高、功耗更低,类脑芯片研究进展如何?

    电子发烧友网报道(文/李弯弯)近年来,深度神经网络(DNN)取得了令人瞩目的成绩,基于DNN的深度学....
    的头像 Carol Li 发表于 11-26 06:54 2203次 阅读
    优于深度学习AI芯片效率更高、功耗更低,类脑芯片研究进展如何?

    全球3D芯片及模组引领者,强势登陆中国市场

    3D视觉技术是高端制造和智能制造机器人的关键技术,它赋予了机器人“眼睛和大脑”三维感知能力,是构建A....
    发表于 11-25 16:39 3367次 阅读
    全球3D芯片及模组引领者,强势登陆中国市场

    电动汽车初创公司Rivian公开亮相,市值超越通用汽车;再造世界最大芯片,Cerebras Systems宣布完成2.5亿美元融资

    再造世界最大芯片,Cerebras Systems 宣布完成2.5 亿美元融资 曾造出世界最大芯片的....
    的头像 21克888 发表于 11-13 09:18 1495次 阅读
    电动汽车初创公司Rivian公开亮相,市值超越通用汽车;再造世界最大芯片,Cerebras Systems宣布完成2.5亿美元融资

    地平线助力OEM为消费者提供更安全、更便捷的驾驶体验

    地平线与汽车智能化科技企业未动科技正式签署战略合作协议,双方将围绕软件定义汽车发展趋势,在高级别自动....
    的头像 中国通信工业协会物联网应用分会 发表于 11-12 16:41 1649次 阅读

    3分钟速览造“芯”详情

    腾讯自研芯片研发进展,首度公开。在2021腾讯数字生态大会上,腾讯高级执行副总裁、云与智慧产业事业群....
    发表于 11-05 09:29 85次 阅读

    探讨AI芯片设计和开发的6个挑战

    AI实现的特点有哪些? AI芯片设计和开发面临哪些挑战? ...
    发表于 11-02 09:19 0次 阅读

    黑芝麻智能分享如何保证AI芯片处于较高水平

    10月19日,由商务部投资促进事务局,联合中德双方产业集群、行业机构及龙头企业共同发起的第五届中德汽....
    的头像 黑芝麻智能 发表于 10-28 09:43 606次 阅读

    AI芯片公司获大笔融资,英特尔前副总裁证实加入董事会

    据外媒报道,日前,以色列芯片公司Hailo完成1.36亿美元C轮融资,据业内知情人士所说,该笔融资让....
    的头像 Carol Li 发表于 10-19 09:30 1570次 阅读
    AI芯片公司获大笔融资,英特尔前副总裁证实加入董事会

    地平线携手中汽创智成立下一代AI芯片联合创新开发实验室

    中汽创智生态合作伙伴大会期间,地平线与创新型汽车高科技企业中汽创智共同成立“下一代AI芯片联合创新开....
    的头像 中国通信工业协会物联网应用分会 发表于 10-14 17:47 2936次 阅读

    解析智能驾驶AI芯片的设计与制造的流程

    随着智能驾驶和智能座舱时代到来以及AI技术的兴起,汽车智能化成为了当前全球各个企业的目标和需求导向,....
    的头像 黑芝麻智能 发表于 10-13 09:20 869次 阅读
    解析智能驾驶AI芯片的设计与制造的流程

    思必驰整体业务围绕“云+芯”重点布局

    电子发烧友网报道(文/李弯弯)近几年,人工智能技术快速发展,智能语音、图像识别等的应用既加速了产品体....
    的头像 电子发烧友网 发表于 10-12 16:11 695次 阅读

    TCL旗下AI芯片研发项目正式落地上海临港

    9月25日,TCL旗下摩迅半导体AI芯片研发项目落地临港新片区并举行签约仪式,该项目将致力于智能连接....
    的头像 电子发烧友网 发表于 10-11 17:27 982次 阅读

    车载场景如何实现语音控制

    目前,汽车有手动挡和自动挡,自动挡仅仅只是不需要脚踩离合器,减轻了脚的负担,但是仍然需要通过手动操作....
    的头像 九芯智能 发表于 10-09 10:34 1536次 阅读

    关于AI低功耗设计的新方法

    毛刺的数量与 SoC 执行的操作数量成正比,这使得毛刺成为 AI 加速器需要解决的重要问题。
    发表于 10-07 16:33 1565次 阅读
    关于AI低功耗设计的新方法

    人工智能AI芯片到底怎么用

    什么是人工智能(AI)芯片? AI芯片的主要用处有哪些? 在AI任务中,AI芯片到底有多大优势? ...
    发表于 09-22 08:00 101次 阅读

    AI芯片设计加速 极狐GitLab助力AI芯片企业DevOps体系建设

    根据Forrester预测,全球AI制造平台产值到2025年将达到130亿美元。并将成AI软件第一大....
    的头像 话说科技 发表于 09-14 10:01 5538次 阅读
    AI芯片设计加速  极狐GitLab助力AI芯片企业DevOps体系建设

    虽迟但到!Facebook正在为机器学习和视频转码开发自研芯片

    近日,外媒The Information报道称,有两位消息人士透露,Facebook正在开发一种机器....
    的头像 Hobby观察 发表于 09-12 07:28 6337次 阅读

    特斯拉发布重磅AI芯片 AI独角兽商汤科技最早月底赴港上市

    当人工智能(AI)加速芯片已成为大型科技公司标配后,老牌科技公司IBM亦给出回应。在本周举行的芯片行....
    的头像 RTThread物联网操作系统 发表于 09-06 14:54 3244次 阅读

    地平线引入国际公司高管!陈黎明博士履新地平线任总裁

    9月1日,地平线官方微信宣布,陈黎明博士履新地平线任总裁。陈黎明博士于1995年加入博世集团,曾任技....
    的头像 zhangyingwlw 发表于 09-01 10:57 2557次 阅读
    地平线引入国际公司高管!陈黎明博士履新地平线任总裁

    百度宣布自研的第二代百度昆仑AI芯片-昆仑2实现量产

    李彦宏指出,这是AI时代,人工智能做出来的智能汽车,是要服务人、帮助人们更好出行,而不是伤害人和控制....
    的头像 微流控科技 发表于 08-25 09:10 5667次 阅读

    净利润亏损3.92亿,研发投入超营收3倍,寒武纪盈利成迷

    8月23日,国内知名人工智能芯片公司寒武纪召开了2021年半年度业绩说明会,同时就在前不久,寒武纪也....
    的头像 Simon观察 发表于 08-24 09:15 2051次 阅读
    净利润亏损3.92亿,研发投入超营收3倍,寒武纪盈利成迷

    阿里云震旦异构计算加速平台基于NVIDIA Tensor Core GPU

    阿里云震旦异构计算加速平台基于NVIDIA Tensor Core GPU,通过机器学习模型的自动优....
    的头像 电子元件技术圈 发表于 08-13 10:17 1139次 阅读

    台积电暂停28nm制程代工价格涨幅 欧洲AI芯片公司和台积电敲定3纳米合作协议

    台积电在前期略微调涨28nm代工价格之后,台积电下半年将暂停调涨该制程报价,以维持客户关系。台积电有....
    的头像 zhangyingwlw 发表于 08-10 10:21 3463次 阅读
    台积电暂停28nm制程代工价格涨幅 欧洲AI芯片公司和台积电敲定3纳米合作协议

    拒绝华为,上汽为何拥抱地平线?单核算力128TOPS的征程5震撼发布,答案来了

    7月29日,边缘人工智能领导者地平线创始人兼CEO余凯宣布:“地平线第一次向业界推出高性能、大算力整....
    的头像 zhangyingwlw 发表于 07-30 20:35 5766次 阅读
    拒绝华为,上汽为何拥抱地平线?单核算力128TOPS的征程5震撼发布,答案来了

    半年融资超200亿!华为、天数智芯领衔国内AI芯片新品和解决方案有哪些新看点?

    根据赛迪顾问预测,2021年中国AI芯片市场规模将增长到305.7亿元,同比增幅可以达到57.8%。....
    的头像 zhangyingwlw 发表于 07-26 09:00 5720次 阅读
    半年融资超200亿!华为、天数智芯领衔国内AI芯片新品和解决方案有哪些新看点?

    一文揭开AI芯片的神秘面纱 精选资料分享

    今天一朋友咨询我AI芯片怎么样?我是搞软件的,历来计算机系专业学生里搞软件的不懂硬件,但是要聊到AI芯片,它真的很简单,...
    发表于 07-26 08:01 101次 阅读

    清华出品:最易懂的AI芯片报告!人才技术趋势都在这里 精选资料分享

    清华出品:最易懂的AI芯片报告!人才技术趋势都在这里  2010 年以来, 由于大数据产业的发展, 数据量呈现爆炸性增长...
    发表于 07-23 09:19 101次 阅读

    AI芯片最新格局分析 精选资料分享

    来源:中金公司,作者黄乐平、何玫与杨俊杰AI 芯片设计是人工智能产业链的重要一环。 自 2017 年 5 月以来,各 AI 芯片厂商的...
    发表于 07-23 07:14 101次 阅读

    AI芯片格局最全分析 精选资料分享

    本文分析了国内外AI芯片的格局和特点,作者认为,在AI芯片领域,国外芯片巨头占据了绝大部分市场份额,不论是在人才聚集还是...
    发表于 07-23 07:10 101次 阅读

    AI芯片最新格局分析 精选资料分享

    来源:中金公司,作者黄乐平、何枚与杨俊杰AI 芯片设计是人工智能产业链的重要一环。 自 2017 年 5 月以来,各 AI 芯片厂商的...
    发表于 07-23 07:08 101次 阅读

    这样的AI芯片公司在2019年很危险! 精选资料分享

    文 | 包永刚 来自雷锋网(leiphone-sz)2018年,中兴事件引发中国“缺芯“的大讨论,恰逢第三次AI热潮,国内外科技巨头也纷纷入...
    发表于 07-23 06:16 101次 阅读

    3D AI芯片企业埃瓦科技完成亿元级A轮融资

    近日,3D AI芯片系统公司埃瓦科技宣布已完成亿元级A轮融资,由中科创星领投,拓金资本、瀚漾投资跟投....
    的头像 Carol Li 发表于 07-17 07:45 2964次 阅读
    3D AI芯片企业埃瓦科技完成亿元级A轮融资

    【一周投融资】比亚迪投资杰华特微电子;AI芯片公司埃瓦科技完成亿元级A轮融资

    1、埃瓦科技完成亿元级A轮融资   近日,3D AI芯片系统公司埃瓦科技宣布已完成亿元级A轮融资,由....
    的头像 Carol Li 发表于 07-17 07:41 3292次 阅读
    【一周投融资】比亚迪投资杰华特微电子;AI芯片公司埃瓦科技完成亿元级A轮融资

    爱芯科技CEO仇肖莘出席2021世界人工智能大会,推动边侧和端侧的AI芯片快速发展

    2021世界人工智能大会于昨日开幕,国内人工智能视觉芯片初创公司——爱芯科技董事长兼CEO仇肖莘博士....
    发表于 07-09 15:41 1695次 阅读
    爱芯科技CEO仇肖莘出席2021世界人工智能大会,推动边侧和端侧的AI芯片快速发展

    新的芯片架构和技术

    在人工智能芯片市场竞争的公司,从英特尔、高通、Arm和Nvidia等芯片巨头,到传统的互联网科技巨头....
    的头像 半导体科技评论 发表于 05-18 11:20 1908次 阅读

    太赫兹技术:背景和应用

    太赫兹频段相对于毫米波频段(30GHz-300GHz)来说,频率更高,因此第一个潜在应用就是做通信。....
    的头像 半导体科技评论 发表于 05-17 16:05 1617次 阅读
    太赫兹技术:背景和应用

    字节跳动的芯片棋局

    从此前市场中公开的消息来看,字节跳动正在积极组建AI芯片团队,目前已经在各大招聘平台上有不少芯片相关....
    的头像 半导体科技评论 发表于 05-17 14:02 2152次 阅读

    深聪半导体:专注智能家居、智能车载等领域,成立三年出货累计百万颗

    2021年5月14日,第十一届松山湖中国IC创新高峰论坛盛大开幕。该论坛一直以“寻找中国最优秀的IC....
    的头像 Carol Li 发表于 05-14 13:34 4124次 阅读

    【芯闻精选】富士康印度工厂苹果iPhone产量大减50%;深聪智能推出二代AI芯片

    2021年92期 产业新闻   路透社:富士康印度工厂苹果iPhone产量大减50%   5月11日....
    发表于 05-12 09:00 1809次 阅读

    华为该怎么去塑造手机影像传奇?

    智能手机行业开年以来,新品层出不穷。有一点尤为值得注意,包括苹果、OV在内的手机厂商在近两年开始格外....
    的头像 city_prolove 发表于 05-05 16:43 594次 阅读

    解读AI芯片发展现状及前景

    随着深度学习领域[1-4]带来的技术性突破,人工智能(artificial intelligence....
    的头像 机器视觉智能检测 发表于 04-30 09:32 2877次 阅读

    最全汽车芯片竞争格局解析

    汽车半导体概念宽广,在汽车电动化、智能化、网联化、共享化等各领域发挥重要作用,其按照功能分为汽车芯片....
    的头像 皇华电子元器件IC供应商 发表于 04-29 10:43 5066次 阅读
    最全汽车芯片竞争格局解析

    瀚博半导体今日宣布完成5亿元人民币A+轮融资!

    2021年4月28日,瀚博半导体(上海)有限公司(下称“瀚博半导体”或“瀚博”)今日宣布完成5亿元人....
    的头像 Les 发表于 04-28 15:15 1095次 阅读

    亿智SV826将助力IPC到AIPC智能化升级的芯动力

    芯品快讯  4月15-16日,亿智电子携新一代高性能端侧视觉AI芯片亮相华南安防AI产业链对接会(A....
    的头像 亿智电子 发表于 04-19 10:03 2091次 阅读

    应对全球供应链波动考验,小鹏、百度和小米们自研芯片提速

    世界各国最近都对电池领域和车载芯片持续加码,其背后的依据正是电动车在全球范围内普及在未来五年快速加大....
    发表于 04-17 09:00 2586次 阅读
    应对全球供应链波动考验,小鹏、百度和小米们自研芯片提速

    边缘AI如何利用下一代物联网

    基于AI的机器学习技术已经超越了基于云的数据中心,因为重要的IoT传感器数据的处理越来越接近数据最初....
    的头像 beanxyy 发表于 04-14 18:02 1491次 阅读

    车载AI芯片市场爆发,未来谁能凭实力拿下主流市场?

    特斯拉、蔚来、小鹏、比亚迪等带动的智能汽车市场爆发,也带动了车载AI芯片市场的大幅度增长。一些提前布....
    的头像 zhangyingwlw 发表于 04-13 07:57 8881次 阅读

    人工智能芯片初创公司——爱芯科技宣布接连完成Pre-A、A两轮融资

    成立近两年以来,爱芯科技得到众多知名产业及投资机构的大力支持。与此同时,公司在技术攻坚、产品开发和人....
    的头像 MEMS 发表于 04-12 11:17 1571次 阅读

    自动驾驶AI芯片现状分析

    自动驾驶AI芯片到位了么?
    发表于 12-04 06:13 505次 阅读

    深度学习推理和计算-通用AI核心

    摘要 与深度学习算法的进步超越硬件的进步,你如何确保算法明天是一个很好的适合现有的人工智能芯片下发展?,这些人工智能芯片...
    发表于 11-01 09:28 950次 阅读