0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云端算力芯片为什么是科技石油?

jf_C6sANWk1 来源:阿宝1990 2023-07-12 10:21 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在追逐智能化的道路上,云端算力芯片扮演着不可或缺的角色。其强大的计算能力和无限的潜力,推动着科技的创新和进步。随着技术的不断发展,我们有理由相信云端算力芯片将继续引领人工智能的未来,为我们带来更加智能、高效的世界。

自人类开采第一口油井开始,石油就深深融入进了人类生活的方方面面。小到锅碗瓢盆芯片,大到飞机火箭航母,没有哪个环节离得开石油的参与。如果说石油是工业的血液,电力与网络是信息时代社会的骨架,那么算力就是AI时代构建万物的基础。

21世纪前后,人类逐渐从工业时代步入信息时代,当下AI时代的大门又再度缓缓开启。2023年以来,以ChatGPT为首的生成式AI逐渐渗透到了各行各业中,有人说,这或许又是一个IPhone时刻。AI起舞,算力搭台,算力,或者说是算力芯片就是AI时代的石油、电力与网络。

算力从哪来?如何理解算力?国产云端算力芯片如今怎么样了。今天,与非网邀请到了多位企业专家,共同探讨AI时代下云端算力芯片发展的挑战和机遇。

AI时代,算力有多重要

算力,其本质就是计算能力,它可以反映芯片对信息数据的收集、处理与输出能力。计算本质上是一种抽象概念,加减乘数是计算,三角运算是计算,积分与微分也是计算。在如今的计算机时代,每一种复杂的计算都可以拆分成多个简单的计算,现在通常用每秒钟计算的浮点运算次数作为评价算力的指标。每秒计算1次就是1FLOPS。不过算力这个概念并不是芯片独有的,我们人类的大脑也无时无刻不在进行着计算,从买菜购物到数学考试,从鸡兔同笼到多元微分,计算贯穿了人类的一生。

放眼人类的发展历史,人类对于计算的渴求就一直在进步。石器时代人类就开始结绳计数,后来各类算筹、算盘等辅助计算技术诞生,让人类拥有了更大规模的计算能力。如果这时算力能被计算出具体数值,那一根系满绳结的绳子的算力会低于1FLOPS。

1946年,世界上第一台计算机“埃尼阿克(ENIAC)”出现,让人类的计算能进一步提升,计算速度也进一步提升,其计算速度达到到了300FLOPS,也就是每秒钟可以进行300次浮点运算,远超当时任何人类与机械计算器的计算速度。

紧接着人类便进入到了集成电路大发展时代。1978年,英特尔推出了跨时代的8086芯片,它包含29000个晶体管,主频达到4.77MHz,其算力也达到了700000 FLOPS以上。此后,集成电路产业飞速发展,至今已经形成英特尔、AMD英伟达三家争霸,还有TI、ST、瑞萨MCU大厂紧随其后,不同厂商不同种类的芯片用途五花八门,但其证明芯片性能的关键参数仍是“算力”。

不过,算力一词用到频率最高的领域仍旧是GPU。GPU起初是用来专门处理图像的硬件,相比CPU,GPU具有更多计算核心,也更擅长进行并行计算。如今世界上单芯片算力顶峰是英伟达的Thor芯片,其算力已经达到200TOPS。TOPS即tera operations per second,1TOPS代表该芯片可以每秒计算1×1012 次运算。

AI时代,算力已经不仅是一项描述芯片计算能力的参数,它更像是一种资源,和石油与电力一样,成为信息时代不可或缺的重要一环。而算力之所以如此重要,在于它对于AI来说的必要性。

AI模型,本质上是算力与算法的结合。模型的“大”与“小”,其实就是算法规模量的区别,模型输出的精度也与训练AI的数据量呈正相关,然而计算机处理越大的数据量,它所需要的算力也呈指数上升。其原因是因为AI算法可以理解为超大规模的矩阵运算,矩阵的维度就是数据特征数量,也就是数据的参数量。矩阵维度越多,参数越多,模型越复杂,它输出的数据准确度越高,但所需求的算力也就越大。AI时代,算力已经不仅是一项描述芯片计算能力的参数,它更像是一种资源,和石油与电力一样,成为信息时代不可或缺的重要一环。AI时代,也可以说是算力时代。

算力芯片也可以分为云端与终端两种。云端算力芯片通常负责训练和推理两种场景,可在不要求延时与高网络带宽下运行几乎全流程的AI算法。终端算力芯片通常用于自动驾驶智能家居、智慧城市等AIOT场景中。通常来说,云算力芯片的难度更高,成本也更高,还需要用户负担额外的网络通信费用,那是不是云端就不重要了呢?

如果没有云计算,企业在需要算力场景的时候就要搭建私有云,也就是自己的服务器。而为了应对更加复杂的应用,支撑更加稳定的计算环境,企业就必须不停的升级采购新设备,例如服务器、存储、带宽等,还需要组建完整的运维团队来保证这些设备的正常运行。综合计算下来,布置企业自身的算力中心花销巨大。这对于中小微企业来说更是一笔难以承受的支出。

而云计算可以一劳永逸的解决上述问题,相当于多个企业共享硬件设施,只有当企业需要算力的时候才会购买,并不需要一直持有大量空闲算力。简单来说,云计算就相当于家庭用电,只有打开电灯,电表才会计数。

总的来说,云端+边端能够满足AI时代下所有应用场景的要求。如今AI大模型不断涌现,同时满足训练与推理,还具有性价比优势的云算力芯片已经成为AI大乱斗背景下的必争之地。但在高需求刺激之下,极速涌入云端算力芯片的资本还面临着更加严峻的问题,高门槛。

挑战与变局

过去,云端算力芯片仅受到部分企业关注。普通人对于它的理解往往仅限于大型服务器,云计算,神威太湖之光等名词上。2023年以来,ChatGPT的横空出世让普通人对AI的了解更进一步。AI大模型爆火后,给全球AI芯片市场带来了哪些影响?

摩尔线程专家认为,大模型的火热对芯片市场的影响,最直接的就是对算力基础设施的需求猛增,GPU作为大模型背后的关键算力基础设施,尤其受到追捧。与此同时,大模型全新的算法方式对传统的芯片架构提出了挑战。

那,挑战是什么呢?

随着OpenAI的一声炮响,全世界都被轰开了AI世界的大门。不过大规模计算所需要的高算力芯片挑战颇多。摩尔线程专家认为挑战主要来自芯片的通用性、功耗墙与显存墙上。

奇异摩尔联合创始人兼产品及解决方案副总裁祝俊东认为,目前云端算力芯片还面对着五大挑战:架构、系统、场景、互联以及快速迭代。

记者综合分析得出:

从架构上来说,运算算力芯片对算力提升的需求与日俱增,但目前传统SoC提升单芯片面积已经达到瓶颈,摩尔定律极限在时刻限制芯片发展,内存墙的限制也使得传统架构芯片难以提升,更让芯片在散热、功耗等方面处处掣肘。因此需要异构计算架构来寻求芯片新的突破,其中就包括绕开摩尔定律的more than more——异构计算。

从系统角度来看,随着大模型的广泛运用,模型参数与规模都呈现指数级增长,因此需要更大规模的整合计算系统来应对大模型训练和计算的需求。换句话说,尽管芯片算力不断增长,但仍旧需要软件端配合才能更好的发挥硬件性能。毕竟兵器是否趁手得看使用者的功力高低。

从应用场景来看,随着ChatGPT爆火,AICG赛道上涌现了越来越多的玩家,未来AI领域还将出现更多应用场景,这也意味着还会有新赛道出现。因此,作为“AI起舞的舞台”,运算算力芯片需要具备一定的通用性,也要有能力应对当今乃至未来日益多元化的专用计算场景。

从互联来看,云端算力芯片需要高带宽配合传输数据。未来大模型大算力应用涌现,云与端之间的快速交互,也将对带宽和延时提出更高要求。

最后,AICG与算力芯片市场还处于快速变化阶段,竞争者不断入行,蓝海可能一夜之间就变成红海。因此企业必须快速迭代产品,尤其在云端算力芯片上,需要不断调整产品策略来迎合未来产品的新需求,同时还要缩短TTM乃至量产时间。

总的来说云端算力芯片目前挑战颇多,无论是从技术角度还是市场角度,国内涌现的诸多AICG与算力芯片玩家都需要更多的突破。更重要的一点是,目前全球算力芯片绝大部分市场都在英伟达手中,国产算力芯片在市场上仍旧处于弱势。但在新兴市场中,有着强力GPU先发优势的英伟达面对的问题是什么呢?

除了AICG之外,目前自动驾驶技术同样发展迅速,值得关注,这也激发出了全新的算力芯片需求。自动驾驶中,受限于延时与传输,对于雷达与摄像头信号处理属于边或终端计算。但云计算对自动驾驶算法与系统的支持仍旧重要,云与端的结合成为更多汽车厂商的选择,但新的挑战也如期而至。英伟达技术专家在自动驾驶上的云端结合的挑战上指出,云在用于自动驾驶汽车的人工智能软件的开发中发挥着重要作用。数据被收集、整理、摄取、标记并用于训练深度神经网络,从计算角度来看是一项艰巨的任务。这是一个增强人工智能模型的迭代过程。创建模型后,将使用模拟在云中对其进行测试和验证。

英伟达的专家表示,自动驾驶汽车运行时,不需要连接到云,但这是一个额外的好处,可以从交通、基础设施和天气等各种来源获取信息,以实现安全驾驶操作。但自动驾驶汽车必须完全保持自主性,因此驾驶决策必须在车上做出,而不是在云端做出。连接到云的软件定义汽车还为汽车制造商提供了新的商业模式和订阅服务机会,同时为消费者带来价值。过去,汽车在购买时处于最佳状态,但随后就会贬值。对于软件定义的汽车来说,它处于最基本的销售水平,随着时间的推移,通过基于云,也就是云端算力芯片支持下的的软件更新,它会变得更好、更安全。

在挑战中育新机,于变局中开新局

AI“躁动”的这几年,也让下游应用场景百花齐放,这其中,AI与国产电动汽车全面崛起,让AI驾驶,也就是自动驾驶技术成为资本宠儿。

针对自动驾驶领域的云端算力芯片机遇,祝俊东认为,受自动驾驶技术的快速发展驱动,大算力AI芯片正在汽车领域迎来广阔的机遇和前景。通过高效的计算和深度学习算法,大算力AI芯片可以提供更精准和可靠的驾驶决策,提升行车安全性和驾驶体验。而在云和端的结合中,最大的难点在于自动驾驶技术对实时性和低延迟要求非常高,将算力分布在云端和边缘端之间会面临数据传输和处理的挑战。大量的传感器数据和图像到云端进行处理可能会导致较高的网络延迟和消耗大量的带宽。

他认为,异构芯片可以将AI算力和逻辑算力集成在一起,在不同的计算场景中发挥不同的效用。这种集成能够提供更高的计算性能和效率,满足自动驾驶技术对算力的需求。同时,异构集成高带宽、低延时的互联特性,也能有效帮助自动驾驶进行云与端的交互,有效提升自动驾驶系统的性能和效率。

跳出应用,回头看云端算力芯片本身。GPU或GPGPU是云端算力算力芯片或AI芯片的主流形态。不过也有人认为目前的AI芯片是过渡形态,未来所有AI芯片还会向ASIC方向靠拢。这对这一观点,摩尔线程专家认为,目前AI算法还在快速迭代和变化,在这个过程没有放缓或停止之前,GPU仍具有特别强的优势。对于云端算力芯片未来的看法,摩尔线程专家认为,云端基础设施需要具备对未来技术的兼容性,GPU仍是首选。未来的变化,在摩尔线程看来主要包括几个方面:工艺制程向前推进,算力、带宽不断上升;通过chiplet方案,进一步提高芯片级别的计算密度和系统集成度3、云端AI芯片将不断融合新算法所需的功能和加速模块。

祝俊东认为,在AI芯片领域,作为通用芯片和专用芯片的代表,GPU和ASIC各有优势。但是专用芯片与通用芯片永远都不是互相替代的关系,二者必须协同工作才能发挥出最大的价值。通过异构计算架构,可以把如GPU为代表的通用芯片与ASIC等专用芯片集合起来,兼顾通用性和专用性的双重优势,提供更全面和高效的解决方案。异构计算也有助于客户根据AI任务的实际需求,调整通用芯片和专用芯片的比重,以满足不断变化的AI应用领域的需求。

写在最后

总的来说,云端算力芯片为AI时代的创新和应用注入了无限活力,它已经成为当之无愧的“AI石油”。面临挑战与机遇,云端算力芯片未来还会不断突破创新,驱动着智能化世界的前行。

在追逐智能化的道路上,云端算力芯片扮演着不可或缺的角色。以其强大的计算能力和无限的潜力,它推动着科技的创新和进步。随着技术的不断发展,我们有理由相信云端算力芯片将继续引领人工智能的未来,为我们带来更加智能、高效的世界。

最后感谢摩尔线程、奇异摩尔以及英伟达三位专家接受采访。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54706

    浏览量

    471468
  • AI
    AI
    +关注

    关注

    91

    文章

    42229

    浏览量

    303248
  • 智能化
    +关注

    关注

    15

    文章

    5281

    浏览量

    60409

原文标题:云端算力芯片为什么是科技石油?

文章出处:【微信号:阿宝1990,微信公众号:阿宝1990】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    企业如何突破AI困局?2026 年异构管理平台推荐

    随着 AI 大模型爆发式增长,异构管理已成为企业 AI 基础设施建设的核心挑战。本文从行业现状出发,分析异构管理的核心痛点与选型要点,并结合典型产品实践,为企业技术决策者提供参
    的头像 发表于 05-20 12:53 140次阅读

    安谋科技“周易”X3 NPU R2升级,最高翻倍+密度跃升

    ”X3系列NPU在智能座舱、AI推理加速芯片及新兴市场等多领域的落地案例。 1、“周易”X3 R2版本升级,最高翻倍、密度提升超70
    的头像 发表于 05-18 15:02 144次阅读
    安谋科技“周易”X3 NPU R2升级,最高<b class='flag-5'>算</b><b class='flag-5'>力</b>翻倍+<b class='flag-5'>算</b><b class='flag-5'>力</b>密度跃升

    6TOPS+8K输出,这款RK3588芯片的AI主板把“旗舰”配置拉满了

    当AI从云端走向边缘过去几年,人工智能经历了一场静默的“迁徙”:从云端的集中式,逐步下沉到边缘侧的终端设备。驱动这场变革的,是两个趋势的交汇:
    的头像 发表于 04-30 15:17 1530次阅读
    6TOPS<b class='flag-5'>算</b><b class='flag-5'>力</b>+8K输出,这款RK3588<b class='flag-5'>芯片</b>的AI主板把“旗舰”配置拉满了

    AI卡壳“三堵墙”?破局突围,也许只差一个时频同步方案!

    作为数字经济的新“石油",AI正迎来指数级增长,但墙、存储墙、通信墙“三堵墙"与逆摩尔定律的双重压力,成为制约产业发展的核心瓶颈。在
    的头像 发表于 04-28 14:21 1.5w次阅读
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>卡壳“三堵墙”?破局突围,也许只差一个时频同步方案!

    国产出海元年开启

      国产开启“大航海”时代。 黄仁勋前段时间访华时曾表示:“华为AI芯片取代英伟达只是时间问题。”彼时,这话多被解读为对老对手的客套。但在刚刚结束的2025世界人工智能大会上,华为昇腾384超
    的头像 发表于 03-24 15:15 775次阅读
    国产<b class='flag-5'>算</b><b class='flag-5'>力</b>出海元年开启

    云天励飞正式举办大芯片战略前瞻会

    2月3日,云天励飞正式举办“大芯片战略前瞻会”,首次对外公布未来三年的大 AI 推理芯片
    的头像 发表于 02-06 17:23 3976次阅读

    中国芯片的拐点时刻

    作者|Taylor出品|芯片技术与工艺当OpenAI的GPT-5在得克萨斯州的机房中昼夜轰鸣,当Nvdia的H200芯片被炒至数十万美元仍一卡难求,中国的
    的头像 发表于 01-31 07:00 2259次阅读
    中国<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>的拐点时刻

    将AI送上太空,是终极方案还是疯狂幻想?评论区说出你的阵营!

    AI
    江苏易安联
    发布于 :2026年01月06日 09:43:34

    云端集中到边缘分布:边缘智如何重塑网络布局

    随着大模型推理延迟进入毫秒级时代,整个科技行业都意识到:网络的规则正在被改写。这场变革的核心,正是从云端集中式计算向边缘分布式智能的范式转移。据行业多家分析机构综合预测,全球AI基础设施正面
    的头像 发表于 12-25 11:34 733次阅读
    从<b class='flag-5'>云端</b>集中到边缘分布:边缘智<b class='flag-5'>算</b>如何重塑<b class='flag-5'>算</b><b class='flag-5'>力</b>网络布局

    迈向云端巅峰:昆仑芯K200 AI加速卡全面解读

    昆仑芯K200作为云端AI加速卡,在K100架构基础上全面升级。其INT8达256 TOPS,配备16GB HBM内存与512GB/s带宽,专为千亿参数大模型训练与高并发推理优化。采用全高全长双
    的头像 发表于 12-14 11:17 2506次阅读
    迈向<b class='flag-5'>云端</b><b class='flag-5'>算</b><b class='flag-5'>力</b>巅峰:昆仑芯K200 AI加速卡全面解读

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    最近行业都在说“是AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思昇腾910B,实测下来有点超出预期——7nm工艺下
    发表于 10-27 13:12

    腾视科技TS-SG-SM7系列AI模组:32TOPS引擎,开启边缘智能新纪元

    从城市管理到工业生产,从物流运输到消费终端,TS-SG-SM7系列AI模组以 “超强、超低功耗、灵活扩展” 的特性,成为边缘智能落地的关键支点。腾视科技正通过持续的技术创新,推
    的头像 发表于 07-07 16:44 2290次阅读
    腾视科技TS-SG-SM7系列AI<b class='flag-5'>算</b><b class='flag-5'>力</b>模组:32TOPS<b class='flag-5'>算</b><b class='flag-5'>力</b>引擎,开启边缘智能新纪元

    腾视科技TS-NV-P100系列AI边缘盒子综合算高达157TOPS:重新定义AI边缘,赋能千行百业智能化升级

    从技术架构到场景落地,腾视科技TS-NV-P100系列AI边缘盒子以 "前置、智能下沉" 的理念,推动AI技术从云端走向边缘,从概念
    的头像 发表于 07-02 10:24 2078次阅读
    腾视科技TS-NV-P100系列AI边缘<b class='flag-5'>算</b><b class='flag-5'>力</b>盒子综合算<b class='flag-5'>力</b>高达157TOPS:重新定义AI边缘<b class='flag-5'>算</b><b class='flag-5'>力</b>,赋能千行百业智能化升级

    腾视科技TS-NV-P100系列AI边缘盒子综合算高达157TOPS:重新定义AI边缘,赋能千行百业智能化升级

    从技术架构到场景落地,腾视科技TS-NV-P100系列AI边缘盒子以 "前置、智能下沉" 的理念,推动AI技术从云端走向边缘,从概念
    的头像 发表于 07-02 10:16 1589次阅读