0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

知道怎么区分GPU和CPU?GPU成为人工智能行业的利器又是什么原因

电子工程师 来源:科普中央厨房 北京科技报 作者:科普中央厨房 北 2021-04-08 11:04 次阅读

在第四次科技革命的东风下,云计算、大数据、人工智能等新兴技术以其优越的便捷性和稳定性,开始给服务器市场带来新的活力。其中,近几年出现了一种普通用户熟悉又陌生的GPU

近日,PC巨头英特尔发布了首款数据中心独立显卡,即服务器GPU。苹果新的M芯片也曝光了,GPU达到了128核。GPU与人工智能呼应后,不仅重构了当前的产业结构,还为整个市场带来了新的有效增量,一个全新的“GPU黄金时代”似乎正在如火如荼地展开。从“随太子读书”到“占便宜”,GPU是什么?为什么GPU开始出现在AI应用中?

GPU是什么?

适用于并行大数据的操作组件

说到GPU,就不能不提到CPU,CPU是英文中央处理器的缩写,也叫中央处理器。它不仅是计算机的操作核心,也是控制核心,其主要功能是协调计算机系统的工作。

现在买手机经常看到“高通骁龙”和“联发科”这两个字,买电脑也能看到“Core”和“AMD”这两个CPU中央处理器的品牌

GPU是英文Graphics Processing Unit的缩写,即专门为PC或嵌入式设备设计的执行图像操作的微处理器。与CPU相比,GPU专注于大量工作,主要执行复杂的数学和几何计算。

比如计算机显卡的核心就是GPU处理器。显卡的主要任务是读取和显示图形图像,需要复杂的并行计算,降低了核心CPU的计算负荷,与计算机CPU的速度关系不大。显卡性能越好,GPU越高级,这也是为什么很多游戏玩家对GPU有很深的感情。

北京邮电大学计算机学院副教授杨旭东说,中央处理器和图形处理器有许多相似之处。例如,两者都是为完成计算任务而设计的处理器,都遵循冯诺依曼计算机体系结构。但是,两者的区别也很明显。CPU的结构属于单指令单数据处理结构,逻辑计算能力强;GPU是单指令多数据处理结构,数据处理能力强。

总之CPU擅长指挥全局复杂逻辑计算,GPU擅长数据并行计算,所以特别适合处理大而统一的数据。

对于复杂的2D渲染或3D图像处理,CPU会花费大量资源进行处理,不仅会降低其他方面的工作效率,还会影响使用体验。于是CPU把一些高帧率的游戏画面和高质量的特效交给GPU处理。

另一方面,GPU不能单独工作,必须由CPU控制调用才能工作。CPU发出指令后,GPU收到自己的任务才开始工作。

GPU最初用于个人电脑,后来应用于移动智能终端,以解决多媒体数据处理的问题。在人工智能和大数据广泛应用的今天,人们把GPU放在服务器端,俗称服务器GPU。随着通信技术/网络技术的发展,数据处理越来越侧重于服务器计算。杨旭东表示,服务器GPU可以用于专业可视化、计算加速、深度学习等应用,也支持云计算、人工智能等一系列技术的发展,有望成为GPU行业未来应用的重点。

CPU和GPU结构差异示意图。为了提高效率,GPU可以大幅削减整数计算性能,并移除大量缓存

解析服务器GPU:

数据中心独立显卡

前面提到了服务器GPU。巧合的是,新冠肺炎疫情正好给了服务器GPU一个全新的机会。

今年以来,受疫情影响,全球在线业务量大幅提升,用户数量激增。比如流媒体观看视频数量增加,第二季度全球流媒体播放时间同比增长67%。再比如云游戏市场。近年来,01030等游戏

特别是在云游戏市场,它可以像高端电脑一样玩出高质量的游戏大作,同时不占用过多的本地存储空间。甚至索尼的PS系列也会在未来通过云游戏宣传可以兼容以往产品的内容。

但是云游戏实现起来并不容易,其中一个很大的技术瓶颈就是虚拟化。普通虚拟桌面不支持GPU虚拟化,而游戏严重依赖GPU渲染。没有GPU虚拟化,云游戏无法实现。同时还会出现网络不稳定导致延迟、高清屏幕显示效果差、运营成本高等问题。这就需要云服务器的专用显示芯片“服务器GPU”发挥作用。

基于这些要求,11月中旬,一家计算机巨头公司正式推出了其首款用于数据中心的独立显卡,即服务器GPU,名为SG1。这是一款专为Android云游戏和流媒体服务设计的高密度、低延迟产品。

该公司表示,未来服务提供商可以在不改变服务器数量的情况下独立扩展显卡的容量,并在每个系统上支持更多的流量和用户。比如一个典型的双卡系统可以支持100多个Android云游戏并发用户(同时执行一个操作或脚本,对服务器施加实际压力的用户),最多可以扩展到160个并发用户。

记者查了一下数据,发现2012年云游戏刚刚兴起的时候,GPU只能支持4个用户的并发。到2020年,虽然它增加到了50个用户的并发,但GPU和SG1的160个并发之间仍然有明显的差距。

云游戏的发展可以在高清大屏幕上为玩家呈现更高质量的内容,提高游戏的视觉效果,而SG1的突破带来了更高的性价比,可以通过软硬件协同优化解决成本问题。对于寻求降低成本和提高效率的云游戏运营商来说,这无疑是一个温暖的春风。

坐上人工智能的快车,未来GPU会取代CPU吗?

人工智能、虚拟现实和自动驾驶等技术近年来引起了高度的市场关注,成为科技和投资领域最热门的话题。尤其是深度学习引领的AI应用,因为AlphaGo在人机对战中的大获全胜,更是在全世界吹起一股AI风潮。

随着科学技术的发展,GPU早已不是计算机当中最为基础的“搬运工”,因为擅长大规模并发计算,所以GPU除了图像处理,也越来越多地参与到计算当中来,在人工智能、金融学、密码学、云服务等领域开始发挥越来越重要的作用。尤其是人工智能产业中,甚至成为行业内公认的“利器”之一。

GPU为何在AI应用当中崭露头角?杨旭东解释说,除了机器学习的帮忙,深度学习的类神经算法也在人工智能应用当中发挥着重要的作用。深度学习当中有一种技术叫“卷积神经网络CNN”,这种网络在数学上是许多卷积运算和矩阵运算的组合,恰恰和GPU本来能做的矩阵运算十分相似,因此深度学习就可以用GPU进行加速。

从2011年人工智能研究人员首次使用GPU为深度学习加速之后,GPU就开始在人工智能领域发挥巨大作用,这也让GPU本身有了跨越式的发展。十年时间内,不仅在性能上提升了20多倍,市场规模也得到了大幅提升。有机构预测,到2027年,全球GPU市场规模有望突破2000亿美元,从2020年到2027年,复合增长率有望高达33%。

因此有观点认为,按照现在的发展速率,因为CPU处理器已经出现了性能过剩等问题,若干年以后,GPU有望取代CPU。而在2017年的某场会议当中,英伟达(NVIDIA)CEO黄仁勋也曾公开表示,摩尔定律已经失效,GPU最终会取代CPU。

摩尔定律是由英特尔创始人之一戈登?摩尔所提出,其主要内容为:集成电路(芯片)上可容纳的晶体管数目,约每隔18至24个月便会增加一倍,性能也将提升一倍。

但近年来,随着以智能手机处理器性能的过剩以及性能提升的放缓,摩尔定律开始受到越来越多的质疑。

“GPU很难取代CPU,甚至在未来很长一段时间都无法实现。”杨旭东对这样的观点给予了否认。他解释说,这是因为从设计逻辑上来看,两者就有着根本的区别,CPU要统筹控制整个系统,各种复杂的指令都要它来执行,GPU如果也要这样做,自身就会变得复杂起来,连本职工作也无法完成了,所以GPU是无法取代CPU的。

“目前主流CPU晶体管数量在10亿左右,而顶级GPU晶体管数量已经达到了100亿甚至更多,所以CPU做不了GPU的事情,GPU也完成不了CPU的工作。”但杨旭东强调,未来随着制造技术进步和芯片的缩小,CPU和GPU架构之间将得到很好的融合。也就是说,CPU进一步强化处理数据模块的能力,GPU也可以承担更复杂的指令,最终促进计算机性能的大幅提升。

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    447

    文章

    47774

    浏览量

    409076
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10438

    浏览量

    206528
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4416

    浏览量

    126668
收藏 人收藏

    评论

    相关推荐

    AI训练,为什么需要GPU

    随着由ChatGPT引发的人工智能热潮,GPU成为了AI大模型训练平台的基石,甚至是决定性的算力底座。为什么GPU能力压CPU
    的头像 发表于 04-24 08:05 401次阅读
    AI训练,为什么需要<b class='flag-5'>GPU</b>?

    FPGA在深度学习应用中或将取代GPU

    现场可编程门阵列 (FPGA) 解决了 GPU 在运行深度学习模型时面临的许多问题 在过去的十年里,人工智能的再一次兴起使显卡行业受益匪浅。英伟达 (Nvidia) 和 AMD 等公司的股价也大幅
    发表于 03-21 15:19

    gpu是什么和cpu的区别

    GPU(Graphics Processing Unit)是一种专门设计用于处理图形和视频的处理器。最初,GPU的主要功能是处理计算机游戏和图形设计中的复杂图形操作,但随着技术的发展,GPU的功能已经扩展到了科学计算、
    的头像 发表于 02-20 11:24 978次阅读

    为什么GPUCPU更快?

    GPUCPU更快的原因并行处理能力:GPU可以同时处理多个任务和数据,而CPU通常只能一次处理一项任务。这是因为
    的头像 发表于 01-26 08:30 662次阅读
    为什么<b class='flag-5'>GPU</b>比<b class='flag-5'>CPU</b>更快?

    英伟达Grace-Hopper提供一个紧密集成的CPU + GPU解决方案

    英伟达Grace-Hopper提供了一个紧密集成的CPU + GPU解决方案,针对生成式人工智能逐渐成为主导的市场环境。
    的头像 发表于 01-02 15:52 340次阅读

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为
    发表于 09-21 11:09

    亿铸科技荣获2023人工智能行业杰出成长力企业奖

    2023(第八届)人工智能产业大会于8月30日在深圳圆满落幕,会上公布了2023(第八届)人工智能行业年度评选结果,亿铸科技荣获2023人工智能行业杰出成长力企业奖。
    发表于 09-01 15:09 228次阅读

    cpu gpu npu的区别 NPU与GPU哪个好?gpu是什么意思?

    cpu gpu npu的区别 NPU与GPU哪个好?gpu是什么意思? 在当今数字化和人工智能的时代,高效的计算能力是现代技术发展的重要基础
    的头像 发表于 08-27 17:03 8157次阅读

    CPU正式退位 属于GPU的高光时刻来了

    在传统计算机时代里,CPU作为整个计算大脑的中枢,拥有无可取代的核心地位,而GPU更多的只是“辅助”角色。但如今,双方的角色和地位已经发生了转变。而让GPU取代CPU历史地位的引爆点,
    的头像 发表于 08-25 15:03 476次阅读
    <b class='flag-5'>CPU</b>正式退位 属于<b class='flag-5'>GPU</b>的高光时刻来了

    怎么成为人工智能人才

    第一步,学习基础知识。成为人工智能人才的第一步,当然是学习人工智能的基础知识。首先,需要掌握数学、统计学、计算机科学等相关学科的基础知识,包括线性代数、微积分、概率论与数理统计、算法及数据结构等。
    的头像 发表于 08-14 15:16 896次阅读

    人工智能行业有哪些

    人工智能行业有哪些 人工智能(AI)行业是一个蓬勃发展的领域,涵盖了广泛的技术和应用领域。从智能语音助手到自动驾驶汽车,从医疗保健到金融服务,AI已经渗透到几乎所有
    的头像 发表于 08-12 16:58 3376次阅读

    什么是GPUCPUGPUCPU的区别及联系

    GPUCPU是计算机系统中最重要的两种处理器,它们在不同的应用中发挥不同的作用。
    发表于 08-09 18:24 2808次阅读

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业将增长到200亿美元,其中大部分增长是人工智能推理。英特尔Xeon可扩展处理器约占运行AI推理的处理器单元的70
    发表于 08-04 07:25

    2023中国人工智能行业概览

    MLOps 技术作为人工智能生产落地的重要推动力,重要性愈加凸显。博瀚智能作为国内私有云AI平台第一梯队服务商采用数据闭环驱动+ MLOps的技术路线提供丰富的产品精准解决传统方案痛点,赋能人工智能行业发展,未来前景相当广阔。
    的头像 发表于 07-03 15:13 584次阅读
    2023中国<b class='flag-5'>人工智能行业</b>概览

    常见GPU利用率低原因分析

    GPU 任务会交替的使用 CPUGPU 进行计算,当 CPU 计算成为瓶颈时,就会出现 GPU
    发表于 06-19 12:22 968次阅读
    常见<b class='flag-5'>GPU</b>利用率低<b class='flag-5'>原因</b>分析