0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌TPU v5p超越Nvidia H100,成为人工智能领域的竞争对手

微云疏影 来源:综合整理 作者:综合整理 2023-12-26 15:20 次阅读

谷歌凭借新版TPU v5p成功挑战Nvidia——这款搭载超级计算机的顶级人工智芯片,拥有更高速度、大容量内存及带宽,显著优于Nvidia的H100。

谷歌借其最先进的Gemini人工智能模型,全新推出人工智能训练及推理专用的张量处理单元(TPU)最新版本,显然有意向Nvidia霸主地位的GPU发起冲击。

TPU v5p已在谷歌“AI超级计算机”项目中发挥重要作用,这并非专业科研型超算平台,而是面向各类人工智能应用。与Nvidia开放GPU购买策略不同,谷歌高端TPU主要供自家产品和服务运用。

新架构版TPU每个模块有8960颗芯片,较之上代v4的4096有所提升,且每块架构内的总浮点运算次数(FLOPs)增加至原来的四倍,吞吐能力达到惊人的4800Gbps。新型架构在内存及带宽方面更为出色,高达95GB的高带宽内存(HBM)远超TPU v4的32GB。

面对Nvidia异军突起的H100,究竟谁更强?值得关注的是,谷歌的TPU v5p在训练大规模语言模型上表现突出,效率提升两倍以上,相比于仓库版TPU v5e虽然在性价比上稍逊一筹,但仍使其成为当前最强版本。

比起Nvidia顶配的H100显卡——被公认为最适合AI任务专业级别的显卡之一,谷歌TPU v5p毫不畏惧。根据官方数据显示,其训练效能竟超越Nvidia同系列A100 GPU整整四倍!然而,实际对比还需通过严谨的基准测试才能最终定论。

另传闻称,谷歌TPU v4在训练效能上较A100还要提升1.2~1.7倍,此数据去年四月便已得到证实。据此估计,谷歌TPU v5p相较A100性能优势可能位于3.4~4.8倍之间,其竞争力水平相当于甚至超过Nvidia的H100,持续关注后续发展动态。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 超级计算机
    +关注

    关注

    2

    文章

    434

    浏览量

    41611
  • 人工智能
    +关注

    关注

    1776

    文章

    43871

    浏览量

    230620
  • TPU
    TPU
    +关注

    关注

    0

    文章

    132

    浏览量

    20546
收藏 人收藏

    评论

    相关推荐

    5G智能物联网课程之Aidlux下人工智能开发

    ://t.elecfans.com/v/25653.html 人工智能 5G AIoT技术实践入门与探索(1) 15分34秒 https://t.elecfans.com/v/272
    发表于 04-01 10:40

    Groq推出大模型推理芯片 超越了传统GPU和谷歌TPU

    Groq推出了大模型推理芯片,以每秒500tokens的速度引起轰动,超越了传统GPU和谷歌TPU
    的头像 发表于 02-26 10:24 387次阅读
    Groq推出大模型推理芯片 <b class='flag-5'>超越</b>了传统GPU和<b class='flag-5'>谷歌</b><b class='flag-5'>TPU</b>

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域
    发表于 02-26 10:17

    英伟达在文件中首次明确指出最大的竞争对手

    英伟达公司在最新提交给美国证券交易委员会的文件中,首次明确将华为定位为其在人工智能芯片领域的最大竞争对手。这一声明引起了业界的广泛关注,也表明了人工智能芯片市场的激烈
    的头像 发表于 02-23 15:34 347次阅读

    英伟达首次将华为列为多个领域的最大竞争对手

    2月23日消息,据外媒报道,英伟达在周三提交给美国证交会的文件中,首次将华为列为包括人工智能(AI)芯片在内的多个领域的最大竞争对手
    的头像 发表于 02-23 13:37 533次阅读

    谷歌最强大的定制设计人工智能加速器—TPU v5p芯片

    谷歌正迅速成为 BFF Nvidia 的强大对手——为其超级计算机提供动力的 TPU v5p A
    的头像 发表于 12-26 09:31 1304次阅读

    英特尔希望在2024年超越其芯片制造竞争对手

    过去五年来,英特尔在先进芯片制造方面一直落后于台积电和三星。现在,为了重新夺回领先地位,该公司正在采取大胆且冒险的举措,在其台式机和笔记本电脑Arrow Lake处理器中引入两项新技术,该处理器将于2024年末推出。英特尔希望凭借新的晶体管技术和首创的电力输送系统超越竞争对手
    的头像 发表于 12-25 14:50 353次阅读

    谷歌发布多模态Gemini大模型及新一代TPU系统Cloud TPU v5p

    谷歌亦发布新一代TPU 系统——Cloud TPU v5p,以帮助训练尖端的 AI 模型。目
    的头像 发表于 12-12 10:50 805次阅读
    <b class='flag-5'>谷歌</b>发布多模态Gemini大模型及新一代<b class='flag-5'>TPU</b>系统Cloud <b class='flag-5'>TPU</b> <b class='flag-5'>v5p</b>

    OpenAI CEO:我屯了很多H100

    在此背景下,初创公司、AMD 等芯片竞争对手以及谷歌和亚马逊等大型科技公司一直在致力于打造更高效的人工智能应用芯片以满足需求,但迄今为止还没有一家能够超越
    的头像 发表于 11-15 17:57 508次阅读

    Infosys与谷歌云扩大合作,助力企业转型成为人工智能优先组织

    生成式人工智能实验室将利用Infosys Topaz和谷歌云生成式人工智能技术加速行业AI解决方案的开发 Infosys 将对2万名从业者提供谷歌云生成式
    的头像 发表于 10-27 16:35 326次阅读

    价格没谈拢?谷歌考虑抛弃AI赢家博通自研TPU

    今天,谷歌高层管理层讨论了在2027年放弃博通作为人工智能芯片的供应商。谷歌的这种苦恼是在就tpu芯片价格与博通对峙之后才实现的。
    的头像 发表于 09-22 09:34 350次阅读

    ai人工智能机器人

    随着时间的推移,人工智能的发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交融,成为
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    、社交、想象力、创造力、感知力,这是无法用逻辑和推理去定义和构造的。人工智能路途遥远,远远还不到与人类竞争的程度,而且也不会反生的。与其胡思乱想,不如好好学习发展人工智能,让社会的生产力继续提高,让
    发表于 09-18 10:02

    怎么成为人工智能人才

    第一步,学习基础知识。成为人工智能人才的第一步,当然是学习人工智能的基础知识。首先,需要掌握数学、统计学、计算机科学等相关学科的基础知识,包括线性代数、微积分、概率论与数理统计、算法及数据结构等。
    的头像 发表于 08-14 15:16 906次阅读

    英伟达a100h100哪个强?英伟达A100H100的区别

    基于Ampere架构的GPU计算加速器,专为高性能计算、人工智能和机器学习等领域而设计。它拥有高达6912个CUDA核心(在32GB版本中),是目前最强大的数据中心GPU之一。A100支持更快的训练速度和更大的模型容量,适用于需
    的头像 发表于 08-09 17:31 3.6w次阅读