0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌TPU v5p超越Nvidia H100,成为人工智能领域的竞争对手

微云疏影 来源:综合整理 作者:综合整理 2023-12-26 15:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

谷歌凭借新版TPU v5p成功挑战Nvidia——这款搭载超级计算机的顶级人工智芯片,拥有更高速度、大容量内存及带宽,显著优于Nvidia的H100。

谷歌借其最先进的Gemini人工智能模型,全新推出人工智能训练及推理专用的张量处理单元(TPU)最新版本,显然有意向Nvidia霸主地位的GPU发起冲击。

TPU v5p已在谷歌“AI超级计算机”项目中发挥重要作用,这并非专业科研型超算平台,而是面向各类人工智能应用。与Nvidia开放GPU购买策略不同,谷歌高端TPU主要供自家产品和服务运用。

新架构版TPU每个模块有8960颗芯片,较之上代v4的4096有所提升,且每块架构内的总浮点运算次数(FLOPs)增加至原来的四倍,吞吐能力达到惊人的4800Gbps。新型架构在内存及带宽方面更为出色,高达95GB的高带宽内存(HBM)远超TPU v4的32GB。

面对Nvidia异军突起的H100,究竟谁更强?值得关注的是,谷歌的TPU v5p在训练大规模语言模型上表现突出,效率提升两倍以上,相比于仓库版TPU v5e虽然在性价比上稍逊一筹,但仍使其成为当前最强版本。

比起Nvidia顶配的H100显卡——被公认为最适合AI任务专业级别的显卡之一,谷歌TPU v5p毫不畏惧。根据官方数据显示,其训练效能竟超越Nvidia同系列A100 GPU整整四倍!然而,实际对比还需通过严谨的基准测试才能最终定论。

另传闻称,谷歌TPU v4在训练效能上较A100还要提升1.2~1.7倍,此数据去年四月便已得到证实。据此估计,谷歌TPU v5p相较A100性能优势可能位于3.4~4.8倍之间,其竞争力水平相当于甚至超过Nvidia的H100,持续关注后续发展动态。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 超级计算机
    +关注

    关注

    2

    文章

    483

    浏览量

    43497
  • 人工智能
    +关注

    关注

    1820

    文章

    50364

    浏览量

    267016
  • TPU
    TPU
    +关注

    关注

    0

    文章

    173

    浏览量

    21719
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    直击英伟达腹地?谷歌TPU v7开放部署,催生OCS产业链红利

    电子发烧友网报道(文/莫婷婷)在AI技术飞速发展的今天,算力已成为决定企业竞争格局的核心要素。作为全球科技巨头,谷歌不仅在AI算法和大模型领域持续引领创新,更通过自主研发的张量处理单元
    的头像 发表于 11-27 08:53 9757次阅读
    直击英伟达腹地?<b class='flag-5'>谷歌</b><b class='flag-5'>TPU</b> <b class='flag-5'>v</b>7开放部署,催生OCS产业链红利

    AI爆款应用驱动需求增长,英伟达H100租赁费用飙升40%

    电子发烧友网综合报道 近期,半导体研究机构SemiAnalysis发布的“H100一年期租赁合约价格指数”显示,英伟达四年前发布的H100芯片租赁费用近半年飙升近40%。这款“老芯片”租赁合约价格从
    的头像 发表于 04-05 07:05 1.3w次阅读

    浅谈人工智能(2)

    接前文《浅谈人工智能(1)》。 (5)什么是弱人工智能、强人工智能以及超人工智能? 弱人工智能
    的头像 发表于 02-22 08:24 354次阅读
    浅谈<b class='flag-5'>人工智能</b>(2)

    云巨头算力战升级!微软新一代3nm AI推理芯片性能提升30%,落地数据中心

    据外媒报道,微软发布新一代人工智能芯片Maia 200,这款芯片有望成为英伟达旗舰处理器以及云服务竞争对手亚马逊、谷歌同类产品的替代选择。微软称,这款芯片是为 AI 推理规模化部署打造
    的头像 发表于 01-27 12:29 1w次阅读
    云巨头算力战升级!微软新一代3nm AI推理芯片性能提升30%,落地数据中心

    淘宝数据API:竞争对手分析,战略调整!

    ​ 在电商领域竞争对手分析是企业制定有效战略的关键。淘宝作为中国领先的电商平台,提供了丰富的数据API接口,帮助企业获取市场信息并进行深度分析。本文将逐步介绍如何使用淘宝数据API进行竞争对手分析
    的头像 发表于 01-16 17:12 721次阅读
    淘宝数据API:<b class='flag-5'>竞争对手</b>分析,战略调整!

    AI芯片大单!Anthropic从博通采购100万颗TPU v7p芯片

    Anthropic供应基于TPU v7p的机架级 AI 系统,绕过TPU芯片的另一开发参与方谷歌。不过谷歌预计仍可从 Anthropic
    的头像 发表于 01-06 08:38 1.1w次阅读

    赋能工业未来:向成电子XC3576H工控主板多领域应用前景

    在工业4.0和智能制造的浪潮中,高性能、高可靠性的工控硬件已成为推动各行业数字化转型的核心引擎。向成电子--XC3576H工控主板,凭借其卓越的兼容性、强大的处理能力和灵活的扩展设计,正成为人
    的头像 发表于 09-20 18:17 623次阅读
    赋能工业未来:向成电子XC3576<b class='flag-5'>H</b>工控主板多<b class='flag-5'>领域</b>应用前景

    英伟达 H100 GPU 掉卡?做好这五点,让算力稳如泰山!

    H100服务器停工一天损失的算力成本可能比维修费还高。今天,我们给大家总结一套“防掉卡秘籍”,从日常管理到环境把控,手把手教你把掉卡风险压到最低。一、供电是“生命线”,这3点必须盯紧H100满载功耗
    的头像 发表于 09-05 11:03 1508次阅读
    英伟达 <b class='flag-5'>H100</b> GPU 掉卡?做好这五点,让算力稳如泰山!

    利用超微型 Neuton ML 模型解锁 SoC 边缘人工智能

    如果你关注最新进展,可能已经知道 Nordic Semiconductor 收购了 Neuton.AI。 Neuton 是一家边缘 AI 公司,致力于使机器学习模型更易于访问。它创建的模型比竞争对手
    发表于 08-31 20:54

    Lambda采用Supermicro NVIDIA Blackwell GPU服务器集群构建人工智能工厂

    人工智能/机器学习、HPC、云、存储和 5G/边缘的整体 IT 解决方案提供商 Super Micro Computer, Inc. (SMCI)今天宣布,超级智能云提供商 Lambda 已部署
    的头像 发表于 08-30 16:55 948次阅读

    挖到宝了!人工智能综合实验箱,高校新工科的宝藏神器

    ,技术自主可控 在如今这个科技竞争激烈的时代,国产化硬件的重要性不言而喻。比邻星人工智能综合实验箱就做到了这一点,采用国产化硬件,积极推进全行业产业链上下游环节的国产化进程,把国产自主可控的软硬件平台
    发表于 08-07 14:30

    挖到宝了!比邻星人工智能综合实验箱,高校新工科的宝藏神器!

    ,技术自主可控 在如今这个科技竞争激烈的时代,国产化硬件的重要性不言而喻。比邻星人工智能综合实验箱就做到了这一点,采用国产化硬件,积极推进全行业产业链上下游环节的国产化进程,把国产自主可控的软硬件平台
    发表于 08-07 14:23

    超小型Neuton机器学习模型, 在任何系统级芯片(SoC)上解锁边缘人工智能应用.

    Neuton 是一家边缘AI 公司,致力于让机器 学习模型更易于使用。它创建的模型比竞争对手的框架小10 倍,速度也快10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍
    发表于 07-31 11:38

    最新人工智能硬件培训AI 基础入门学习课程参考2025版(大模型篇)

    人工智能大模型重塑教育与社会发展的当下,无论是探索未来职业方向,还是更新技术储备,掌握大模型知识都已成为新时代的必修课。从职场上辅助工作的智能助手,到课堂用于学术研究的智能工具,大模
    发表于 07-04 11:10

    GPU 维修干货 | 英伟达 GPU H100 常见故障有哪些?

    ABSTRACT摘要本文主要介绍英伟达H100常见的故障类型和问题。JAEALOT2025年55日今年,国家政府报告提出要持续推进“人工智能+”行动,大力发展
    的头像 发表于 05-05 09:03 3420次阅读
    GPU 维修干货 | 英伟达 GPU <b class='flag-5'>H100</b> 常见故障有哪些?