0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌TPU v5p超越Nvidia H100,成为人工智能领域的竞争对手

微云疏影 来源:综合整理 作者:综合整理 2023-12-26 15:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

谷歌凭借新版TPU v5p成功挑战Nvidia——这款搭载超级计算机的顶级人工智芯片,拥有更高速度、大容量内存及带宽,显著优于Nvidia的H100。

谷歌借其最先进的Gemini人工智能模型,全新推出人工智能训练及推理专用的张量处理单元(TPU)最新版本,显然有意向Nvidia霸主地位的GPU发起冲击。

TPU v5p已在谷歌“AI超级计算机”项目中发挥重要作用,这并非专业科研型超算平台,而是面向各类人工智能应用。与Nvidia开放GPU购买策略不同,谷歌高端TPU主要供自家产品和服务运用。

新架构版TPU每个模块有8960颗芯片,较之上代v4的4096有所提升,且每块架构内的总浮点运算次数(FLOPs)增加至原来的四倍,吞吐能力达到惊人的4800Gbps。新型架构在内存及带宽方面更为出色,高达95GB的高带宽内存(HBM)远超TPU v4的32GB。

面对Nvidia异军突起的H100,究竟谁更强?值得关注的是,谷歌的TPU v5p在训练大规模语言模型上表现突出,效率提升两倍以上,相比于仓库版TPU v5e虽然在性价比上稍逊一筹,但仍使其成为当前最强版本。

比起Nvidia顶配的H100显卡——被公认为最适合AI任务专业级别的显卡之一,谷歌TPU v5p毫不畏惧。根据官方数据显示,其训练效能竟超越Nvidia同系列A100 GPU整整四倍!然而,实际对比还需通过严谨的基准测试才能最终定论。

另传闻称,谷歌TPU v4在训练效能上较A100还要提升1.2~1.7倍,此数据去年四月便已得到证实。据此估计,谷歌TPU v5p相较A100性能优势可能位于3.4~4.8倍之间,其竞争力水平相当于甚至超过Nvidia的H100,持续关注后续发展动态。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 超级计算机
    +关注

    关注

    2

    文章

    479

    浏览量

    43161
  • 人工智能
    +关注

    关注

    1813

    文章

    49752

    浏览量

    261644
  • TPU
    TPU
    +关注

    关注

    0

    文章

    164

    浏览量

    21540
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    直击英伟达腹地?谷歌TPU v7开放部署,催生OCS产业链红利

    电子发烧友网报道(文/莫婷婷)在AI技术飞速发展的今天,算力已成为决定企业竞争格局的核心要素。作为全球科技巨头,谷歌不仅在AI算法和大模型领域持续引领创新,更通过自主研发的张量处理单元
    的头像 发表于 11-27 08:53 8453次阅读
    直击英伟达腹地?<b class='flag-5'>谷歌</b><b class='flag-5'>TPU</b> <b class='flag-5'>v</b>7开放部署,催生OCS产业链红利

    利用超微型 Neuton ML 模型解锁 SoC 边缘人工智能

    如果你关注最新进展,可能已经知道 Nordic Semiconductor 收购了 Neuton.AI。 Neuton 是一家边缘 AI 公司,致力于使机器学习模型更易于访问。它创建的模型比竞争对手
    发表于 08-31 20:54

    挖到宝了!人工智能综合实验箱,高校新工科的宝藏神器

    ,技术自主可控 在如今这个科技竞争激烈的时代,国产化硬件的重要性不言而喻。比邻星人工智能综合实验箱就做到了这一点,采用国产化硬件,积极推进全行业产业链上下游环节的国产化进程,把国产自主可控的软硬件平台
    发表于 08-07 14:30

    挖到宝了!比邻星人工智能综合实验箱,高校新工科的宝藏神器!

    ,技术自主可控 在如今这个科技竞争激烈的时代,国产化硬件的重要性不言而喻。比邻星人工智能综合实验箱就做到了这一点,采用国产化硬件,积极推进全行业产业链上下游环节的国产化进程,把国产自主可控的软硬件平台
    发表于 08-07 14:23

    超小型Neuton机器学习模型, 在任何系统级芯片(SoC)上解锁边缘人工智能应用.

    Neuton 是一家边缘AI 公司,致力于让机器 学习模型更易于使用。它创建的模型比竞争对手的框架小10 倍,速度也快10 倍,甚至可以在最先进的边缘设备上进行人工智能处理。在这篇博文中,我们将介绍
    发表于 07-31 11:38

    最新人工智能硬件培训AI 基础入门学习课程参考2025版(大模型篇)

    人工智能大模型重塑教育与社会发展的当下,无论是探索未来职业方向,还是更新技术储备,掌握大模型知识都已成为新时代的必修课。从职场上辅助工作的智能助手,到课堂用于学术研究的智能工具,大模
    发表于 07-04 11:10

    GPU 维修干货 | 英伟达 GPU H100 常见故障有哪些?

    ABSTRACT摘要本文主要介绍英伟达H100常见的故障类型和问题。JAEALOT2025年55日今年,国家政府报告提出要持续推进“人工智能+”行动,大力发展
    的头像 发表于 05-05 09:03 2481次阅读
    GPU 维修干货 | 英伟达 GPU <b class='flag-5'>H100</b> 常见故障有哪些?

    Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用

    -Cognizant将与NVIDIA合作部署神经人工智能平台,加速企业人工智能应用 Cognizant将在关键增长领域提供解决方案,包括企业级AI
    的头像 发表于 03-26 14:42 583次阅读
    Cognizant将与<b class='flag-5'>NVIDIA</b>合作部署神经<b class='flag-5'>人工智能</b>平台,加速企业<b class='flag-5'>人工智能</b>应用

    英伟达A100H100比较

    英伟达A100H100都是针对高性能计算和人工智能任务设计的GPU,但在性能和特性上存在显著差异。以下是对这两款GPU的比较: 1. 架构与核心规格: A100: 架构: 基于Amp
    的头像 发表于 02-10 17:05 1.2w次阅读
    英伟达A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比较

    DeepSeek对人工智能领域的启示

    本文作者是 IBM 董事长兼首席执行官 Arvind Krishna。他认为,社会各界不应止步于应用人工智能,更要成为人工智能的共建者。
    的头像 发表于 02-07 09:46 1452次阅读

    特朗普宣布5000亿美元人工智能投资计划

    近日,美国人工智能领域迎来重磅消息。美国总统特朗普宣布,OpenAI、软银和甲骨文三家行业巨头正携手推进一项名为 “星际之门”(Stargate)的人工智能基础设施建设计划,总投资预计高达 5000 亿美元。这一举措旨在助力美国
    的头像 发表于 02-05 17:48 964次阅读

    谷歌再投10亿美元于人工智能公司Anthropic

    近日,Alphabet Inc.旗下的谷歌再度出手,向人工智能开发商Anthropic追加了10亿美元的投资,进一步提升了其在这家潜力无限、有望与OpenAI展开竞争的公司中的持股比例。 据一位
    的头像 发表于 01-23 10:57 849次阅读

    芯盾时代荣登“人工智能应用标杆TOP100”榜单

    近日,备受瞩目的第二届人工智能产业应用大会圆满落幕。会上,新智引擎与中关村人工智能研究院携手发布了备受关注的“人工智能应用标杆TOP100”榜单。这一榜单旨在表彰在
    的头像 发表于 01-15 16:50 808次阅读

    Infosys与谷歌云加强合作,推动企业人工智能创新,建立卓越中心

    利用Infosys Topaz和谷歌云技术,卓越中心将促进共同创新,提供变革性的人工智能解决方案  印度班加罗尔2024年12月19日 /美通社/ -- 下一代数字服务和咨询领域的全球领军者
    的头像 发表于 12-19 15:33 605次阅读

    卡诺模型为人工智能领域提供了一种全新的视角

    在探索人工智能如何更深层次满足用户需求、提升用户体验的旅程中,卡诺模型(Kano Model)提供了一个极具价值的理论框架。这一模型不仅为产品开发者带来了深刻的洞察力,同时也为人工智能领域的创新提供
    的头像 发表于 12-11 10:17 949次阅读