0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌推出Trillium AI芯片,性能提高近5倍

冬至配饺子 来源:网络整理 作者:网络整理 2024-05-16 10:39 次阅读

谷歌推出了其最新人工智能数据中心芯片——Trillium。这款芯片是谷歌的第六代产品,与上一代TPU v5e相比,Trillium在每个芯片上的峰值计算性能提高了4.7倍,节能67%以上。

此外,谷歌还通过增加高带宽存储(HBM)容量和整体带宽,以及引入新的技术特性,如扩大了矩阵乘单元(MXU)的大小并提高了时钟速度,以及配备了第三代SparseCore等,进一步提升了Trillium的性能。

SparseCore是Trillium的一个关键特性,它是一种专门用于处理高级排名和推荐工作负载中常见的超大型嵌入的专用加速器。通过战略性地从张量核心中卸载随机和细粒度访问,SparseCore能够加速嵌入繁重的工作负载。此外,HBM容量和带宽翻倍后,Trillium可以使用具有更多权重和更大键值缓存的更大模型。

Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)表示,过去六年,行业对机器学习计算机的需求增长了100万台,每年大约增长10倍。谷歌推出Trillium AI芯片正是为了应对这一日益增长的需求。谷歌本身并不销售芯片,而是通过其云计算平台出租访问权限。谷歌表示,新芯片Trillium旨在为从大模型生成文本和其他媒体的技术提供支持,并计划于2024年末向云客户提供。

在架构设计上,Trillium可以在单个高带宽、低延迟的Pod中扩展到多达256个TPU,并且可以扩展到数百个Pod。这使得Trillium能够处理更大规模、更复杂的人工智能任务,进一步推动人工智能技术的发展和应用。

谷歌推出的Trillium AI芯片在性能上实现了近5倍的提升,并在多个方面进行了创新和改进。这款芯片有望在未来的人工智能领域中发挥重要作用。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 谷歌
    +关注

    关注

    27

    文章

    6123

    浏览量

    104867
  • 人工智能
    +关注

    关注

    1789

    文章

    46525

    浏览量

    236778
  • AI芯片
    +关注

    关注

    17

    文章

    1849

    浏览量

    34818
收藏 人收藏

    评论

    相关推荐

    NEO推出3D X-AI芯片AI性能飙升百

    近日,半导体行业的创新先锋NEO Semiconductor震撼发布了一项革命性技术——3D X-AI芯片,这项技术旨在彻底颠覆人工智能处理领域的能效与性能边界。
    的头像 发表于 08-21 15:45 555次阅读

    从TPU v1到Trillium TPU,苹果等科技公司使用谷歌TPU进行AI计算

    ,在训练尖端人工智能方面,大型科技公司正在寻找英伟达以外的替代品。   不断迭代的谷歌TPU 芯片   随着机器学习算法,特别是深度学习算法在各个领域的广泛应用,对于高效、低功耗的AI计算硬件需求日益增长。传统的CPU和GPU在
    的头像 发表于 07-31 01:08 3210次阅读

    苹果承认使用谷歌芯片来训练AI

    苹果公司最近在一篇技术论文中披露,其先进的人工智能系统Apple Intelligence背后的两个关键AI模型,是在谷歌设计的云端芯片上完成预训练的。这一消息标志着在尖端AI训练领域
    的头像 发表于 07-30 17:03 657次阅读

    谷歌发布第六代TPU芯片Trillium,挑战GPT-4o

    分析人士认为,谷歌积极推进自主研发芯片,按照其规划,第七代和第八代产品将分别与联发科、世芯合作生产。此次第六代TPU的推出,有望引领CSP(云端服务提供商)厂商投入自研芯片领域。
    的头像 发表于 05-16 18:05 1295次阅读

    谷歌推出新一代AI数据中心芯片Trillium

    2024年5月,谷歌母公司Alphabet在业界掀起了一股技术革新的浪潮,其最新推出的人工智能数据中心芯片Trillium”备受瞩目。这款
    的头像 发表于 05-16 10:44 502次阅读

    谷歌推出第六代数据中心AI芯片Trillium TPU

    在今日举行的I/O 2024开发者大会上,谷歌公司震撼发布了其第六代数据中心AI芯片——Trillium Tensor处理器单元(TPU)。据谷歌
    的头像 发表于 05-15 11:18 569次阅读

    谷歌发布第六代数据中心AI芯片Tensor处理器单元Trilliu 

    谷歌CEO桑达尔·皮查伊表示,“谷歌自创立以来,始终引领GPU技术发展。”他进一步指出,新款TPU的计算性能较第五代提升4.7,主要得益于扩大了
    的头像 发表于 05-15 10:22 439次阅读

    risc-v多核芯片AI方面的应用

    得RISC-V多核芯片能够更好地适应AI算法的不同需求,包括深度学习、神经网络等,从而提高芯片性能和效率,降低成本,使
    发表于 04-28 09:20

    谷歌推出基于ARM的数据中心AI芯片Axion,性能比x86高50%

    谷歌公布了新款数据中心人工智能(AI芯片的细节,宣布了一款基于ARM的中央处理器(CPU)Axion。
    的头像 发表于 04-15 16:17 858次阅读

    谷歌发布Axion新款数据中心AI芯片性能超越x86及云端

    谷歌预计将通过Google Cloud提供Axion AI芯片给客户。谷歌强调这款基于ARM的CPU产品具有优越的性能表现,甚至超越了传统的
    的头像 发表于 04-10 16:32 807次阅读

    谷歌推出多模态VLOGGER AI

    谷歌最新推出的VLOGGER AI技术引起了广泛关注,这项创新的多模态模型能够让静态肖像图“活”起来并“说话”。用户只需提供一张人物肖像照片和一段音频内容,VLOGGER AI就能让图
    的头像 发表于 03-22 10:45 738次阅读

    Cerebras推出性能翻倍的WSE-3 AI芯片

    Cerebras Systems近日推出的Wafer Scale Engine 3(WSE-3)芯片无疑在人工智能领域掀起了一场革命。这款芯片不仅刷新了现有最快AI
    的头像 发表于 03-20 11:32 797次阅读

    最强AI芯片发布,Cerebras推出性能翻倍的WSE-3 AI芯片

    近日,芯片行业的领军企业Cerebras Systems宣布推出其革命性的产品——Wafer Scale Engine 3,该产品成功将现有最快AI芯片的世界纪录提升了一
    的头像 发表于 03-19 09:31 977次阅读
    最强<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>发布,Cerebras<b class='flag-5'>推出</b><b class='flag-5'>性能</b>翻倍的WSE-3 <b class='flag-5'>AI</b><b class='flag-5'>芯片</b>

    谷歌推出AI扩散模型Lumiere

    近日,谷歌研究院重磅推出全新AI扩散模型Lumiere,这款模型基于谷歌自主研发的“Space-Time U-Net”基础架构,旨在实现视频生成的一次性完成,同时保证视频的真实性和动作
    的头像 发表于 02-04 13:49 938次阅读

    #芯片 #AI 世界最强AI芯片H200性能大揭秘!

    芯片AI
    深圳市浮思特科技有限公司
    发布于 :2023年11月15日 15:54:37