谷歌推出了其最新的人工智能数据中心芯片——Trillium。这款芯片是谷歌的第六代产品,与上一代TPU v5e相比,Trillium在每个芯片上的峰值计算性能提高了4.7倍,节能67%以上。
此外,谷歌还通过增加高带宽存储(HBM)容量和整体带宽,以及引入新的技术特性,如扩大了矩阵乘单元(MXU)的大小并提高了时钟速度,以及配备了第三代SparseCore等,进一步提升了Trillium的性能。
SparseCore是Trillium的一个关键特性,它是一种专门用于处理高级排名和推荐工作负载中常见的超大型嵌入的专用加速器。通过战略性地从张量核心中卸载随机和细粒度访问,SparseCore能够加速嵌入繁重的工作负载。此外,HBM容量和带宽翻倍后,Trillium可以使用具有更多权重和更大键值缓存的更大模型。
Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)表示,过去六年,行业对机器学习计算机的需求增长了100万台,每年大约增长10倍。谷歌推出Trillium AI芯片正是为了应对这一日益增长的需求。谷歌本身并不销售芯片,而是通过其云计算平台出租访问权限。谷歌表示,新芯片Trillium旨在为从大模型生成文本和其他媒体的技术提供支持,并计划于2024年末向云客户提供。
在架构设计上,Trillium可以在单个高带宽、低延迟的Pod中扩展到多达256个TPU,并且可以扩展到数百个Pod。这使得Trillium能够处理更大规模、更复杂的人工智能任务,进一步推动人工智能技术的发展和应用。
谷歌推出的Trillium AI芯片在性能上实现了近5倍的提升,并在多个方面进行了创新和改进。这款芯片有望在未来的人工智能领域中发挥重要作用。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
相关推荐
近日,半导体行业的创新先锋NEO Semiconductor震撼发布了一项革命性技术——3D X-AI芯片,这项技术旨在彻底颠覆人工智能处理领域的能效与性能边界。
发表于 08-21 15:45
•555次阅读
,在训练尖端人工智能方面,大型科技公司正在寻找英伟达以外的替代品。 不断迭代的谷歌TPU 芯片 随着机器学习算法,特别是深度学习算法在各个领域的广泛应用,对于高效、低功耗的AI计算硬件需求日益增长。传统的CPU和GPU在
发表于 07-31 01:08
•3210次阅读
苹果公司最近在一篇技术论文中披露,其先进的人工智能系统Apple Intelligence背后的两个关键AI模型,是在谷歌设计的云端芯片上完成预训练的。这一消息标志着在尖端AI训练领域
发表于 07-30 17:03
•657次阅读
分析人士认为,谷歌积极推进自主研发芯片,按照其规划,第七代和第八代产品将分别与联发科、世芯合作生产。此次第六代TPU的推出,有望引领CSP(云端服务提供商)厂商投入自研芯片领域。
发表于 05-16 18:05
•1295次阅读
2024年5月,谷歌母公司Alphabet在业界掀起了一股技术革新的浪潮,其最新推出的人工智能数据中心芯片“Trillium”备受瞩目。这款
发表于 05-16 10:44
•502次阅读
在今日举行的I/O 2024开发者大会上,谷歌公司震撼发布了其第六代数据中心AI芯片——Trillium Tensor处理器单元(TPU)。据谷歌
发表于 05-15 11:18
•569次阅读
谷歌CEO桑达尔·皮查伊表示,“谷歌自创立以来,始终引领GPU技术发展。”他进一步指出,新款TPU的计算性能较第五代提升4.7倍,主要得益于扩大了芯
发表于 05-15 10:22
•439次阅读
得RISC-V多核芯片能够更好地适应AI算法的不同需求,包括深度学习、神经网络等,从而提高芯片的性能和效率,降低成本,使
发表于 04-28 09:20
谷歌公布了新款数据中心人工智能(AI)芯片的细节,宣布了一款基于ARM的中央处理器(CPU)Axion。
发表于 04-15 16:17
•858次阅读
谷歌预计将通过Google Cloud提供Axion AI芯片给客户。谷歌强调这款基于ARM的CPU产品具有优越的性能表现,甚至超越了传统的
发表于 04-10 16:32
•807次阅读
谷歌最新推出的VLOGGER AI技术引起了广泛关注,这项创新的多模态模型能够让静态肖像图“活”起来并“说话”。用户只需提供一张人物肖像照片和一段音频内容,VLOGGER AI就能让图
发表于 03-22 10:45
•738次阅读
Cerebras Systems近日推出的Wafer Scale Engine 3(WSE-3)芯片无疑在人工智能领域掀起了一场革命。这款芯片不仅刷新了现有最快AI
发表于 03-20 11:32
•797次阅读
近日,芯片行业的领军企业Cerebras Systems宣布推出其革命性的产品——Wafer Scale Engine 3,该产品成功将现有最快AI芯片的世界纪录提升了一
发表于 03-19 09:31
•977次阅读
近日,谷歌研究院重磅推出全新AI扩散模型Lumiere,这款模型基于谷歌自主研发的“Space-Time U-Net”基础架构,旨在实现视频生成的一次性完成,同时保证视频的真实性和动作
发表于 02-04 13:49
•938次阅读
芯片AI
深圳市浮思特科技有限公司
发布于 :2023年11月15日 15:54:37
评论