0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Cerebras推WSE-3芯片,性能翻倍,助力超大规模AI模型训练

微云疏影 来源:综合整理 作者:综合整理 2024-03-14 10:01 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

据报道,硅谷晶圆芯片创企 Cerebras 近日公布了其 WSE-3 芯片型号,声称在保持相同能耗的基础上,性能较前作 WSE-2 提升逾一倍。主要技术规格如下:

首先,WSE-3采用台积电最新的5nm工艺制作(目前领先业界)。其次,该芯片拥有超过4万亿个晶体管以及90万个AI核心,配合44GB片上SRAM高速缓存及三种可选片外存储方案(分别是1.5TB、12TB与1.2PB)。此外,WSE-3还具备125 PFLOPS的AI运算能力。

Cerebras指出,新款CS-3系统基于WSE-3芯片设计,最高支持1.2PB的内存容量,适于训练比GPT-4及Gemini更大的未来模型。借助独特的逻辑内存空间技术,能将24000T模型参数集中储存,大幅减轻了开发者负担。

尤为值得关注的是,CS-3强大的卓越的训练性能使其成为满足大规模AI需求的最佳选择,甚至可以在单日内完成70B模型的精炼。借助最大规模的2048套CS-3系统集群,仅仅一天便能够完成长毛羊 70B 神经网络(Netrep Tempo)模型的深度学习。同时,CS-3系统在用户友好性设计方面也表现出色,与GPU相比,大模型训练中的编码量降低高达97%,更多人可以轻松掌握超大规模AI处理技能。

值得一提的是,阿联酋G42财团已经表态将创建含64套 CS-3系统在内的Condor Galaxy 3超级计算机,预计综合AI运算能力可达8 exaFLOPs。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54444

    浏览量

    469447
  • 台积电
    +关注

    关注

    44

    文章

    5812

    浏览量

    177058
  • sram
    +关注

    关注

    6

    文章

    833

    浏览量

    117728
  • 晶体管
    +关注

    关注

    78

    文章

    10442

    浏览量

    148625
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    意法半导体为超大规模AI数据中心破解供电难题

    的高密度电力传输解决方案》白皮书,深度解析ST适配NVIDIA 800V DC架构的高密功率传输方案,为超大规模AI数据中心破解供电难题!
    的头像 发表于 04-07 15:46 282次阅读
    意法半导体为<b class='flag-5'>超大规模</b><b class='flag-5'>AI</b>数据中心破解供电难题

    中科曙光scaleX万卡超集群筑牢超大规模智算硬核底座

    3月5日,2026年《政府工作报告》为算力产业划下重点:深化拓展“人工智能+”,实施超大规模智算集群、算电协同等新型基础设施工程,并加强全国一体化算力监测调度。
    的头像 发表于 03-10 14:35 823次阅读

    内存是AI能效提升的下一个前沿领域

    我们正在进入新的计算时代。AI 工作负载的占比越来越高,已成为影响企业基础设施战略、硅芯片路线图和业务指令的决定性力量。如今的 AI规模大到令人咋舌:
    的头像 发表于 02-09 09:47 671次阅读

    中科曙光scaleX万卡超集群重塑超大规模算力基础设施

    在“人工智能+”行动深入推进的当下,算力基础设施已成为国家战略竞争力的核心,而超大规模集群的运维管控难题却日益凸显。中科曙光scaleX万卡超集群打造的智能管理体系,正以“能管住-管得稳-用得好”的进阶逻辑,重塑超大规模算力基础设施的运行范式,让万级节点协同从行业痛点变为
    的头像 发表于 01-30 15:43 974次阅读

    燧原科技荣获2025年超大规模智算集群创新应用实践成果

    近日,中国信息通信研究院(以下简称“中国信通院”)成功召开2025AI云产业发展大会。中国通信标准化协会理事长闻库、中国信通院副院长王志勤出席会议并致辞。中国工程院院士郑纬民作主旨报告。会议期间,发布了超大规模智算集群创新应用实践成果,燧原科技国产万卡推理集群经多轮评审确
    的头像 发表于 12-29 09:59 522次阅读
    燧原科技荣获2025年<b class='flag-5'>超大规模</b>智算集群创新应用实践成果

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    和探索;人类级别的理解能力;常识推理;现实世界的知识整合。 3、测试时计算 测试时计算(TTC)是指在模型推理阶段利用额外的计算资源来提升泛化性能。 4、具身智能与渗透式AI 1)具身
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+第二章 实现深度学习AI芯片的创新方法与架构

    的同时,能够利用更小、更快的数字格式,提升模型的整体性能。 1.3Transformer 模型中的矩阵乘法计算 2、存内计算AI芯片 存内
    发表于 09-12 17:30

    大规模专家并行模型在TensorRT-LLM的设计

    DeepSeek-V3 / R1 等模型采用大规模细粒度混合专家模型 (MoE) 架构,大幅提升了开源模型的质量。Llama 4 和 Qwe
    的头像 发表于 09-06 15:21 1436次阅读
    <b class='flag-5'>大规模</b>专家并行<b class='flag-5'>模型</b>在TensorRT-LLM的设计

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    引领AI时代网络变革:睿海光电的核心竞争力 在AI时代,数据中心正经历从传统架构向AI工厂与AI云的转型。AI工厂依赖
    发表于 08-13 19:01

    Cognizant加速AI模型企业级开发

    全新解决方案旨在帮助企业快速且大规模地构建、微调和实施AI模型。 Cognizant 凭借其作为数据与AI模型
    的头像 发表于 07-31 17:25 815次阅读

    伟创力高效电源模块在超大规模数据中心的应用

    受云端存储和数据处理需求持续增长的推动,数据中心正以前所未有的速度扩张。当前全球超大规模数据中心,即规模最大的那些数据中心,总容量在过去四年内翻了一番,并仍在不断增长。
    的头像 发表于 07-07 15:41 1437次阅读

    超大规模芯片验证:基于AMD VP1902的S8-100原型验证系统实测性能翻倍

    引言随着AI、HPC及超大规模芯片设计需求呈指数级增长原型验证平台已成为芯片设计流程中验证复杂架构、缩短迭代周期的核心工具。然而,传统原型验证系统受限于单
    的头像 发表于 06-06 13:13 1657次阅读
    <b class='flag-5'>超大规模</b><b class='flag-5'>芯片</b>验证:基于AMD VP1902的S8-100原型验证系统实测<b class='flag-5'>性能</b><b class='flag-5'>翻倍</b>

    CMOS超大规模集成电路制造工艺流程的基础知识

    本节将介绍 CMOS 超大规模集成电路制造工艺流程的基础知识,重点将放在工艺流程的概要和不同工艺步骤对器件及电路性能的影响上。
    的头像 发表于 06-04 15:01 3031次阅读
    CMOS<b class='flag-5'>超大规模</b>集成电路制造工艺流程的基础知识

    纳微半导体推出12kW超大规模AI数据中心电源

    近日,纳微半导体宣布推出专为超大规模AI数据中心设计的最新12kW量产电源参考设计,可适配功率密度达120kW的高功率服务器机架。
    的头像 发表于 05-27 16:35 1757次阅读

    BDx成功融资助力香港超大规模数据中心扩建

     亚太地区发展势头迅猛的数据中心运营商BDx数据中心宣布,其香港首个专用超大规模数据中心开发项目融资已顺利完成。此次融资由Clifford Capital、大华银行(UOB)和三井住友银行(SMBC
    的头像 发表于 05-22 17:27 801次阅读