基于SPARC64架构的Arm超级处理器

​  最近ARM指令集相容处理器占据不少新闻版面，除了千呼万唤始出来、预定两年内完全取代英特尔处理器的Apple Silicon，再来就是引起不少讨论、先后在Green500和Top500夺下榜首的日本理化学研究所超级电脑「富岳」（富士山的别称）的关键技术核心：Fujitsu A64FX处理器。

整体来看，无论从哪个角度观察，这应该是目前最高端的ARM 指令集兼容处理器了。

其实Fujitsu 早在2018 年夏天的处理器业界盛事IEEE HotChips 30，就公开A64FX 的技术细节（其中部分内容更在4 月就先行披露），本质算是「电脑的语言」指令集架构从SPARC-v9 转换成ARM-v8.2-A 的SPARC64fx 处理器（因衍生于高端服务器专用的SPARC64，也继承了诸多类似特色，如大型主机等级的数据可用性），采用台积电7 纳米制程生产，主存储器使用近来因高端图形芯片逐渐普及的HBM2，和运算核心由台积电的2.5D 封装CoWos 技术封装成一颗，毋需外部的存储器颗粒。

讲更精确点，Fujitsu A64FX 是「针对超级电脑量身订做的ARM 指令集系统单芯片 SoC」（System-on-Chip，SoC），其概念更可追溯于2004 年11月，一举赶下雄踞「世界最强超级电脑王座」超过两年半（2002 年3 月到2004 年11 月）地球模拟器（Earth Simulator）的IBM BlueGene/L，体积仅有容纳1,024 个运算节点和8TB 主存储器的16座机柜，反观地球模拟器动用640 个运算节点，总共5,120 颗NEC SX-6 向量处理器和10TB 主存储器，多达320 座运算机柜，彰显了追求建造速度的独到思维与异质功能融合的潜在威力。

后来劳伦斯利佛摩国家实验室（LawrenceLivermore National Laboratory，LLNL）的BlueGene/L 持续扩充到104 座机柜（478TeraFlops，峰值596TeraFlops），2008 年6 月被同样出自IBM 的洛斯阿拉莫斯国家实验室（ Los Alamos National Laboratory，LANL）的Roadrunner 超越，稳占Top500 首位长达3 年半之久。后者是人类史上第一台效能达1PetaFlops 的超级电脑。

那年刚好微处理器论坛（MicroprocessorForum）首次在台湾举办（新竹烟波大饭店），IBM 也在活动议程里，充分阐述BlueGene/L 的技术细节与设计理念，笔者有幸坐在台下躬逢其盛，富岳和FujitsuA64FX 则让笔者回忆起历历在目的往事。

「世界最快的超级电脑」不但是国家科技能力的重大象征，更是科技强权之间的国力较量，根据国家的Top500 进榜数与总效能「圆饼图」，比重与趋势或多或少反映了国家的影响力。前述的富岳超级电脑，相关费用总计1,300 亿日圆，其中1,100 亿日圆由日本纳税人买单，日本政府「宣扬国威」的强烈动机，不言可喻。

自从个人电脑与集群运算环境（Cluster）普及后，超级电脑业界逐渐从特别客制化且量少价高向量处理器、系统控制与存储器芯片，朝向采用市售的「日用品」（Commodity）或系出同源的衍生产品（如nVidia 的高阶运算用GPU），除了降低购置与维护成本，亦可进一步提高超级电脑的可靠性与可用性。

也因此，Top500 清单早是满满一整排英特尔处理器与nVidia 加速卡（与很少的AMD 产品，以及根本没有未来的英特尔Xeon Phi），偶见IBM 的高端Power 处理器与Fujitsu 的SPARC64fx。

毕竟不计成本导入特制化零件与特殊半导体制程（甚至像Cray-3和Fujitsu VPP500 还用到砷化镓这么独特的材料）的「高阶试作品」，自然远不如消费性市场随手可得的「成熟量产品」可靠。过于特殊的专属规格处理器，也限制了应用软体和开发平台的选择性，提高开发软体的时间与成本。反之，投奔「开放规格」，即可享受到更多样化的开源社群资源，并因更频繁的技术交流，而加速技术演进。

但超级电脑市场较量的重点，并不只限于帐面效能和耗电，「研发时程」和「建造速度」也同样举足轻重。这也是IBM BlueGene/L 在十多年前可在超级电脑领域独领风骚的秘密：延续现有Power处理器的研发成果，打造高度系统单芯片化的运算节点，实现更高的空间利用密度和更快的系统组装速度。FujitsuA64FX 更承袭相同的思维，并藉由台积电被众多客户千锤百炼后的成熟制程、研发资源丰富的ARM 生态圈、拜显示芯片市场之所赐而便宜可靠的HBM 存储器，青出于蓝胜于蓝，相隔近16 年，重现系统单芯片一次夺下Top500 榜首的荣景。

大处着眼，小处着手

相信熟悉超级电脑的读者或许会想起，当时那台IBM 与Livermore 实验室合作的BlueGene/L 测试机，并非彻底施工完毕的超级电脑（这让日本人颇不以为然），但在Livermore 国家实验室，确实有部分应用程式跑在上头，并打败了地球模拟器保持的纪录。问题来了，为何IBM 可以用这么快的速度（当时可是震惊世人），建好一台世上最快的超级电脑？

2004 年，BlueGene/L 可谓世界最大的嵌入式微处理器集合，揭示了「大处着眼，小处着手」观念，将系统单芯片的价值，从微型系统带到极大规模的超级电脑，技术核心为重新设计后的双核PowerPC 440，具低耗电量和低发热量等特点。利用诸多今日我们耳熟能详的系统单芯片特色的BlueGene/L，有以下特点：

超级省电：相同的运算量，这台BlueGene/L耗电量仅NEC地球模拟器的二十八分之一，自然也降低了发热量。

简单清楚的系统架构：BlueGene/L不再有一大堆纠缠如「新竹米粉」的五颜六色线路和多如牛毛的网络汇流排控制器，易于安装与维护。

快速完成产品设计：利用现有研发成果，透过系统单芯片整合额外功能，不必重新设计每个元件，可迅速兜成产品。即使这算是「专属规格芯片」，但意义却和过去不惜血本的烧钱做法截然不同。

BlueGene/L 的架构相当单纯：

每颗时钟频率700MHz 的处理器芯片，包含两个倍增浮点运算器的修改版PowerPC440     核心与时脉350MHz 的4MB L3 快取存储器（可设定为系统存储器）。

两颗处理器芯片组成一张运算卡（Compute     Card），上面附有512MB 容量DDR 存储器，耗电量只有20W。

16 片计算卡构成一片节点卡（Node Board），32 个处理器芯片（64 核心），提供180GigaFlops 理论计算能力，8GB 存储器。

32 片节点卡装在同一台机箱，提供5.7TeraFlops     与256GB 存储器。

整个系统最大组态为65,536 个节点卡（64 个机箱），当全部处理器都设定成计算模式时，有高达360TFlops 的峰值运算量（2004 年底那台是70.72TeraFlops）和16TB 存储器。

所谓的超级电脑，就是指具巨大平行运算量的系统（有别于追求顶级可靠性和极致软体相容性的商用大型主机），大多数并行处理程序，都必须在执行每个小单元，参考之前的单元计算结果，或是传送结果到其他执行单元，带来巨大的资料传输量。超级电脑的开发者几乎都将一半精力耗费在资料传输网络的设计。

BlueGene/L 系统组成极端干净，处理器芯片内建5 种功能相异的网络控制器，让不同类型的工作分而治之，只需要板子上的连接点组成整个系统，你也看不到拉来拉去的排线和到处安插的汇流排网络控制器：

3D Torus网络：每颗芯片有6个方向传送资料到整个系统，具流量监控、计算最佳传送路径的功能。

Collective网络：用来管理控制。

处理中断与系统问题的低延迟高速网络（Global     Barriers and Interrupts）。

用来进行一般I/O和档案存取的Gigabit乙太网络。

用来控制开机与设定的控制网络（Control     Network）。

为何IBM 要让BlueGene/L 同时用5 种网络架构？起因于IBM 并未为了这台「速食」超级电脑设计专用作业系统，直接修改Linux 来用，并BlueGene/L 是每颗运算节点（一颗处理器）都是独立电脑的「Multicomputer」型态，单靠3D Torus 网络不足以保证在最短时间内即时传送所有资料，特别是和计算无关的控制管理讯号，所以动用多种拓朴网络以保证面面俱到，是很正确的手段。

同场加映更夸张的设计：Sun 曾竞标美国国防部先进研究计划署（Defense Advance Research Projects Agency，DARPA）于2002 年初开始的High Productivity Computing System，日后更名为PetaFLOPS 的超级电脑计划（略早于NEC 发表地球模拟器），提出惊世骇俗的「Hero」计划，引进「Proximity Communication」研究成果，透过芯片彼此相邻的「超高速无线传输」（别怀疑），一举解决频宽延迟的瓶颈和系统组装的麻烦。很可惜这案子由IBM 和Cray 击败Sun 共同得标，无缘让世人目睹这令人啧啧称奇的世界奇观。

虽然超级电脑的可靠性要求不如商业大型主机严谨，但看在巨大资料传输量的份上，假若自己的家用个人电脑可能一年内因一次讯号错误当机，套在超级电脑就可能变成一小时一次了。

也因此，IBM 在BlueGene/L 引入许多除错技术，由小到大，从芯片（所有存储器皆受到ECC 保护以修正单位元错误）到系统（所有节点和网络都有自我错误监测，而最重要的3D Torus 网络则动用超过4 种数学除错方式以保障资料传输的正确性）。当然，低发热量的系统单芯片，也降低超级电脑因过热而不稳的可能性。

承继IBM BlueGene/L 精神的Fujitsu A64FX

这些年来，服务器大厂纷纷放弃开发自家处理器，改投向「开放系统」的怀抱，但Fujitsu 仍持之以恒研发高端处理器，如GS 系列大型主机、Unix 服务器的SPARC64、因2011年「京」 （K-Computer）超级电脑专案诞生的SPARC64fx。

让SPARC64fx 转战ARM 指令集的A64FX，堪称三者集大成，也让ARM 指令集兼容处理器，一步登天，拥有商用大型主机（Mainframe）的高可靠度、高端服务器的高效能，与超级电脑最需要的低能耗比，身为「后京」（Post-K）时代的日系超级电脑心脏，性能目标是达到2011 年「京」的100 倍。富岳抢下Top500 榜首就是成果，且计划进度还比表订的2021 年量产出货提前甚多。

A64FX 主要特性如下：

台积电7 纳米FinFET 制程，87.86 亿晶体管，台积电CoWos 2.5D 封装包4 颗8GB 容量HBM2 存储器，兼顾缩减面积与提升存储器频宽。

基本上是替换指令集的SPARC64 XIfx，从核心微架构到基础结构皆大同小异，但系统存储器改用包在一起的32GB HBM2，却能大幅精简空间。

48 个计算核心和4 个处理I/O 作业的辅助核心，切成4 块CMG（Core Memory Group），每个CMG 有13 个核心（12 运算＋1 辅助I/O）、8MB L2     Cache、8MB HBM2 存储器。CMG g规划也与SPARC64 XIfx 大同小异，仅核心数略有差异。

SIMD 浮点运算「顺势」使用ARM 官方制定的SVE（Scalable Vector Extension）指令集，理论浮点运算性能达到2.7TeraFlops，是前代SPARC64 XIfx 的2.5 倍，数据格式也支持人工智能需要的FP16 与INT16 /8。

ARM 的SVE 不仅「比英特尔AVX-512 更富有向量电脑的传统风味」，也有个有趣的MOVPRFX 指令，用来弥补ARM 迈进64 位元后，为了提供32 个暂存器（需要5 位元指定一个暂存器，4 个就是20 位元）牺牲掉的FMA4 四运算元浮点乘积和（A×B＋C＝D）。一旦执行三运算元的FMA（A×B＋C＝C），会覆盖掉一个暂存器的原始内容。

MOVPRFX 指令可预先经由前置码（Prefix），「更名」运算目标暂存器，以保留其内容。而A64FX 的内部执行单元则会将接连的MOVPRFX 和FMA3 两个指令合而为一，变相实作FMA4，掩盖执行两个指令的额外延迟。

高可靠度则比照SPARC64fx 办理，大型主机等级的资料可用性，让整颗芯片大部分都受到ECC 单位元错误修正和Parity 纠错机制保护。

多处理器总线采用演进于「京」超级电脑的第三代「Tofu」（豆腐），6D Mesh/Torus 结构。

和BlueGene/L一样高度模组化设计，一个机柜框体（Rack）可置入384 颗A64FX，18432 个运算核心，单机柜理论效能超过1PetaFlops。

富岳由396 个机柜框体组成，152,064 颗A64FX，Top500     测定性能为415PetaFlops。

「热情拥抱现成资源」的弦外之音

Fujitsu 和理化学研究所在2019 年4 月15 日签订制造出货安装合约，11月富岳试作机拿下Green500 第一名，12 月2 日就开始出货6 个机柜框体，全数396个在2020 年5 月13 日全部搬入理化学研究所，速度真的很快，当年IBM BlueGene/L 的「速食」风格，在Fujitsu A64FX 也一览无遗。

况且，Fujitsu 还享用那时IBM 还体验不到的「完整IP 授权、最佳化电子辅助设计工具与相关函式库、专业晶圆代工」三位一体的成熟产业生态体系，大量引用「现成资源」加速产品研发与验证，降低成本，不限硬体，一并拥抱蓬勃发展中的ARM 软体资源，在「沿用市售标准品」和「拼死硬干特规货」中取得平衡点。这是Fujitsu在高效能运算处理器的「语言」，放弃SPARC 转向ARM 背后最重要的弦外之音。

最后，顺带一提，如果台积电继续维持制程优势，英特尔真的还有机会追上来吗（官方预定2021 年7 纳米、2023 年5 纳米、2025 年3 纳米、2027 年2 纳米、2029年1.4 纳米）？还是昔日傲视世界的半导体制造能力，将就此遭到毁灭性的打击？值得拭目以待。

编辑：黄飞