Top500超算与摩尔定律偏离渐远,谁是真正的性能强者?

2023-11-29 13:30:02 字數 3898 閱讀 9234

作者:于佳卉。

一周前,在2023年全球超级计算大会(sc23)上,备受关注的第62届top500超算排行榜正式揭晓。

彼时,来自世界各地的超算专家、企业家、学者和研究人员齐聚美国丹佛。作为世界高性能计算领域的顶级盛事之一,本次大会吸引了超过14000名参会者和438家参展商,数量创下历史新高。

在最新的榜单中,美国橡树岭国家实验室的frontier连续第四次夺冠,并且是当前已公开唯一的百亿亿级超算(也叫e级超算)。这意味着,其一小时的计算能力,相当于全球80亿人联合计算上万年的成果。

榜首虽然没变,但前十的格局已经出现了显著变化。 美国超算占据前三甲,阿贡国家实验室的aurora空降第二名,安装在microsoft azure云平台的eagle跻身第三,而日本理化学研究所与富士通开发的“富岳”,则从第二名滑落至第四。

全球超算榜单top10

虽然榜单排名总是最吸引人眼球的,但榜单更有意义的是呈现了各种新兴系统架构的特点,让我们看到计算、内存、互连等要素如何在不同的系统中协同作用。这些上榜的超算在性能、架构和计算效率方面都值得我们深入去**。

本文将对榜单top30超算的数据进行汇总分析,从而归纳出当前超算领域第一梯队的特点。

超算市场高度不平衡,技术进步集中于强者

首先,我们需要先回顾一下过去30年来,以高性能linpack基准测试衡量的top500榜单中第一名、最后一名以及总体的超算性能发展轨迹:

这张图表显示了从2023年到2023年超算性能的趋势。图中绿色圆点线(sum)代表所有上榜的超算性能总和,其增长显示了整体超算性能的提升。金色三角形线(#1)代表排名第一的超算性能,蓝色方块线(#500)代表排名第500的超算性能。

可以看出,top500的总算力与摩尔定律偏离得越来越远,摩尔定律告诉我们性能将会呈指数级增长。而事实上,我们所面对的是一个高度不平衡的市场,其中超大规模的计算机占据了总体算力的大部分,其余的部分由大量性能较低的计算机构成,两者之间差距十分明显。

下图更直观地显示了超算市场的不平衡状态,这是根据top500数据创建的一个上榜系统树状图,它展示了今年11月榜单中的超算系统和它们所用的不同技术架构。每个方块代表一台超级计算机,不同的颜色代表使用不同计算引擎的“阵营”。

从左上角开始顺时针来看,橙色方块代表日本的富岳,采用富士通a64fx arm芯片,拥有极强的矢量计算能力。

最大的橄榄绿方块代表美国橡树岭国家实验室的frontier,由hpe和amd打造。周围的浅绿色为同样采用amd gpu的其他系统。

湖蓝色方块代表阿贡国家实验室的aurora,aurora是首个部署英特尔max gpu的超算。值得注意的是,此次aurora测试时,只大约运行了一半的cpu和gpu。

其正下方的紫色方块是2023年基于神威sw26010处理器的太湖之光(架构与a64fx类似,属于搭载大量矢量引擎的cpu),目前部署在中国无锡的国家超算中心。

向左来到棕色英伟达a100的区域,其中最大的方块是意大利cineca研究中心的leonardo,由法国科技公司atos打造。

深蓝色区域包含了橡树岭国家实验室的summit以及劳伦斯利弗莫尔国家实验室的sierra。两台超算都采用了ibm power 9 cpu和nvidia v100 gpu。

左下角是首次登场的微软eagle,运行在微软azure云中,搭载了英伟达hopper h100 gpu加速器。

不难发现,排名前30的超算中涌现了不少新面孔。其中,备受关注的aurora超级计算机由hpe制造,该系统搭载了英特尔的cpu和gpu,同时采用hpe自家的slingshot互连技术。目前aurora系统还在调试阶段,预期最终会远超现在的算力测试水平。

另一台世界瞩目的超算frontier,采用了amd定制的“trento”epyc cpu和“aldebaran”mi250x gpu,且全部采用hpe slingshot 11实现互连,目前的hpl性能稳居世界第一。

但值得注意的是中国也安装了两到三套新的超算系统,或许已经超过了frontier,甚至有能力与充分调整后的aurora竞争。虽然这些系统还未正式公布,这里我们也将其列入了前30名单。

计算效率:超过75%已是优秀,纯cpu系统更高

上表中,浅蓝色框的超算系统,采用搭载了大量矢量引擎的cpu,包括富岳和太湖之光(海洋之光也是)。灰色框中的超算则是仅使用cpu的系统,其余22台超算(不包括黄框内的两台中国超算)均采用cpu+加速器的混合架构组合,且大多选择了英伟达或者amd的gpu。

而中国的两套超算系统——位于天津超算中心的天河三号系统和无锡国家超级计算中心的海洋之光系统,据传闻,天河三号的峰值性能将达到2.05百亿亿次,hpl性能约为1.57百亿亿次,这意味着也许它才是过去几年来的全球最强超算。而海洋之光的峰值性能约为1.5百亿亿次,hpl为1.22百亿亿次。

在超算领域,计算效率是衡量系统性能的重要指标,尤其是考虑到计算引擎成本的高昂。这里,我们采用hpl性能与理论峰值性能的比值来评估计算效率,理论上这个比值越高,说明系统架构越优秀。

具体来看,frontier的计算效率为71.1%,而aurora的计算效率仅为55.3%,约为理论峰值的一半。我们曾经估计,如果aurora系统的63744个英特尔max gpu都能发挥出31.5万亿次的算力,那么峰值性能就会超过2百亿亿次。但由于其计算效率低下,完全扩展后aurora也落后于frontier。如果aurora能够将计算效率提升至60%,便有潜力超越frontier。

相信随着英特尔和hpe对其开展全面测试和优化,未来aurora的性能和效率将会进一步提高。目前我们看到的还只是采用英特尔xe link互连的初始版本,如今英伟达已经发布了***nvlink,amd也推出第三代infinity fabric,升级到更高效的互连技术只是时间问题。

此次榜单前30名中,还有一些超算的计算效率低于平均值,这种情况并不稀奇。许多超算在进入榜单前,或上榜后的一段时间内,都在不断调优以提高计算效率。比如,我们当初曾听说frontier的计算效率一度不到50%,所以它的最终亮相时间比预期要晚。其实每引入一个新技术——无论是cpu、gpu还是互连技术——都可能导致大规模的系统变动。

另外,我们观察到,纯cpu系统由于网络层次较少,计算效率通常高于混合架构系统。前30名中纯cpu系统的平均计算效率为77.1%,明显高于平均70.3%的搭载加速器的系统。但是,将并发级别与计算效率相关联时,我们没有发现明确的规律,高并发并不意味着低效率。

从数据上看,计算效率超过75%已属不易,达到80%到85%更是难得。令人惊叹的是,纯cpu的“shaheen iii”集群计算效率高达90%,这是自十年前日本理化学研究所推出超级计算机“京”之后无比罕见的。

其实对于大多数工作负载,hpcg基准测试或许更能反映超算的实际应用性能,它也是top500的重要指标之一。但通常hpcg的测试结果远低于hpl测试,只有几个百分点。两者的优劣,还有待进一步研究。

中国芯片与摩尔定律

本周二,拜登 收紧了对销往中国的先进人工智能 ai 芯片的出口管制 主要目标是英伟达 nvidia 的h和a芯片,这些芯片是专门为规避去年实施的控制而设计的。h a 和 h a 之间的主要区别在于它们的通信带宽 a 具有 gb s 的速度 h 具有 gb s 这恰好是去年出口管制所禁止的限制,a 和...

为了复活摩尔定律,英特尔决定用玻璃来连接芯片

摩尔定律,这一伟大的科技规律,曾经被认为要告别我们了。然而最近的消息却让人欢欣鼓舞,因为摩尔定律可能再次复活。而这次,复活的关键因素是我们日常使用的玻璃材料。英特尔最近在其官网上发布了一个重要消息,即下一代先进封装的芯片基板将使用玻璃代替有机材料。为什么选择玻璃呢?原因并不是因为玻璃更便宜或者更好看...

摒弃摩尔定律?中科院提出“杂交水稻”方案,张忠谋提出质疑

中国科学院最近提出了一项颠覆性的计划 摒弃摩尔定律,启用 杂交水稻 方案。与此同时,张忠谋对此提出了质疑,认为这种方案受到了 芯片规则 的影响。在国内,中企在获取高端芯片时遇到了 层层屏障 这迫使国内不仅需要加速芯片产业的自主化,还必须时刻提防美国的 手段 由于中国半导体产业的迅猛发展,美国 已经启...