交换机重要吗 如何使用NVIDIA交换机展现云计算、AI的性能

交换机重要吗？

网络矩阵是现代化数据中心性能的关键。这对数据中心的交换机提出了很多要求，而其中最基本的要求，是为所有客户提供等量的带宽，以便均匀地共享资源。如果没有公平的网络，所有应用都会因吞吐量恶化、延迟、分布式应用缓慢等原因，而出现性能不可预测的情况。

为了回答交换机是否重要这个问题，Tolly Group 对 NVIDIA Spectrum-3 12.8Tbps 交换机的云、AI 和存储应用性能进行了基准测试，并将结果与典型的（商品级）12.8Tbps 数据中心交换机的性能进行了同类比较。

Tolly Group

Tolly Group 是一家第三方独立 IT 行业实验室，30 多年来，一直从事对 IT 产品的性能测试和实际评估。Tolly Group 的定位是提供证据证明产品达到，或超越营销主张，并且不产生与 Tolly Group 公平测试宪章相冲突的报告。这一性能证明可以让客户知道自己是否可以放心地进行部署。

分布式应用的性能（AI 和 SPARK）

每个交换机都有一个缓冲区以防止丢包。每当送入交换机的流量超过可以送出交换机的流量时，缓冲区就会通过吸收数据包突发，来保护应用性能。这有时被称为 incast 流量模式。AI 和 Spark 等分布式应用因其性质而会受到 incast 流量模式的困扰。

两种交换机在其数据表中显示二者缓冲区大小相同。但 Tolly Group 发现，NVIDIA Spectrum-3 能够吸收的数据包是典型数据中心交换机的 4 - 8 倍，因此需要 8 台商品级交换机才能提供相当于 Spectrum-3 交换机的数据包吸收能力。

最大吸收能力固然重要，但光考虑这一点还不够。交换机必须均匀吸收来自所有发送方的微突发流量，一个节点的延缓就会使整个集群变慢。

Tolly Group 发现，Spectrum-3 在所有情况下都能均匀吸收来自所有发送方的微突发流量，而商品级交换机则会使多个节点变慢，导致计算资源未得到充分利用。

公有云和私有云性能

公有云和私有云环境中会出现“吵闹的邻居”问题，即当多个租户使用一个共享资源，如 CPU 周期或网络带宽时，出现了一个租户占用了这些资源，这个租户被称为“吵闹的邻居”。

“吵闹的邻居”问题可能因交换机租户之间的隔离能力不足，使得一个租户的使用而降低另一个租户的体验。数据中心交换机必须保护租户不受其他租户活动的影响，既要防止恶意攻击，也要防止“吵闹的邻居”的影响。

Tolly Group 发现，Spectrum-3 交换机完全保护了每个租户。而其他的交换机却未能保护租户，因为“吵闹的邻居”的流量模式，使一些租户的成为受害者，严重匮乏带宽。

在扩展多租户环境时，Spectrum-3 同样保护了每个租户。但在这种情况下，“吵闹的邻居”问题规模远大于商品级交换机，扩展到交换机端口总数的一半。换言之，多达 70 个端口可能成为受害者并出现带宽匮乏。

如果一个交换机不能保护租户免受“吵闹的邻居”的影响，该交换机就不符合云架构交换机的基本要求。

换句话说：使用 Spectrum-3，“吵闹的邻居”流量模式就不会产生影响。而如果使用商品级交换机，受害租户就会出现带宽匮乏。

存储性能

如今，数据中心的大多数存储流量都在以太网上运行。具体而言，存储通常使用 9KB 的巨帧。因此，这种数据包的大小变得比以往任何时候都重要，现在大多数交换机都支持 9KB 默认数据包大小。

但典型数据中心交换机仅仅支持 9KB 数据包，这并不意味着它们为存储应用进行了优化。为了测量和比较每个交换机的存储性能水平，Tolly Group 使用 IXIA 的标准网络测试工具来测量 9KB 数据包。

Tolly Group 发现，Spectrum-3 在所有情况下都能为所有存储节点提供可预测和公平的性能。商品级交换机在使用 9KB 数据包时，显示出不公平的流量共享，迫使一个存储节点的运行速度比其他存储节点慢 17 倍。这些不可预测的结果严重影响了存储性能。

这会对现实世界产生影响。比如本来计划并预计运行一个存储备份的时间为 2 小时，但最终用了 34 小时才完成。

混合应用性能

大多数数据中心运行多种不同的应用，每个应用数据包大小不尽相同。即使是单个应用也会使用各种不同大小的数据包。再加上控制流量模式，最终，网络上可能会出现更多不同大小的数据包。

Tolly Group 发现，无论数据包大小如何，Spectrum-3 始终能够实现公平性。而商品级交换机上，使用较小数据包的应用总会陷入带宽匮乏。更糟糕的是，随着数据包大小差距的增加，小数据包的情况变得越发糟糕。

在商品级交换机中，混合数据包大小所带来的带宽匮乏会对云、存储和分布式应用产生不利的影响。

为何会如此？

一言以蔽之，因为架构。

Spectrum 交换机有一个现代的、完全共享的缓冲区架构，以及灵活的流水线架构，该架构专为优化数据中心应用性能和安全而设计。进一步了解评估结果，请下载新的 Tolly Group 性能评估报告。该报告解释了 Spectrum 交换机和商品级交换机的架构及其优势与劣势。

架构是一个真正的零和游戏。但与其他许多厂商不同，NVIDIA 同时开发了 ASIC 和交换机，使用户可以兼得“鱼与熊掌”，并且其出色的结果也得到了 Tolly Group 验证的。

编辑：jq