如何利用先进网络技术实现可持续AI云服务

AI 云服务正面临着前所未有的挑战。

随着 AI 技术的飞速发展，企业对云网络的高性能、低延迟和高可扩展性提出了更高的要求。AI 应用通常需要兼顾训练与推理，在处理海量数据和复杂的计算任务的同时，应对不可预测的突发和局部拥塞，这不仅对计算资源提出了挑战，也对网络基础设施的性能和效率提出了严峻考验。

在刚结束的NVIDIA GTC上，NVIDIA 和 Crusoe Cloud 联合举办了一场技术研讨会，探讨如何利用先进的网络技术实现可持续的 AI 云服务。

在这次研讨会上，Keysight CyPerf 作为性能测试的黄金标准，成为了验证 NVIDIA OVS-DOCA 网络加速解决方案性能的关键利器，其精准的测试数据为技术突破提供了坚实依据。

什么是AI 云服务？

AI 云服务是指通过云计算平台提供人工智能（AI）相关的计算资源和服务。这些服务需要处理大量的数据和复杂的计算任务，因此对网络的性能、安全性和可持续性提出了极高的要求。

图1: Crusoe的AI云服务架构

什么是 OVS-DOCA？

Open Virtual Switch (OVS) 是一种开源的虚拟交换机，广泛用于云计算环境中。NVIDIA DOCA 是一个为数据中心和 AI 应用设计的加速软件框架，能够充分利用 NVIDIA 的硬件资源，如 ConnectX 网卡（NIC）和 BlueField 数据处理器（DPU）。

OVS-DOCA是 NVIDIA 推出的一种高性能、用户空间虚拟交换机解决方案，旨在为 AI 云网络提供卓越的性能和可扩展性。OVS-DOCA 基于 Open Virtual Switch (OVS) 和 NVIDIA DOCA 框架，通过硬件加速技术显著提升网络性能。

图2: OVS-DOCA 加速网络框架

Crusoe Cloud 使用Keysight CyPerf 验证 NVIDIA OVS-DOCA

Keysight CyPerf 是一种高性能的网络测试工具，能够模拟真实世界中的网络流量，用于测试网络的吞吐量、延迟和连接速率等关键性能指标。它广泛应用于云计算、数据中心和网络设备的性能测试中。

在会议中，Crusoe Cloud 与 NVIDIA 合作，利用 Keysight CyPerf 对 NVIDIA 的 OVS-DOCA 网络加速解决方案进行了全面测试。CyPerf 通过模拟真实世界中的高负载网络流量，验证了 OVS-DOCA 在吞吐量、连接速率和延迟方面的卓越性能。

图3: Keysight CyPerf 验证OVS-DOCA 网络测试流程

高吞吐量测试：

CyPerf 模拟了 400 Gbps 双向流量，验证了 OVS-DOCA 在高负载下的线速性能。

高连接速率测试：

在 25K 和 50K CPS 的条件下，CyPerf 测试了网络的连接建立和关闭性能，结果显示 OVS-DOCA 模式显著优于传统 OVS-Kernel 模式。

低延迟测试：

在高负载条件下，CyPerf 测量了网络的延迟，证明 OVS-DOCA 模式能够提供更低且更稳定的延迟表现。

资源利用测试：

CyPerf 监控了服务器的 CPU 利用率，验证了 OVS-DOCA 模式在高连接速率下显著降低了 CPU 使用率，提高了系统的整体效率。

结语

在 AI 云服务的快速发展中，网络性能和效率至关重要。KeySight CyPerf 作为领先的性能测试工具，为验证先进的网络加速解决方案提供了强大的支持。通过在 Crusoe Cloud 和 NVIDIA 的实验中表现出色，CyPerf 证明了其在验证 AI 云网络方案中的独特优势。选择 CyPerf，让您的网络性能测试更加精准、高效和可靠。

关于是德科技

是德科技（NYSE：KEYS）启迪并赋能创新者，助力他们将改变世界的技术带入生活。作为一家标准普尔 500 指数公司，我们提供先进的设计、仿真和测试解决方案，旨在帮助工程师在整个产品生命周期中更快地完成开发和部署，同时控制好风险。我们的客户遍及全球通信、工业自动化、航空航天与国防、汽车、半导体和通用电子等市场。我们与客户携手，加速创新，创造一个安全互联的世界。