英伟达发布DeepSeek R1于NIM平台

英伟达近日宣布，其DeepSeek R1 671b版本已正式上线英伟达NIM(NVIDIA Inference Microservices)平台，并以预览版的形式在build.nvidia.com网站上发布。

据悉，DeepSeek R1 NIM微服务是英伟达在人工智能领域的一项重要创新，旨在为用户提供高效、精准的推理服务。在单个英伟达HGX H200系统上，该微服务每秒最多可处理3872个token，展现出强大的处理能力和高效性。

此次上线的DeepSeek R1 NIM微服务预览版，允许开发人员对其进行测试和实验，以更好地了解其性能和功能。英伟达表示，未来该API将作为英伟达AI Enterprise软件平台的一部分，以可下载的NIM微服务形式正式推出，为用户提供更加便捷、高效的使用体验。

英伟达一直致力于推动人工智能技术的发展和应用，此次发布的DeepSeek R1 NIM微服务预览版，不仅展示了英伟达在人工智能领域的强大技术实力，也为用户提供了更加高效、精准的推理服务。