NVIDIA助力Amdocs打造生成式AI智能体

概述

Amdocs 是一家为通信和媒体提供商提供软件与服务的领先供应商。该公司构建的 amAIz 特定领域生成式 AI 平台帮助电信公司深入改变了客户体验，实现了流程自动化，并优化了决策。Amdocs 正在使用NVIDIA DGX Cloud与NVIDIA AI Enterprise软件开发和交付基于商用大语言模型（LLM）和领域适配模型的解决方案。该公司还在使用NVIDIA NIM，这是一套易于使用的推理微服务，旨在加速生成式 AI 在企业中的部署。

NVIDIA 使 Amdocs提升生成式 AI性能并降低成本

通过与 NVIDIA 合作，Amdocs 启动了将生成式 AI 整合到其核心产品组合中的战略。该公司首先确定了应用领域，然后通过重新设计用户体验和重点开发快速工程技术，使生成式 AI 功能对用户更加友好。通过优化数据格式和微调 LLM，Amdocs 提高了其计费问答系统的准确性，同时大幅降低了成本。

此次与 NVIDIA 合作使 Amdocs 的 AI 生成回答准确率提升了 30%。这一提升对于实现生成式 AI 在电信行业的广泛应用以及满足直面消费者的生成式 AI 服务的需求至关重要。

借助 NVIDIA NIM 微服务，Amdocs 还降低了成本和延迟：

降低运营成本：Amdocs 通过在 NVIDIA 基础设施上使用基于电信的检索增强生成技术，减少了部署用例所消耗的 token 数量，其中数据预处理和推理消耗的 token 数量分别减少了 60% 和 40%。这使该公司在实现相同准确率的情况下，减少了单位 token 成本（该成本受各种因素和使用量的影响）。

减少延迟：此次合作成功地将查询延迟减少了约 80%，确保终端用户体验到近乎实时的响应速度。这一加速提升了商务、护理、运营等领域的用户体验。

Amdocs 计划继续通过多种方式，将生成式 AI 集成到 amAIz 平台中，以便：

使用 AI 驱动的语言和情感分析，增强客户查询路由功能

增强其 AI 解决方案的推理能力，从而提供针对客户特定需求的建议

应对需要广泛领域知识和多模态、多步骤解决方案的复杂场景，例如网络诊断和优化等

Amdocs 集团技术总裁兼战略主管 Anthony Goonetilleke表示：“与 NVIDIA 的战略合作是 Amdocs 提高生成式 AI 能力的关键。这让我们能够在基础设施和框架的基础上构建产品和服务，以满足客户不断发展的需求。”