0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NVIDIA与电信领导企业共建AI网格

丽台科技 来源:NVIDIA英伟达 2026-04-10 16:16 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

来源:NVIDIA英伟达

AT&T、T-Mobile、Comcast、Spectrum 等公司正在使用 NVIDIA AI 基础设施构建 AI 网格,Personal AI、Linker Vision、Serve Robotics 和 Decart 正在该网格上部署实时 AI 应用。

随着 AI 原生应用扩展到更多用户、智能体和设备,电信正成为下一个 AI 分发的前沿领域。

在 NVIDIA GTC 2026 上,美国和亚洲的领先运营商宣布正在构建 AI 网格,即地理分布且互联的 AI 基础设施,将利用其网络覆盖优势,在分布式边缘端提供并变现全新 AI 服务。

不同运营商正采取不同路径:许多供应商从激活现有有线边缘站点入手,将其作为 AI 网格来实现当下的商业化;另一些则借助 AI-RAN 技术,将 AI 完全集成到无线接入网中,使其同时作为工作负载和边缘推理平台。

电信公司和分布式云提供商运营着全球最庞大的基础设施之一:全球约有 10 万个分布式网络数据中心,覆盖区域中心、移动交换局和中心局。随着时间的推移,其富余电力足以提供超过 100 亿瓦的新增 AI 能力。

AI 网格将现有的空间场地、电力和连接能力转化为地理分布式计算平台,使 AI 推理更靠近用户、设备和数据,从而实现最佳响应速度与单 Token 成本对齐。这不仅是基础设施升级,更是 AI 交付方式的结构性变革:电信网络不再仅承载流量,而是成为 AI 规模化的核心。

全球运营商将分布式网络转化为 AI 网格

六大主要运营商正推动 AI 网格从概念走向现实:

AT&T 作为 IoT 领域的领导者,拥有超 1 亿个 IoT 连接,覆盖数千种设备类型。该公司正与思科和 NVIDIA 合作,构建面向 IoT 的 AI 网格。通过在专用 IoT 核心上运行 AI,并将 AI 推理能力移动至数据生成源头,AT&T 可支持关键任务型实时应用。比如在与 Linker Vision 合作的公共安全场景中,可实现更快检测、告警与响应,同时确保客户可在网络边缘端实现对敏感信息的掌控。

AT&T Business 产品高级副总裁 Shawn Hakl 表示:“扩展对企业和开发人员而言高度安全又易于获取的 AI 服务,是我们 IoT 连接战略的核心。通过结合 AT&T 的企业级连接、本地化 AI 计算与零信任安全机制,并与 NVIDIA 初创加速计划会员及思科合作,借助基于 NVIDIA 基础设施及思科 Mobility Services Platform 的思科 AI 网格,我们正将实时 AI 推理带到数据源头,加速数字化转型并释放新商机。”

Comcast 正将其全美最大规模的低延迟宽带网络之一,转化为可提供实时、超个性化体验的 AI 网格。与 NVIDIA、Decart、Personal AI 和 HPE 的合作验证表明,该 AI 网格即使在需求高峰期间,也能以更高吞吐量和更低每 Token 成本,保证对话智能体、互动媒体和 NVIDIA GeForce NOW 云游戏的响应速度与经济性。

Spectrum 拥有覆盖 5 亿设备、延迟低于 10 毫秒的网络基础设施,可支撑包含 1,000 多个边缘数据中心、数百兆瓦算力的 AI 网格。初期部署重点是借助嵌入在其 Spectrum 光纤驱动、低延迟网络中的远程 GPU,为媒体制作渲染高分辨率图形。

Akamai 正构建全球分布式 AI 网格,将 Akamai Inference Cloud 扩展至 4,400 多个边缘节点,部署数千块 NVIDIA RTX Blackwell 服务器版本 GPU。其 AI 网格编排平台可根据每个请求匹配与其适配层级的算力,在降低推理 Token 成本的同时,为游戏、媒体、金融和零售等应用提供低延迟的实时 AI 体验。

Indosat Ooredoo Hutchison 正将其主权 AI 工厂与印尼各地的分布式边缘及 AI-RAN 站点连接,构建服务于本地创新的 AI 网格。通过在印尼境内网格上运行基于印尼语的 Sahabat-AI 平台,Indosat 能将本地化 AI 服务带给分布在数千岛屿的数亿用户,并为当地开发者和初创企业提供一个快速、符合文化背景且在设计之初即合规的 AI 应用。

T-Mobile 正与 NVIDIA 合作,探索基于 NVIDIA RTX Blackwell 服务器版本 GPU 的边缘 AI 应用,展示了分布式网络站点如何支持新兴的 AI-RAN 及边缘推理用例。LinkerVision、Levatas、Vaidio、Archetype AI 和 Serve Robotics 等开发者已在该网格上试点智慧城市、工业和零售应用,将摄像头、配送机器人和城市级智能体连接至网络边缘的实时智能。这证明了基站和移动交换局可在持续提供先进 5G 连接的同时,支撑分布式边缘 AI 工作负载。

新一代 AI 原生服务激活电信 AI 网格

AI 网格正成为新一代 AI 原生应用的基础,这些应用具备实时、超个性化、高并发和高 Token 密集度等特征。

Personal AI 借助 NVIDIA Riva 在 AI 网格上运行人类级对话智能体。通过在离用户更近的地方部署小型语言模型,实现端到端延迟低于 500 毫秒、每 Token 成本降低 50% 以上,使语音交互既自然又具备规模化经济可行性。

Linker Vision 在 AI 网格上运行实时视觉 AI,变革城市管理。通过在分布式边缘站点处理数千路摄像头视频流,为实时检测与即时告警提供了可预测的低延迟,从而构建更安全、更智慧的城市。其交通事故检测速度提升达 10 倍,灾害响应速度提升达 15 倍,并能针对人群异常行为实现分钟级以内的告警。

Decart 通过将实时视频生成引入 AI 网格,重新定义超个性化分布式媒体。通过在网络边缘运行其 Lucy 模型,实现低于 12 毫秒的网络延迟,使互动视频流和 Overlay 能即时适配每位观众,在观看高峰期仍能提供流畅、沉浸的直播体验。

AI 网格参考设计与生态系统

NVIDIA AI 网格参考设计定义了在分布式站点部署与编排 AI 所需的核心组件,包括 NVIDIA 加速计算、网络与软件平台。

日益壮大的生态系统正推动解决方案落地:思科等全栈合作伙伴,以及 HPE 等基础设施合作伙伴,正基于 NVIDIA RTX Blackwell 服务器版本 系统构建 AI 网格解决方案;Armada、Rafay 和 Spectro Cloud 等合作伙伴致力于打造 AI 网格控制平面,实现跨分布式 AI 基础设施上工作负载的无缝编排。

思科运营商移动业务高级副总裁兼总经理 Masum Mir 表示:“物理 AI 正加速从集中式智能向网络边缘的分布式决策转变。我们与 NVIDIA 的合作整合了全栈能力——从 NVIDIA GPU 到思科的网络与移动能力——助力运营商能够支撑关键任务应用,交付实时推理,并参与 AI 价值链。”

该生态系统正共同助力电信公司与分布式云提供商重塑其在 AI 价值链中的角色,将网络边缘转变为统一的智能层,用于运行、扩展并变现 AI 工作负载。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5682

    浏览量

    110096
  • 电信
    +关注

    关注

    2

    文章

    770

    浏览量

    63508
  • AI
    AI
    +关注

    关注

    91

    文章

    40941

    浏览量

    302520

原文标题:NVIDIA 与电信领导企业共建 AI 网格,优化分布式网络推理性能

文章出处:【微信号:Leadtek,微信公众号:丽台科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI大模型微调企业项目实战课

    自主可控大模型:企业微调实战课,筑牢未来 AI 底座 在人工智能席卷全球商业版图的今天,企业对大模型(LLM)的态度已经从“新奇观望”转变为“全面拥抱”。然而,随着应用层面的不断深入,一个严峻
    发表于 04-16 18:48

    NVIDIA黄仁勋与行业领导者畅谈AI的未来

    Mistral、Perplexity、Cursor、Reflection AI 和 Thinking Machines Lab 的首席执行官等 AI 领导者一致认为,开放模型领域取得的成果有利于整个
    的头像 发表于 04-01 09:20 741次阅读

    2026 NVIDIA创业企业展示武汉站圆满收官

    3 月 12 日,由 NVIDIA 主办,联投基金联合主办的“2026 NVIDIA 创业企业展示·武汉站——AI 出海与应用专场”活动完美收官。这场聚焦
    的头像 发表于 03-23 15:32 437次阅读

    NVIDIA发布Vera Rubin DSX AI Factory参考设计

    NVIDIA 今日宣布推出 NVIDIA Vera Rubin DSX AI Factory 参考设计,这是一份用于构建协同设计的 AI 基础设施的指南。同时正式发布完全兼容
    的头像 发表于 03-18 14:42 617次阅读

    NVIDIA 携手全球机器人领导者,将物理 AI 带入现实世界

    新闻摘要: 全球物理 AI 领域的领导者——包括机器人“大脑”开发商、工业与手术机器人巨头、人形机器人先锋企业,如 ABB Robotics、智元机器人、Agility、CMR Surgical
    的头像 发表于 03-17 11:22 574次阅读
    <b class='flag-5'>NVIDIA</b> 携手全球机器人<b class='flag-5'>领导</b>者,将物理 <b class='flag-5'>AI</b> 带入现实世界

    NVIDIA推出代理式AI蓝图与电信推理模型

    借助全新开源大型电信模型与 NVIDIA Blueprint,电信运营商能够利用自有数据训练 AI 智能体,构建自主网络。
    的头像 发表于 03-06 17:37 3044次阅读

    NVIDIA CEO 黄仁勋与全球技术领导者在 GTC 2026 大会共话 AI 时代

    备受瞩目的 AI 和加速计算盛会 GTC 将于今年 3 月 16 日至 19 日在加利福尼亚州圣何塞举行。届时来自 190 多个国家及地区的开发者、研究人员、企业领导者和 AI 原生
    的头像 发表于 03-04 14:06 379次阅读
    <b class='flag-5'>NVIDIA</b> CEO 黄仁勋与全球技术<b class='flag-5'>领导</b>者在 GTC 2026 大会共话 <b class='flag-5'>AI</b> 时代

    生命科学领先企业采用 NVIDIA BioNeMo 平台加速 AI 驱动的药物研发

    Discovery、Basecamp Research、Boltz 及生态系统领先企业,将 NVIDIA BioNeMo、代理式 AI 与物理 AI 相结合,推动科学研究与药物研发规
    的头像 发表于 01-14 11:40 645次阅读
    生命科学领先<b class='flag-5'>企业</b>采用 <b class='flag-5'>NVIDIA</b> BioNeMo 平台加速 <b class='flag-5'>AI</b> 驱动的药物研发

    2025 NVIDIA创业企业展示北京站成功举办

    近日,2025 NVIDIA 创业企业展示——北京站(AI 智能体与物理 AI 出海专场)在北京量子银座集智会议中心举办。
    的头像 发表于 09-16 10:43 1301次阅读

    NVIDIA全栈加速代理式AI应用落地

    在近期举办的 AWS 中国峰会上,NVIDIA 聚焦于“NVIDIA 全栈加速代理式 AI 应用落地”,深入探讨了代理式 AI (Agentic A
    的头像 发表于 07-14 11:41 1446次阅读

    NVIDIA技术助力企业创建主权AI智能体

    AI Factory 的经验证设计将加速基础设施与软件(包括全新 NVIDIA NIM 微服务和经扩展的 NVIDIA Blueprint)相结合,为各国和企业简化了全栈式
    的头像 发表于 06-16 14:28 1511次阅读

    欧洲联手NVIDIA打造AI基础设施

    NVIDIA 于近日宣布,其正在携手欧洲各国、科技和行业领导者,共同建造 NVIDIA Blackwell AI 基础设施,以强化数字主权、支撑经济增长,并推动欧洲大陆成为
    的头像 发表于 06-16 14:25 1633次阅读

    NVIDIA计划打造全球首个工业AI云平台

    NVIDIA 宣布,其正在为欧洲制造商构建全球首个工业 AI 云。这家总部位于德国的 AI 工厂将配备 1 万个 GPU,包括通过 NVIDIA DGX B200 系统 和
    的头像 发表于 06-16 14:17 1597次阅读

    2025 NVIDIA创业企业展示澳门站圆满收官

    澳门站首次作为 NVIDIA 创业企业展示分站城市,聚焦 AI 智能体、物理 AI 和机器人等前沿技术,更有 NVIDIA Omnivers
    的头像 发表于 05-29 14:12 1043次阅读

    NVIDIA携手合作伙伴提升AI智能体的交互能力

    NVIDIA Enterprise AI Factory 的经验证设计和全新的 NVIDIA AI Blueprint 可帮助企业部署具有沟
    的头像 发表于 05-22 09:52 1216次阅读