Gartner发布塑造AI基础设施未来的三大主要技术趋势

本文转自：Gartner公司

---

Gartner 2026大中华区高管交流大会于近日盛大召开。会上Gartner公布最新研究成果，梳理在新一代人工智能（AI）指数级跨越发展的时代背景下，塑造未来AI基础设施战略发展的三大主要技术趋势：构建AI超级计算平台、部署无处不在的AI、自动化运维与AI安全稳定扩展。

Gartner研究副总裁周玲表示：“据Gartner最新预测，预计到2029年，AI支出将达到4.7万亿美元，而其中AI基础设施将蕴含高达2.3万亿美元的市场机遇。本次行业洞察依托对资本流向的精准追踪与对技术专利与创新的深度研究和挖掘，经过层层过滤与严苛筛选形成。这些趋势将在未来1至3年、3至5年，乃至更长的周期内，深刻改变行业格局的战略演进方向。”

---

构建以“Token经济性”为核心的AI超级计算平台

生成式AI工作负载正在推高各方面的计算需求，包括本地、云端和边缘。GPU和定制AI芯片的使用率不断提高。纵向扩展AI编织将被广泛采用，并依靠光互连技术克服内存/输入-输出瓶颈。随着计算密度的提高，功耗也随之增加，未来AI超算机架将按照200kW/机架及以上的规格进行设计。未来，优化数据中心的基本单元已经不同。在“AI工厂”中，衡量生产力和商业价值的基本度量衡发生了根本性改变：不仅依靠传统的服务器利用率，还依靠Token经济性（Tokenomics），包括每美元带来的Token产出（Token/Dollar）、每瓦特能耗带来的Token产出（Token/Watt）、每秒钟处理的Token吞吐量（Token/Second）等等。未来的基础设施将基于业务成果和核心价值构建。

在此趋势下，Gartner建议，企业应当“以终为始，协同设计”，围绕模型规模和最终业务成果来设计基础设施策略，将每瓦特能耗带来的Token产出、每美元带来的Token产出等作为IT投资的核心指标。企业需要摒弃“基建先行，用户自来”的盲目乐观，构建本地部署环境来处理核心负载，同时制定灵活的策略，在算力需求爆发时，无缝扩展至主权云或公有云。此外，企业应当持续对其Token经济性进行审计和评估，定期审视Token的消耗与交付成本，确保那些总拥有成本（TCO）高昂的算力实例，真正创造了匹配的高标准业务价值。

周玲表示：“优化Token经济性的破局之道，在于全面打通本地、边缘与云端，实现AI超级算力在各个层面的无缝协同。”

---

在云、边、端大规模部署AI推理与物理AI

基础设施与运营的领导者必须清醒地认识到：AI用例即将无处不在。在不久的将来，企业需要重塑云基础设施策略，以满足AI推理工作负载短时、高频、爆发式的算力需求。本地部署和GPU即服务（GPUaaS）将成为专有模型微调和主权AI的关键支撑。更激动人心的是，新场景正在引爆算力边界。边缘AI计算应用，例如机器人技术、扩展现实（XR）等，要求企业在边缘侧部署更强大的GPU和AI专用芯片；物理AI终端，例如自动驾驶、具身智能等，正在催生对端侧AI能力的需求。

顺应趋势主动布局，是企业筑牢未来竞争力的关键。采用“突发优先（Burst-first）”策略，能大幅提升创新和交付速度，让AI项目更快转化为真金白银。布局本地化与主权AI不仅能严密保护知识产权，满足数据主权和监管要求，还能通过采用多元化的AI芯片，打破单一供应商锁定，优化长期成本。虽然物理AI的发展周期将是一场马拉松式征程，但在汽车、医疗、物流等行业的先行者，必将借此建立起降维打击的竞争壁垒。

为了支撑无处不在的AI场景，企业需要优化算力调度，合理配置AI超算资源，优化多加速器（GPU/NPU/TPU）平台的混用，并全面引入FinOps（云财务运营），确保每一分算力都用在刀刃上。边缘AI场景将引爆整个算力边界，企业应当将边缘AI作为具有可衡量投资回报率（ROI）的生产工具进行部署、扩展和运营。物理AI方面，企业应当拥抱物理AI试点，结合机器人、5G、数字孪生，启动试点项目，同时利用AI增强的仿真环境，实现快速规模化。

周玲表示：“企业需要确立‘突发优先’的基础设施架构以最大化算力效率。一方面使用云平台应对计算高峰，另一方面利用本地部署保障数据主权。同时，企业应当从现在开始着手构建从仿真到车间（sim-to-shop-floor）的物理AI管线，为未来3到5年的具身智能爆发奠定规模化落地基础。”

---

自动化运营管理与AI的安全治理

随着AI正式从“边缘创新”蜕变为“企业核心营收的驱动力”，AI系统本身已经成为了企业最关键的基础设施。这就意味着，必须为AI注入企业级的弹性、可靠性和极高的安全标准。为了实现这一目标，行业正在见证智能体驱动的IT运维（Agentic IT Ops）的崛起。企业需要引入能够自主简化IT流程的智能体，并结合“人在环中（Human-in-the-loop）”的治理机制进行高效的故障排查与修复。

智能体能帮助IT团队断崖式缩减平均修复时间（MTTR），并将“被动救火”转化为预测性的预防运维。企业可以通过标准化的AI工厂，保障大规模AI即服务（AIaaS）的交付安全。同时，在架构设计之初，企业就必须将主权数据合规、大模型多样性，以及多智能体（Multi-agent）系统的可扩展性纳入考量。

在此趋势下，企业一方面需要结合内部IT运营模式及流程，加速智能体驱动的IT运维自动化落地。同时，企业应当将AI平台视为产品，基于平台工程模式制定平台产品路线图，设定服务等级目标（SLO），建立成本分摊机制，引进FinOps的治理框架以保证算力使用的可视化，让AI基础设施平台的投入真正赋能业务。

周玲表示：“在推动AI从试点走向全面生产的过程中，完善的治理框架、智能体运维体系，以及强悍的AI超算能力，是三大不可或缺的加速器。”