异构计算构建更智能、更高效的AI未来

人工智能 (AI) 不再只是一个科研课题，它已然成为我们日常生活的一部分。从个性化医疗、智能可穿戴设备，到沉浸式数字娱乐以及自主机器人，AI 正在重塑我们生活、工作和创新的方式。然而，随着 AI 应用日益复杂，底层的基础设施也必须随之不断演进。

这正是麻省理工科技评论洞察 (MIT Technology Review Insights) 与 Arm 联合发布的新报告《AI 处理的未来 (The Future of AI Processing)》所聚焦的核心要点。该报告深入洞察了企业如何重新审视自身的计算策略，以满足当下 AI 发展的需求，并为未来变化做好准备。

何为异构计算？

这一转变的核心在于异构计算，该方式将 AI 工作负载分配到不同类型处理器（如 CPU、GPU、NPU 及其他 AI 加速器）上。每个组件都拥有其独特的优势：CPU 负责整体的协调工作，同时处理通用任务，以及进行高能效的推理工作；GPU 凭借强大算力，能够支持大规模的训练以及高吞吐量的运算；而 NPU 则针对实时推理进行优化。

这种架构组合，能够让计算系统根据工作负载的特点，动态地将其匹配到更合适的处理器上，从而针对性能、能效和成本进行优化。

Arm 工程部机器学习技术副总裁 Ian Bratt 在报告中指出：异构计算旨在提升性能和能效。某个工作负载可以运行在最合适的组件上，但其中的某部分可能更适合运行在另一个组件上。

AI 在工作、娱乐及生活中广泛应用

该报告着重阐述了异构计算如何在各种应用中实现更智能、更高效的 AI。例如：

可穿戴设备和智能家居设备利用小型端侧处理器进行实时推理，同时将个性化设置、模式识别等较为复杂的任务转移至云端处理。

农业和制造业中的工业机器人融合了计算机视觉与机器学习技术，并借助异构计算在动态环境中实现低延迟与能耗优化。

流媒体和游戏等娱乐平台将推理、编码和个性化处理等任务，合理分配到 CPU、GPU 和云基础设施上执行，从而实现性能与成本效益之间的良好平衡。

语音助手、预测文本和实时翻译等应用得益于混合 AI 处理技术，从集中式云端转向边缘侧和端侧计算。这种处理方式不仅能够缩短响应时间，增强隐私保护，还能提高能效。

这种由异构计算驱动的分布式模型，使得 AI 能够高效进行扩展，并适应各种实际需求。随着 AI 模型的规模和复杂性不断增加，找到合适的平衡至关重要。在很多实际场景中，在云端进行推理处理是较为理想的选择，尤其是在使用大模型、处理来自多个数据源的海量数据，以及需要快速向广大用户推送更新的情况下。

构建更智能、更高效的未来

正如报告中所强调的，能耗和成本效益正逐渐成为业界关注的核心问题。数据中心的能耗预计将大幅增长，企业因此也在寻求以更少资源实现更多产出的方法。异构计算使企业能够智能地管理各类工作负载，从而减少对 GPU 进行强制扩展的需求，节省下来的成本可以再次投入到创新开发。

这种灵活的处理方式还能够帮助企业保持长期的适应性。随着工作负载不断演变，企业需要的是那些不会将其局限于固定发展路径，也不会迫使企业进行昂贵改造的平台。而异构计算架构为企业提供了所需的多面性，使其在适应变化的过程中无需做出妥协。

《AI 处理的未来》报告深入探讨了这一全新模式，并汇集了来自 Arm、Meta、亚马逊云科技 (AWS) 和三星等公司高层的观点。如果你正在为新一代 AI 产品规划基础设施，那么这份报告绝对值得一读。