你应该知道的10个AI芯片术语

本文转自：半导体芯闻

AI 芯片领域发展迅速，芯片是每一种AI体验的基础，理解软件背后的硬件从未像现在这样重要。

以下是 10 个值得了解的术语：

---

---

1. AI 加速器 (AI Accelerator)

一类专门为 AI 工作负载而非通用计算构建的宽泛芯片类别。由于 AI 任务（如训练和推理）具有独特的需求，专为特定用途构建的加速器可以提供比通用芯片显著更好的性能和效率。AWS Trainium 芯片就是一个例子，其从零开始设计，旨在为生成式 AI 工作负载提供高性能和更低成本。

---

2. 集群 (Cluster)

一组连接在一起并作为一个单一、强大系统运行的芯片和服务器。训练一个前沿 AI 模型所需的计算能力远超任何单一芯片所能提供，因此成千上万颗芯片被链接在集群中，并以极高的速度进行通信。亚马逊的 Project Rainier 是全球最大的 AI 计算集群——这些集群的规模和效率是决定模型训练速度和成本效益的主要因素。

---

3. CPU (中央处理器)

计算机的通用“大脑”，旨在处理从运行应用程序到管理操作系统的广泛任务。随着 AI 系统变得更加复杂，特别是随着智能体 AI（agentic AI）的兴起，CPU 在协调整个系统的负载方面变得越来越关键。亚马逊为其云计算设计了 Graviton 处理器，最新一代的性能比前代提高了多达 25%。

---

4. GPU (图形处理器)

最初为渲染图形设计的芯片，现在广泛用于 AI，因为它可以同时执行多次计算——这种能力被称为并行处理。GPU 成为训练大型 AI 模型的首选硬件，归功于其能够同时处理海量数据。但它们只是 AI 计算堆栈的一部分。随着工作负载的多样化，行业正转向更广泛的专用硬件组合。

---

5. 推理 (Inference)

经过训练的 AI 模型应用其所学知识来生成输出的过程，例如回答问题、翻译句子或创建图像。训练是 AI 学习的方式，而推理则是它将训练付诸实践的方式。每当你与聊天机器人互动或收到个性化推荐时，后台都在进行推理。推理的要求与训练非常不同：速度和单次查询成本至关重要，这也是专门为推理优化的芯片越来越重要的原因。

---

6. 性价比 (Price performance)

衡量每一美元支出能获得多少计算能力的指标。在 AI 芯片领域，这是最重要的指标之一。两颗芯片可能提供相似的原始性能，但如果其中一颗的运行成本显著更低，它就具有更好的性价比。这是公司采用 Trainium 和 Graviton 等专用芯片的关键原因，它们旨在比通用替代方案提供更高的单位美元产出。

---

7. 专用芯片 (Purpose-built silicon)

从零开始为特定工作负载设计，而不是尝试擅长所有事情的芯片。这是 AI 基础设施领域正在发生的最重要的转变之一。公司不再仅仅依赖“一刀切”的硬件，而是越来越多地转向在性能、效率和成本方面进行优化的专用芯片。亚马逊为通用云计算设计了 Graviton，为 AI 训练和推理设计了 Trainium，其定制芯片业务最近超过了 200 亿美元的年收入跑率。

---

8. 吞吐量 (Throughput)

一个系统可以同时处理多少个 AI 请求或操作。高吞吐量是让 AI 扩展到数百万用户的关键。一个流行的 AI 应用程序可能每秒需要处理数千个请求。专用芯片旨在最大化吞吐量而不使成本激增，这在更多企业将 AI 集成到其产品和服务中时尤为重要。

---

9. 训练 (Training)

通过向 AI 模型输入海量数据集来教导模型的过程，使其能够学习模式、关系以及如何做出预测。训练是技术领域计算密集度最高的工作负载之一：构建一个前沿 AI 模型可能需要成千上万颗芯片运行数周或数月。这就是专用芯片发挥真正作用的地方。例如，Anthropic 目前使用超过 100 万颗 Trainium2 芯片来训练和服务其 Claude 模型。

---

10. 工作负载 (Workload)

要求芯片执行的任何计算任务或一组任务的总称。在 AI 中，不同的工作负载有非常不同的需求。训练模型、运行推理以及协调 AI 智能体，各自以不同的方式给硬件的不同部分带来压力。这就是为什么行业正从“一颗芯片搞定一切”转向将合适的芯片与合适的工作负载相匹配。

参考链接

https://www.aboutamazon.com/news/aws/ai-chip-terms-explained