AI芯片飙升，AI软件备受瞩目

虽然科技行业继续吹捧人工智能的“复兴”，但人工智能芯片初创公司的数量已经开始趋于平稳。人工智能初创公司发现，数据中心曾经是一个充满希望的市场，但其进入壁垒很高——也许令人望而却步。他们的问题可以追溯到谷歌、亚马逊和 Facebook 等超大规模企业，他们现在正在开发自己的人工智能处理器和加速器，以满足他们的特定需求。

需要明确的是，机器学习 (ML) 继续发展。更多的神经网络变体正在涌现。人工智能正在成为每个电子系统的固有特性。

Arteris 首席运营官 Laurent Moll 预测，在未来，“每个人的 SoC 中都有某种人工智能。” 这对 Arteris 来说是个好消息，因为它的业务是通过提供片上网络 (NoC) IP 和 IP 开发工具来帮助公司（无论大小，或新老）集成 SoC。

对于人工智能芯片初创公司？没那么多。竞争越来越激烈，使破解适合特定 AI 设计的细分市场的挑战变得更加复杂。

EE Times 将于下个月公布我们的“Silicon 100”（2021 版），这是一份新兴电子和半导体初创公司的年度名单。该报告的作者 Peter Clarke 二十年来一直在密切关注半导体初创公司。他告诉我们，专注于 GPU 和 AI 的专业芯片初创公司的数量“与前一年相比持平”。他观察到，“我们感觉到该行业可能已经达到了‘人工智能高峰’的地步。”

简而言之，人工智能芯片初创公司的沙拉时代可能已经结束。

Tirias Research 的首席分析师 Kevin Krewell 预计会有更多的 AI 芯片初创公司被收购。“毕竟，人工智能启动资金的爆炸式增长发生在英特尔收购 Nervana 之后。风投和天使投资人看到了一种可能有利可图的退出策略。” 他补充说，“今天有太多的 [AI] 初创公司超出了该行业的长期支持能力。我敢肯定，还会出现更多涉及模拟或光学的更奇特的解决方案。[但]最终，AI/ML 功能将被纳入更大的 SoC 或小芯片设计中。”

洛朗摩尔

在这种背景下，EE Times最近与 Arteris 新任命的首席运营官进行了会谈。曾担任 Arteris 首席技术官的 Moll 在高通公司工作了七年多，最近担任这家移动芯片巨头的工程副总裁。

我们向 Moll 询问了 AI 芯片领域的变化以及初创公司的发展方向。

淘金热

不出所料，Moll 将行业对 AI 的冲刺描述为他所见过的“最大的淘金热之一”。然而，这些后来的 49 人不再只是初创公司或小公司。探矿者包括“长期以来一直在制造硅片的公司，以及许多[以前]没有制造过硅片的新人，”Moll 说。每个人都“在同一个舞台上比赛”，每个人都在“努力解决问题”。

不断增长的开发人员基础和多样化的应用程序发挥了 Arteris 的优势，但它为 AI 芯片初创公司描绘了一幅截然不同的画面。他们不再只与具有类似新想法的 AI 初创公司竞争。但现在他们也在对抗大男孩。超大规模生产商和汽车原始设备制造商正在大力发展人工智能，以便他们可以将自己的芯片用于他们的系统。

仍处于扩张阶段

Arteris 的 Moll 观察到，人工智能芯片市场“仍处于扩张阶段”，“每个人都在探索”。尽管如此，他还是看到数据中心方面出现了“一点点秩序”。这主要是因为超大规模企业正在通过开发自己的人工智能处理器和加速器来控制自己的命运。

超大规模和其他 AI 芯片设计者之间的区别归结为一个因素。“他们拥有数据集，”Moll 说。Hyperscaler 不与其他人共享数据集，但他们正在开发专有软件堆栈。“而且他们觉得他们可以创建芯片，更加优化他们自己的数据访问。”

与此同时，外部供应商——较小的人工智能芯片初创公司——正在“开发构建 SoC 的新方法、使用 SRAM 和 DRAM 的新方法、堆叠、使用光学器件，”Moll 说。“有很多方法可以创造出秘方，使他们能够比现成的 AI 芯片做得更好。小个子正在改变游戏规则，他们非常聪明地以与众不同的方式做事。”

相比之下，超大规模企业所追求的人工智能芯片就没有那么创新了。Moll 观察到，超大规模用户可以负担得起使用更传统的方法。一个很好的例子是谷歌的 TPU。“如果你看它，架构很棒，但它不是革命性的——在很多方面。” 尽管如此，“它非常适合谷歌想要做的事情。所以，这符合他们的目的。”

如果小型 AI 初创公司的芯片如此新颖，他们不应该钻进超大规模的数据中心吗？

“不，不，不，”莫尔说。“任何小型企业都不太可能在数据中心市场扩张……或者超大规模企业购买他们的产品。” 然而，他指出，“一旦他们看到他们的技术有用并适用于他们想做的事情，他们肯定会购买其中一些初创公司。”

Moll 将超大规模的思路描述为：“我知道我的数据集是什么。我知道如何做一种更集中的架构。如果有人有一个很好的想法，让我们抓住这组人和IP，让我们改进我们自己的产品。”

Tirias Research 的 Krewell 表示同意。“你必须做一些惊人的事情才能让超标量承诺使用你的机器学习芯片。” Krewell 说，例如，Cerebras凭借其晶圆大小的芯片突破了极限。“由于其无处不在的软件和可扩展性，Nvidia 仍然是 AI 开发工作的默认平台。”

边缘呢？

Moll 指出，对于 AI 芯片设计师来说，与数据中心相比，“边缘是一个完全不同的故事”。边缘的终端市场是多功能的，需要更广泛的解决方案。“很多人仍在弄清楚在哪里应用人工智能，以及如何实施它，”Moll 说。

点击查看完整大小的图片

到 2025 年，19% 的半导体可用市场将与 AI/ML 相关。（来源：伯恩斯坦；思科；Gartner；IC Insights；IHS Markit；Machina Research；麦肯锡分析——由 Arteris 编译）

Tirias Research 的 Krewell 对此表示赞同。“边缘仍然是一个相对未开发的领域。仍有机会将 ML 添加到传感器和边缘设备。非常低功耗的模拟和内存设备以及 MCU 和应用处理器中的加速器具有前景。我看到边缘处理器中 INT4 和 INT2 推理的巨大潜力——准确度高，功耗和内存要求低得多。”

虽然多样化的应用程序听起来令人兴奋，但它存在陷入边缘人工智能炒作周期的危险。

Edge AI 成为流行语并不是因为边缘是一个新市场，也不是因为它代表任何特定的产品类别。相反，缺乏定义已经将“优势”变成了初创公司可以将其产品与之关联的包罗万象的东西。

在广泛的边缘应用中，Moll 看到了两个不同的趋势。他指出，一个是“芯片内的人工智能，可以做其他事情”。“这就是爆炸的地方。”

他补充说，嵌入式系统市场是“外形尺寸、功率和散热等因素真正重要的地方”。

另一端的另一个趋势是“只做人工智能的巨大芯片”，Moll 指出。然而，边缘大芯片的应用仍在不断发展。

“芯片内的人工智能”最好的例子可能是智能手机的应用处理器，Moll 很清楚这一点。人工智能加速器在语音识别和视觉处理中发挥了关键作用。如今，人工智能已成为手机销售吸引力的重要组成部分。一个结果是“移动领域的老牌厂商（如高通）具有优势，”Moll 承认。

汽车中的人工智能

Moll 认为车辆中的人工智能是一个完全不同的故事。

他指出，将会有一系列解决方案，从重人工智能的计算机视觉芯片到完成所有繁重处理的大型人工智能芯片。随着汽车从 ADAS 向自动驾驶发展，Moll 预计更大的 AI 处理器将在高端汽车市场发挥关键作用。

虽然汽车行业的老牌企业通常拥有自己的小型 AI 芯片，但在 ADAS 方面具有优势，但在拥有相当大的 AI 芯片的自动驾驶市场中，AI 芯片初创公司仍有充足的空间。

但这就是转折点。

汽车原始设备制造商——模仿超大规模制造商——也在垂直化。特斯拉已经设计了自己的芯片，称为“全自动驾驶”计算机。几周前，大众汽车首席执行官赫伯特·迪斯 (Herbert Diess) 告诉一家德国报纸，该公司计划设计和开发自己的自动驾驶汽车高性能芯片以及所需的软件。

Moll 证实，汽车制造商“都在非常仔细地看待这个问题”。尽管 Arteris 是一家 IP 公司，“我们接到汽车 OEM 的电话，因为他们想要了解整个堆栈，并且想要控制”即将到来并改变车辆架构的“大堆硅片” .

Recogni、Blaize和Mythic等 AI 芯片初创公司将汽车列为他们瞄准的边缘 AI 细分市场。汽车制造商最终将如何在车辆中实施此类芯片还有待观察。

Krewell 强调：“汽车平台仍在不断发展。分布式功能具有模块化和降低风险的优势，但其构建和维护成本高于集中式处理综合体。”

他补充说：“另一个问题是数据。传感器将发送大量数据，边缘智能会减少数据传输，但需要权衡传感器延迟增加和机箱中更多分布式电源。传感器上轻量级边缘处理的某种平衡可以减少中央处理器的负载，而不会增加过多的延迟或需要过多的分布式电源。”

人工智能之战从芯片转向软件

Krewell 观察到，“我看到人工智能的重点从芯片转移到软件。部署 ML 功能需要好的软件。为了让更多嵌入式设计工程师和程序员能够使用 ML，需要让 ML 成为低代码。它还需要为特定应用程序自动创建自定义模型。”

摩尔也得出了类似的结论。当被问及为什么决定从高通回到 Arteris 时，他列举了两点。

首先，Arteris 曾经在一个小众市场中发挥作用——“IP 供应商之间的狭隘地方”。但这个利基现在已成为“关键空间之一”，人工智能芯片设计人员在此寻求帮助，通过在芯片上构建大量网络来“组装非常庞大和复杂的 SoC”。这就是 Arteris 的片上网络 (NOC) 可以进来以整体方式解决问题的地方。

其次，Arteris IP 去年收购了 Magillem。Moll 认为 Magillem 提供的“软件层”是创建一个非常庞大和复杂的 SoC 的另一个关键。在高通负责提供顶级芯片的团队后，“我开始认识到 Arteris 作为用户而非营销人员所提供的价值。”

审核编辑 黄昊宇