HUAWEI HiAI Foundation端云协同助力开发者快速上线新业务

随着新技术的不断演进，人工智能已经广泛地应用到教育、金融、物流、零售、交通、医疗等各个领域。而在AI高速发展的当下，高效开发变得更为重要，如何将创意想法与AI技术深度融合，迅速转化为可落地的AI应用，是开发者在激励竞争中制胜的关键。

当前，AI业务和算法模型都在持续快速演进，AI计算平台适配新业务和新算法快速升级成为难题。

为了助力开发者快速上线新业务，为消费者提供新体验，HUAWEI HiAI Foundation在华为开发者大会2021（HDC.Together）上发布了全新的技术特性——端云协同。端云协同是针对新业务场景算子以及已有典型业务场景算子，提供性能优化、快速升级平台能力的解决方案。它具备可变的计算框架、广适的模型结构，助力开发者快速支持新模型、上线新业务，让消费者快速获得端侧AI带来的体验提升。

把算子库放到云端，老手机“焕发新春“

首先，端云协同解决了旧手机的“新服务”难题。

以往，消费者想要体验到最新的AI功能与服务，需要等算子库更新，而算子库内置在手机ROM中，手机新版本更新，算子库才能随之更新。但旧手机的版本更新次数会随着时间递减，甚至停止服务不再更新。如果手机版本不更新，算子库升级则成为一道难题，消费者的体验也会被延迟满足。另外，新功能从开发到ROM升级的周期也是以数月计，极大影响新业务上线的周期。

端云协同能够让老手机用户不受终端版本的限制，更灵活地享受更新、更优质的服务。基于华为端芯云三端打通的优势——底层是计算芯片及HiAI Foundation，端侧有预置的HiAI Engine，云侧有自己的计算库插件更新云，HiAI Foundation可以将算子库放到云端。当有新支持的算子或性能优化发布后，HUAWEI HiAI Foundation会在闲时静默自动更新新的算子库，开发者只需在APP开发时正常调用，无感使用升级后的计算能力，让老手机焕发新生机。

（HiAI Foundation端云协同示意图）

把模型放到云端，开发者按需取用

其次，端云协同可以快速匹配开发者的需求，帮助其降低开发成本。

通常情况下，应用开发的理想状态是，一个模型可以适用于所有类型的手机终端。虽然在CPU上运行模型可以达到这一目的，但以CPU为核心的传统计算架构已经不能适应当前应用对计算性能的强劲需求，很多应用在NPU的强大算力下才能将功能发挥到极致。这个时候，就需要开发者针对NPU进行模型定制，但问题随之而来，一方面，所有模型不可能打包在一个SDK里让大家去下载；另一方面，API的大小会受到限制，开发困扰不减反增。

HiAI Foundation端云协同的解决方案支持开发者将模型放到云端，这样既可以节省APP大小，又可以独立针对芯片部署最佳模型，最大限度提升用户体验。而端云协同技术不会干扰到开发者的任何模型数据，真正建立起一个完整生态壁垒，助力各行业开发者加速业务应用落地。

（HiAI Foundation端云协同示意图）

未来是智能主宰的时代。HiAI Foundation将利用这条端云协同的通路进一步放大端侧AI能力，通过端云协同的算子搜索、融合策略、异构分段策略、FFTL等技术赋能NPU机型，快速且低成本解决开发者的技术难题，激发全球开发者的想象力和创造性，开发出更多新奇酷炫的全新玩法。

编辑：jq