高通AI Hub为开发者开启卓越终端侧AI性能

在今年的巴塞罗那世界移动通信大会（MWC）上，高通技术公司再次引领AI技术的创新潮流，发布了其全新的高通AI Hub。这一创新平台为开发者提供了一个全面的AI模型库，使得他们能够轻松快速地将预优化AI模型集成进应用程序中，从而为用户带来更快、更可靠且更具隐私性的体验。

高通AI Hub的核心是其预优化AI模型库，这一库支持在搭载骁龙和高通平台的终端上进行无缝部署。模型库中包含超过75个主流的AI和生成式AI模型，如Whisper、ControlNet、Stable Diffusion和Baichuan-7B等。这些模型可在不同的执行环境中打包，实现卓越的终端侧AI性能、降低内存占用并提升能效。

值得一提的是，所有模型都经过优化，旨在充分利用高通AI引擎内的所有核心（NPU、CPU和GPU）的硬件加速能力。这意味着推理速度可以得到4倍的提升，从而为用户提供更加流畅、高效的AI体验。

除了硬件加速外，AI模型库还能够自动处理从源框架到主流执行环境的模型转换，并与高通AI引擎Direct SDK协同工作，实现硬件感知优化。这意味着开发者可以更加便捷地将这些模型集成进他们的应用程序中，缩短产品上市时间，并发挥终端侧AI部署的诸多优势，如即时性、可靠性、隐私保护、个性化和成本优势。

为了方便开发者使用这些模型，高通AI Hub现已在高通AI Hub、GitHub和Hugging Face等平台上提供。此外，高通AI Hub还将持续增加新模型，并支持更多平台和操作系统。开发者只需注册登录，即可在搭载高通技术公司平台的云托管终端上自行运行模型，并通过高通AI Hub提前获取新特性和AI模型。

随着AI技术的不断发展和普及，高通AI Hub的推出无疑将为开发者提供更加便捷、高效的工具，推动终端侧AI技术的广泛应用和发展。我们期待这一平台能够在未来的AI领域中发挥更大的作用，为用户带来更加出色的AI体验。