恩智浦如何实现负责任的边缘AI

当部分人仍在探索AI的应用方式时，恩智浦已着眼未来，提出关键问题：如何确保AI以安全、可靠且负责任的方式运行？通过与技术、政府及商界精英的合作，使其真正落地，正是负责任AI (Responsible AI) 成为焦点的关键。

想象一下，您正在驾车前往与朋友的聚会，满怀期待享受一顿美味的晚餐。您已经有一段时间没见过他们了，因此希望展现最佳状态。然而，在行驶过程中，警报声不断响起，让你困惑不已。此时，您收到来自车辆驾驶员监测系统 (DMS) 的提醒，提示你虽然驾驶表现良好，但未能保持足够的注意力。

您可能未曾意识到，这一情况的发生源于人工智能 (AI) 模型所采用的训练数据，这些数据为车辆的计算机视觉提供支持。然而，由于某些因素，AI模型误解了实时输入。这背后的原因在于，训练数据中的偏差导致女性司机更常被归类为“因个人仪容而分心”，这是训练过程中对人群特征的细微错误呈现所导致的结果。

驾驶员监测系统正在重塑我们的出行方式，但要在系统中集成AI技术，我们必须在模型开发过程中充分考虑数据偏差，以确保系统的公正性和可靠性。

负责任边缘AI开发的风险

这不仅仅是借助AI进行数据分析和预测所面临的风险，更涉及AI/ML系统的公平性与稳健性问题，以及它们对现代生活的深远影响。

例如，训练数据中的偏见可能导致个人在申请金融服务时被错误拒绝。同样，在缺乏适当的风险评估和防范措施的情况下，边缘AI也可能引发歧视性决策。智能边缘在连接物理世界与数字世界方面发挥着至关重要的作用。

物理AI作为生成式AI与机器人技术交汇的核心概念，必须依靠边缘设备实现，而不仅仅依赖云计算。因此，边缘AI的错位风险需要额外审查，以避免潜在的安全隐患和歧视问题。

全球正处于AI融入日常生活的关键阶段。2025年1月，波士顿咨询公司调查显示，75%的高管将AI列为2025年的3大战略重点。然而，尽管AI的影响力持续上升，但仅有不到三分之一的企业帮助其不到25%的员工提升了AI技能，这凸显了对相关教育和意识培养的迫切需求。

随着边缘AI技术的不断发展，工厂正变得愈发智能化与自主化。

负责任的边缘AI

当众多企业仍在探索AI的应用方式时，恩智浦已着眼未来，提出关键问题：如何确保AI以安全、可靠且负责任的方式运行？通过与技术、政府及商界精英的合作，使其真正落地，正是负责任AI (Responsible AI) 成为焦点的关键。

负责任的AI既不是独立的技术，也不仅仅是政策与最佳实践的集合。它深度融入技术和非技术领域，涵盖机器学习、生成式AI与语言模型、时间序列数据、计算机视觉、语音识别，以及所有类型的智能软件、传感器和硬件。AI带来的风险影响着企业与个人——负责任AI必须确保双方的平等代表性。

边缘AI正深刻改变我们的生活方式，使家庭在日常活动场景中变得更加智能化。

因此，负责任的AI在实践中需要协同一致且全面的努力。恩智浦从边缘AI赋能的角度深入研究这一课题。作为智能边缘领域的领军企业，我们撰写了《负责任的边缘AI赋能技术》白皮书。

该白皮书旨在帮助理解和解读欧盟《AI法案》等最新立法，深入探讨边缘AI的风险及其应对措施，同时强调SoC供应商的角色和责任。此外，文中概述了恩智浦如何通过软件与工具推动负责任AI的发展。

以DMS示例为例，恩智浦正在开发Explainable AI (XAI) 软件，该软件作为eIQ工具包的一部分，可在模型训练后、部署前检测偏差，从而帮助防止歧视、确保系统稳健性，并使开发人员能够及早识别风险并理解其成因。

边缘AI以多种方式惠及人类，包括提升自动化与生产效率、增强安全性、推动更可持续的交通，以及优化计算资源利用率。负责任的赋能技术在最大化边缘AI价值的同时，还尽可能降低潜在风险。

本文作者

Davis Sawyer，现任恩智浦半导体AI产品市场经理，专注于软件工具以及基于i.MX微处理器的生成式AI使能解决方案。他常驻加拿大卡纳塔，同时担任边缘AI基金会“产业”工作组主席，致力于推动基于边缘AI的实际应用。此前，他参与创立了AI模型压缩初创公司Deeplite，该公司于2025年被收购。Davis热衷于打造跨学科产品，并乐于与睿智且友善的团队合作。