人工智能（AI）治理:区块链如何建立问责和信任

人工智能（AI）治理：区块链如何建立问责和信任

麦肯锡公司最近发表的一篇文章或许最好总结了当前关于企业环境、社会和治理（ESG）倡议的时代精神：“尽管已经提出了关于ESG的有效问题，但公司理解和解决其外部性的需要可能对维持其社会许可至关重要。”人工智能（AI）技术是外部性的强大力量，越来越多地影响着社会许可的授予或者不授予方式。然而，在公众对人工智能普遍不信任的情况下，将区块链技术用于人工智能治理可以极大地帮助公司建立公众对其负责任地使用这一技术的信任，进而建立社会许可。

一．使用区块链进行人工智能治理

简而言之，使用区块链技术不停记录所有关于人工智能（AI）或机器学习（ML）模型的决定，是朝着透明迈出的重要一步，透明是信任的关键要素。使用这种区块链也允许可审计性，进一步帮助建立信任。这些原则是围绕企业人工智能和模型开发标准构建的AI治理模型的核心，并由区块链技术强制执行。

开发一个人工智能决策模型是一个复杂的过程，包括无数的增量决策。这些包括模型的变量、模型设计、算法、使用的训练和测试数据、特征的选择、模型的原始潜在特征、伦理测试和稳定性测试。它还包括构建变量集不同部分、参与模型创建和执行模型测试的科学家。由于区块链技术的支持，这些决策的总和与全部记录提供了根据公司定义的标准在内部有效治理模型、确定责任和满足即将到来的监管要求所需的可见性。

二、问责制规范化的步骤

在区块链成为流行术语之前，作者开始在其数据科学组织中实施分析模型管理方法。2010年建立了一个以分析跟踪文档（ATD）为中心的开发过程。这种方法详细描述了模型设计、变量集、指定科学家、培训和测试数据、成功标准和道德/稳健性测试。ATD将整个开发过程分解成三个或更多的里程碑，在实现的每个阶段都有正式的评审和批准。

自此以后，区块链成为ATD的关键；它是一种机制，通过将一系列实体、工作任务和需求与每个单独的模型相关联，包括测试和验证检查，来整理分析和ML模型开发。区块链技术本质上记录了数据科学家、经理和作者之间的不变合同实例，该合同描述了：

（1）模型是什么？

（2）模型的目标；

（3）我们如何构建该模型，包括规定的ML算法；

（4）该模型必须改进的领域，例如，在交易层面将无卡（CNP）信用卡欺诈改进30%；

（5）科学家解决问题和不解决问题的自由度；

（6）重复使用可信和有效的变量和模型代码片段；

（7）培训和测试数据要求；

（8）AI道德程序和测试

（9）鲁棒性和稳定性测试

（10）特定模型测试和模型验证清单

（11）专门指定的分析科学家构建变量、模型、培训他们以及验证代码、确认结果、测试模型变量和模型输出的人员

（12）该模型和特定客户群的特定成功标准

（13）具体的分析比较、分配的任务和科学家，以及满足要求的正式的竞赛评审/批准。

这样，ATD通知了一组非常具体的需求，这些需求与公司模型开发AI标准相关联。一旦我们都协商好了我们的角色、责任、时间表和构建的需求，团队中的每个人都将ATD作为一个合同来签署。它成为我们定义整个敏捷型模型开发过程的文档。

将个人分配到每一个需求中，然后团队评估一组现有的附属资料，这些资料通常是以前验证过的可变代码和模型的片段。一些分析变量在过去已经被批准，其他的变量将被调整，还有一些将是新的变量。然后，区块链每次记录在该模型中使用该变量的时候——例如，从代码库中采用的任何代码，新编写的代码，以及所做的更改——谁做的，完成了哪些测试，批准它的建模经理，以及作者的签名。

三．颗粒度跟踪

重要的是区块链提供了决策的线索。它显示了一个变量是否可接受，它是否在模型中引入了偏差，或者变量是否得到了正确的利用。区块链不仅列出了一份积极成果的清单。它同时记录了构建这些模型的整个过程，包括它们的错误、修正和改进。

这种方法提供了很高的可信度，即没有人向模型中添加表现不佳的变量或引入某种形式的偏差。它确保没有人在他们的数据规范中使用不正确的字段，或者在没有许可和验证的情况下更改经过验证的变量。如果没有ATD和现在的区块链提供的严格审查过程来保持其可审计性，数据科学组织可能会无意中引入一个有错误的模型，特别是当这些模型和相关算法变得越来越复杂时。

此外，区块链系统确保道德和稳定性测试的公司标准得到执行、审查和批准。该过程收集并整理了模型在生产时必须监控的关系，以满足负责任的人工智能标准。

四．透明的开发过程会减少偏见

在区块链上贯穿公司模型开发标准，给予分析模型它自己的实体、生命、结构和描述。模型开发成为一个严格组织的过程；可以生成详细的文档，以确保所有元素都经过了适当的审查，并且模型的决策没有偏见。这些步骤将在模型生产过程中重新审视，为人工智能模型治理的操作阶段提供一个基本的人工智能监控框架。当模型最终被使用时，这些资产告知可观察性和监控需求，这是维持对其决策的信任所必需的。

总之，区块链允许复杂的人工智能模型变得透明和可审计。这些是让人工智能技术变得负责和可信的关键因素——这是建立人工智能治理系统的重要一步，该系统可以更新而不是侵蚀公司的社会许可。

审核编辑 ：李倩