人工智能将计算范式从基于规则的编程转变为基于结果的方法

人工智能（AI）将计算范式从基于规则的编程转变为基于结果的方法。它允许流程大规模运行，减少人为处理错误的数量，并发明解决问题的新方法。在专家们使用相同的开放动作3000年之后，AlphaGo激发了围棋选手尝试新的策略。随着采用率的提高，人工智能将使组织能够解锁传统自动化无法解决的“最后一英里”。但是，随着越来越多的企业委托AI代表他们做出决策，治理变得至关重要。

在最近的简柏特调查 C-套件和其他高级管理人员，63%的人说，这是重要的或者重要的是要能够跟踪启用AI-机器的推理路径，并且这个数字在公司跳到的受访者有88%的说是AI的领导者。Genpact还与受监管市场的财富500强公司合作，这些客户认为可追溯性已成为他们考虑使用AI之前的一项关键要求。

英国咨询公司Cambridge Analytica最近对滥用社交媒体数据的关注引起了企业的警觉，要求加强监管。此外，将于5月25日生效的欧盟通用数据保护条例（GDPR），是未来将要解决的数据和AI治理的许多新要求之一。如该规章第22条所述，在其他领域中，“数据主体有权不受纯粹基于自动化处理（包括配置文件）的决定的管辖，该处理会对他或她产生法律效力或对他造成类似影响还是她。” 在某人被拒绝提供贷款或工作机会的情况下，这可能变得至关重要。同样，纽约市最近算法决策透明度的立法表明，美国的监管审查也在增加。在这种情况下，企业将很难接受“黑匣子AI”。

一些技术已经足够成熟，可以提供当今的可追溯性。在处理文本或数字时，企业可以考虑计算语言学，在此用户可以轻松地遵循推理路径并找出导致机器做出决定的单词或数据点。例如，如果第三方物流供应商同意每英里收取15美分，但发票显示每英里收取18美分，则机器可以使用上下文提取发票中的价格，即发票中商定的价格。合同，并指出差异。用户可以并排查看文档以确定机器是否正确。关键是要跟踪决策的定义属性来自何处，并以易于可视化的方式展示基础信息。

实现可追溯性的另一种方法是解释算法中使用的驱动程序和推理路径。Salesforce的Sales Cloud Einstein产品中的潜在顾客评分功能可直接了解其如何确定销售潜在顾客的分数，因此公司的销售团队可以了解Einstein机器如何预测特定潜在顾客将转化为机会。

计算语言学还具有嵌入式推理路径逻辑，可以为该技术的最终用户进行外部化。例如，在贷款批准过程中，系统需要采取多个步骤来处理申请。如果在基于AI的自动贷款申请中拒绝了某个应用程序，则贷款员应能够将决策追溯到发生拒绝的特定步骤，更重要的是，在此特定步骤中解释AI的决定。

因此，企业不仅可以拒绝提供贷款，否则可能会导致不良的客户体验并引发合规性问题，而企业可以向消费者明确说明推理的理由，以解释做出决策的原因。借助可追溯性，如果审核员要求提供文档，或者客户提出了疑问，或者出现了另一个潜在问题，则公司可以准确地知道系统在何处以及如何做出决定，而不必因为决定和推理被锁定而一头雾水在一个黑盒子里。