人工智能中的道德规范具有两面性 必须考虑潜在的结果

2019年2月25日，在西班牙巴塞罗那召开的世界移动通信大会上，Torooc公司的展台上展示了Liku婴儿人形机器人。在这个无线行业规模最大的会议上，超过10万人参观了2400多家公司在智能手机、人工智能设备和自主无人机方面的最新创新技术。

2019年2月11日，美国总统特朗普签署了一项关于维持美国人工智能领导地位的行政命令。而在2019年2月进行的一项名为“人工智能和机器学习”的调查表明，在接受调查的商业领袖中，只有16%的人表示其公司从先进的人工智能中获得了巨大的价值。该调查报告还发现，各种规模和不同行业的公司都在高级人工智能方面投入巨资，每家公司于2018财政年度在人工智能方面的投资平均花费3600万美元。

在接受调查的公司中，10%的公司表示计划在未来两年内增加预算。该调查还发现，亚太地区的企业采用先进的人工智能的速度要快于世界其他地区。 2018年亚太地区公司中有22%的公司处于机器学习的高级阶段，而北美地区只有11%，欧洲有7%。

2019年3月4日，联合国教科文组织召开了一次关于制定围绕人工智能的核心原则的会议，重点讨论采用更人性化的人工智能方法。其目标是促进公共和私营部门、科技界、媒体和学术界、民间社会、国际和区域组织之间的对话，并考虑应该允许机器为社会做出什么样的决定，包括将什么价值观和优先权写入机器的算法。

联合国教科文组织总干事Audrey Azoulay在一份声明中指出，人工智能是人类的新前沿。

“人工智能的指导原则不是要成为自主的或取代人类的智慧。但我们必须确保人工智能通过人道主义的方式发展。”Azoulay说。

Mastercard公司网络与智能解决方案总裁Ajay Bhalla表示，人工智能已经在影响今天的大多数行业对话。

“在接下来的几年里，人工智能不会触及经济的单一部门。它将大大提高数据交易、互动和决策的价值和速度。”Bhalla说。

他表示，“因此人工智能对未来的业务至关重要，而通过人工智能构建系统对于保持竞争力也至关重要。”

智能迪拜助理总干事兼智能迪拜数据首席执行官H.E.Younus al-Nasser表示认同。

Nasser 说，“人工智能已经成为它自己的一个部门，随着人们日常生活中日益增长的部分变得自动化，只能期待更多人工智能的突破和服务，这就要求制定原则来规范并指导该部门。

也就是说，该领域还不够成熟，尚未起草法律来管理人工智能，因此我们开发了一个道德人工智能工具包，为该技术的道德使用制定明确的指导方针，并防止采用分散的、不连贯的方法，让每个实体都制定自己的规则，我们期待看到工具包发展成一个通用框架，确定人工智能设计和使用的道德要求，提供知情的解决方案，帮助利益相关者遵守道德原则，并且最终作为政府制定务实的人工智能法律法规的蓝图。”

在信任方面，MasterCard公司的Bhalla表示如今确实有很多关于技术信任的讨论，无论是消费者数据的使用，隐私还是共享经济中新平台和技术的扩散。

Bhalla说，“由于人们的资金处于危险之中，支付和金融服务行业倾向于引领建立更安全系统的方式。人们越来越认识到道德规范不仅包括监管和合规，而且谈话从‘遵守’转变为 ‘做正确的事’。道德考虑提供竞争差异化，这是我们遵循的原则。我们通过设计和安全性来讨论隐私，而这是一个基于信任的价值主张。如果考虑人工智能，需要深思熟虑如何使用人工智能技术，并创建标准来定义人工智能的使用位置、何时可以被使用以及它可以访问的内容。”

LatentView Analytics公司首席执行官Rajan Sethuraman表示，人工智能中的道德规范是一个广泛的主题，因为它试图将通常的场景和文化规范和指南应用于几乎无穷无尽的理论应用中。

Sethuraman说，“当人工智能用于自动化最平凡的可重复人工任务时，那么道德考虑可能不会那么深入。但是，人们训练的机器越多，最终期望机器模拟为人类，并尝试将人类的判断、同理心或公平等基本思想整合到人工智能的方程式中，人们就越会面临与人类互动相关的道德问题。”

他补充说：“对于具有感知的机器人的‘权利’是人们在流行的科幻电影中多次看到的一个主题，虽然还没有达到HAL 9000的水平，但随着越来越先进的人工智能的可预测性越来越低，道德规范是人们必须深入考虑的问题。”

Clairvoyant公司首席技术官Shekhar Vemuri认为，人工智能中的道德规范具有两面性。

他说，“任何开发人工智能技术的公司都需要问自己，他们是否有权使用拥有的任何数据来支持人工智能。如果没有，其他所有内容都将受到最初的道德违规行为的影响。”

“其中的一个方面是透明度。许多公司只关注他们的人工智能是多么强大和可扩展。这很重要，但人工智能有点像政府部门，人们将权力转移到政府，但其权威和发展能力必须通过透明度来检查。”Vemuri说，“机器是否做正确的事情？更重要的是，如果结果不对（例如有偏见的银行贷款或招聘），那么其流程和管道是否可以进行检查？算法是否可以通过审计来发现缺陷，还是采用黑盒方法？”

Vemuri认为，如果不解决这些隐私和透明度问题，将遭到强烈反对，这将转化为采用人工智能的监管阻力。

“作为人工智能实践者，人们的社会和道德责任是确保自然的人类偏见不会在构建的解决方案中得到放大，如果他们确实进入并提升了规模，那么就有一个透明的过程来根除并解决问题。”Vemuri补充说。

但Bhalla认为人工智能可以在打击影响消费者的欺诈方面发挥重要作用。

“在过去的十年里，Mastercard公司一直在投资人工智能技术，人工智能在打击欺诈，特别是反洗钱方面的价值是不可估量的。”Bhalla说，“我们的人工智能欺诈和决策平台每年处理70亿笔交易，这有助于防止损失超过500亿美元的欺诈行为。”

该公司于2017年收购了人工智能专家Brighterion公司。Bhalla表示，这使得Mastercard公司能够将检测推向预测。

“从忠诚和奖励计划到欺诈预防和用户体验，再到新的渠道，我们的业务中所有方面都受到人工智能的影响。”Bhala说，“在未来，人工智能与生物特征学的结合将是将在物理世界中使用的智能识别技术转移到数字领域的重要途径。在线识别人员及其设备是人们目前面临的一个主要挑战。”

Sethuraman在谈到人工智能的道德规范问题时说，“人工智能中的道德规范必须越来越多地考虑潜在的结果，并试图让人类尽可能地参与并与输入和设计保持联系。这是人道主义智能，或通过机器来增强人类的能力，事实上，随着时间的推移，大多数人工智能才有可能发挥更大的作用。”