微软：我们正处于人工智能的转折点，人工智能理应受到人类道德的约束和保护

随着人工智能的发展，机器承担着越来越多（来自人类）的决策任务，这也引发了许多关于社会公平、伦理道德的新问题。

俗话说：权利越大，责任越大。人工智能技术正变得越来越强大，那些最早开发和部署机器学习、人工智能的企业现在也开始公开讨论其创造的智能机器给伦理道德带来的挑战。

在《麻省理工科技评论》的EmTech峰会上，微软研究院的常务董事埃里克·霍维茨（Eric Horvitz）说：“我们正处于人工智能的转折点，人工智能理应受到人类道德的约束和保护。”

霍维茨与来自IBM和谷歌的研究人员仔细讨论了类似的问题。大家都很担忧是，人工智能最近取得的进步使其在某些方面上的表现超越了人类，例如医疗行业，这可能会某些岗位的人失去工作的机会。

IBM的研究员弗朗西斯卡·罗西（Francesca Rossi）举了一个例子：当你要使用机器人去陪伴和帮助老年人的时候，机器人必须遵循相应的文化规范，即针对老人所处的特定文化背景执行特定的任务。如果你分别在日本和美国部署这样的机器人，它们将会有很大的差异。

虽然这些的机器人可能离我们的目标还很遥远，但人工智能已经带来了伦理道德上的挑战。随着商业和政府越来越多地依靠人工智能系统做决策，技术上的盲点和偏见会很容易导致歧视现象的出现。

去年，一份ProPublica报告显示，一些州使用的风险评分系统在通知刑事审判结果中对黑人存在偏见。同样，霍维茨描述了一款由微软提供的商用情绪识别系统，该系统在对小孩子的测试中表现很不准确，原因在于训练该系统的数据集图片很不恰当。

据外媒报道，近日，谷歌聘请了一个外部伦理委员会，来处理人工智能领域较为棘手的问题。该组织旨在帮助公司安抚批评者，同时继续寻求利润丰厚的云计算交易。但一周还没过去，该委员会已经几近分崩离析。如此进展或可危机谷歌争取更多军事云计算合同的机会。

周六，行为经济学家和隐私研究员亚历山德罗·阿切斯蒂（Alessandro Acquisti）说，他不会在委员会里任职。他在Twitter上表示：“虽然我致力于研究和解决人工智能领域中的公平、权利和包容性等重要道德问题，但我不认为参与这个委员会，对我而言，是一个正确的选择。”阿切斯蒂尚未回复评论请求。

周一，一群员工又开始请愿，要求公司撤掉另一名成员：凯伊·科尔斯·詹姆斯（Kay Coles James）。詹姆斯为保守派智囊团传统基金会（Heritage Foundation）的总裁，曾反对同性恋和变形人群的平权法。截至当地时间周一晚，已有超过500名员工在请愿书上匿名签字。

过去一年，谷歌深受员工维权活动——包括女性同工同酬、性骚扰、人工智能道德规范等——的困扰。这些抗议活动取得了一些成果。谷歌退出了与美军方合作，为无人机开发物体识别技术的交易，此举甚至还引来包括特朗普总统在内的政界人士的批评。在数千名员工罢工抗议公司处理性骚扰投诉的方式后，谷歌改变了公司的政策。

与此同时，保守派政客们表示，公司的算法和内容审查员在搜索结果和YouTube上不公平地歧视他们，虽然目前并无证据支持这一说法。任命科尔斯·詹姆斯，对保守派来说，可以算是谷歌正在倾听他们关注的一个迹象。

一些人工智能专家和活动价也呼吁谷歌从委员会中撤掉迪安·吉本斯（Dyan Gibbens）。吉本斯是无人机技术公司Trumbull Unmanned的首席执行官，她和Trumbull Unmanned的联合创始人先前曾为美军无人机工作过。将AI用于军事用途是某些谷歌员工的争议重点。

英国巴斯大学计算机科学教授乔安娜·布莱森（Joanna Bryson）也被任命为谷歌伦理委员会的一员。布莱森说，她对委员会的其他一些成员持保留态度。“不管你相不相信，我知道其中有一个人不怎么样，”她在Twitter上回应一篇质疑任命詹姆斯一事的帖子中说道，“我之前有向谷歌提过意见，但他们表示他们需要增加成员多样化，以使公众信服，比如共和党。”

人工智能是谷歌未来的核心。公司曾花费数亿美元收购AI创业公司，并高薪聘请领先的研究人员。该技术也是兜售公司云计算业务的关键。如今，云计算业务的重要性已日渐凸显，尤其是在公司的核心搜索广告部门的营收增长放缓之际。一名谷歌女发言人尚未立即回复评论请求。

谷歌成立的这个人工智能委员会旨在检查公司的决策，定期开会并制作有关该领域和谷歌技术进展的报告。谷歌的首席法务官肯特·沃克（Kent Walk）在3月26日发布的博客文章里写道：“该委员会不具有否决权，但意在为我们的工作提供多样化视角。”