人工智能在哪一些地方存在偏见

在2018年末，Google决定取消“智能撰写”（Smart Compose）功能，将完全移除所有智能“撰写功能”中带性别的人称代名词， Google担心该功能带有偏见，谷歌研究科学家输入了“下周我要见一位投资者”，“智能撰写”提出了后续的问题：“您想见他吗？” 但是该投资者是女性。

偏见是AI的致命弱点。DataRobot的研究发现，在美国和英国，将近一半（42％）的AI专业人士“非常‘”或“极其”担心AI偏见。AI可以在最意想不到的地方出现，没有系统是免疫的。随着AI在工作场所中深入应用，需要注意那些可能会持续存在偏见的地方和平台。

招聘工具

人工智能在招聘中的应用有望将偏见最小化。根据领英（LinkedIn）的研究，43%的招聘人员和招聘经理表示，人工智能的一个关键好处是它有消除人类偏见的潜力。然而，承诺将偏见最小化的人工智能工具，也可能在招聘过程中注入偏见。以谷歌的招聘广告算法为例，更多向男性显示高薪职位。此外，许多人工智能招聘工具依赖于面部识别技术。研究表明，即使是最优秀的面部识别系统，识别黑人面孔的错误率也是白人的5到10倍。

虽然从人工智能招聘工具中消除偏见存在困难，但我们可以做很多力所能及的事情。首先要进行监督，负责构建、实现和使用招聘工具的团队必须是多样化的，否则他们自己的偏见将会融入到工具中。其次，必须仔细检查数据，很多公司依赖人工智能招聘工具，这些工具的使用主要基于历史数据。由于许多公司对某些类别的个人存在历史偏好（例如，白人男性和顶尖大学的毕业生），这些人也在基于历史数据训练的算法中占有优势。必须检查类似的情况并在其被内置到AI工具前消除掉。最后，所有人工智能招聘工具都应该接受内部和外部审计。HireVue等公司致力于参与内部和外部审计，以查明其工具中可能存在的偏见。

协作工具

工作中协作工具（如Slack）已经无处不在。最近，一些公司已经开始开发和发布基于人工智能的工具，帮助经理和领导理解在电子邮件、Slack和类似平台上沟通的内容。例如，总部位于东京的Vibe就是这样一家公司，利用人工智能来评估员工的满意度，Vibe将员工的状态分为五种情绪：快乐、愤怒、不满、失望和压力，通过扫描信息中的关键字和表情符号来描述员工的心理状态。

问题是，许多人工智能工具并没有考虑到个体具有不同的情感和其他倾向这一事实。例如，男性和女性在办公协作工具上的表现不同。Quartz的记者Leah Fessler指出，“贵公司的Slack可能带有性别歧视”。她解释说，男性倾向于主导Slack公共频道的对话，而女性更倾向于使用支持性和友好性的内容。

Slack本身越来越倾向于人工智能。 特别是，它创建了一个“工作图谱”来分析用户之间的相互关系。“工作图”的概念并不新鲜。 谷歌已经建立了自己的“知识图谱”，而Facebook则建立了自己的“社会图谱”。“工作图谱”使Slack能够在平台内更快，更准确地搜索，同时还让用户识别最重要的信息。据《麻省理工学院技术评论》（MIT Technology Review）报道，工作图谱“旨在成为一名组织严密、多任务处理能力的助理，知道正在发生的一切，只向你简要介绍最重要的事情。”

鉴于普通用户每天发送70条消息，因此许多企业将依靠AI来更好地了解员工在Slack和类似协作工具上的状态。我们必须保持警惕，了解如何训练AI工具，避免产生偏见。

销售工具

人工智能工具正在迅速渗透到销售组织中，最有前途的应用场景之一是线索评分。根据Gleanster研究，一半的潜在客户有意向，但尚未准备好购买。一些AI工具允许公司挖掘他们与客户联系的各种渠道，提取人口统计、公司和技术信息，并最终确定销售线索的质量。这些工具甚至可以指出消费者的情绪，以预测他们的购买倾向。

就像所有的人工智能工具一样，理解基于人工智能的销售工具模型是如何构建的非常重要。大多数工具是要发现“容易实现的目标”——最容易成单和拥有最大预算的线索。不过这些工具很少能考虑全面。例如，他们通常不会考虑哪些线索可能具有最高的终身价值，或哪些可能给予最高的NPS（净推荐值）。

另一个问题是，许多公司把潜在客户的产生与潜在客户评分混为一谈。他们假设符合他们的理想客户特征的就是潜在客户，不考虑领导者的意愿，比如领导者是否准备现在就购买。第三个问题是，AI驱动的销售工具常常受到历史销售信息的影响，会优先考虑那些看起来像过去客户的客户，忽略了市场动态的变化，也没有考虑到那些过去没有购买过产品的客户，在未来可能会随着扩大服务范围和增加广告而成为重要客户。

根据《哈佛商业评论》（Harvard Business Review），使用人工智能进行销售的公司能够将领先优势提高50%。人工智能有助于消除猜测，并使销售代表能够把时间集中在与客户建立关系上。发挥人工智能工具的关键是认识到偏见存在的地方，并采取措施将其最小化。

人工智能被称为自蒸汽机以来最伟大的创新。随着人工智能成为我们工作场所不可或缺的一部分，我们必须要审视AI工具潜在问题，找出可能存在偏见的地方，让人工智能更好地为我们所用。

责任编辑：Ct