当前的人脸识别技术存在着什么问题

如今的人工智能的面部识别算法并不完美。如果企业正在考虑部署此技术，那么应该知道以下这些内容。

安装在货架上的摄像机配有人工智能面部识别软件，可以识别消费者的年龄、性别和种族，这是今年1月在纽约举行的全美零售联盟大型展会期间向零售公司推出的新兴系统之一。

这个想法是给实体店提供人口统计信息，以指导他们如何向个人客户推销。这对于像亚马逊这样一直在利用客户数据的在线零售商而言具有竞争优势。

但是，采用摄像头捕捉客户的照片，用一种他们甚至不会注意到的方式，是不是入侵性太强？除此之外，还有其他问题。如果该软件错误地将男性识别为女性并为其提供女性卫生用品的折扣，该怎么办？有什么后果？

零售环境中的后果可能并不十分重要，但客户可能会感到烦恼，并在社交媒体上谈论，并且不再回到那家商店购物。但是，在机器视觉和人工智能驱动的面部识别软件的其他应用中，其后果会更严重吗？

事实证明，人们对人工智能面部识别软件非常关注，它在商业上可从许多主要供应商获得，其中包括微软、IBM和亚马逊。

最近的一项研究重点是，一些商业算法在识别肤色较深的人员和女性方面不如识别肤色较浅的男人准确。这是以前讨论过的一个话题。例如，2018年7月，美国公民自由联盟（ACLU）对美国国会议员的照片应用了亚马逊算法，该算法确定其中28人是因犯罪而被捕的人。

最近麻省理工学院媒体实验室的一项研究提出这样一个问题：这些商业算法的公开审计是否会影响供应商对提高算法准确性的关注。

这项研究报告由麻省理工学院的研究生Joy Buolamwini共同撰写，他也是算法正义联盟（Algorithmic Justice League）的创始人，该组织自称致力于解决算法中的偏见。这项研究表明，这些算法最擅长识别肤色较浅的男性。他们在识别女性或肤色较深的人时表现不佳。研究还指出，一些供应商在向他们指出这些问题后改进了他们的算法。亚马逊公司对这项研究的回应刊登在《纽约时报》的文章中，Buolamwini已经发表了她关于这个问题的声明和回应，以及供应商对媒体的回应。

在机器学习中，根据所使用的训练数据的数量和类型，结果可能有偏差或不准确。例如，亚马逊公司使用机器学习来筛选求职者的简历，最后得到了大多数的男性候选人。这可能是因为用于训练算法的历史数据池中男性多于女性。

通过向用于训练算法的数据池中添加更多的数据或数据源，供应商可以提高他们的人工智能面部识别系统的准确性。

然而，供应商也提供了一种安全阀来防止这些算法的缺陷。这些系统允许组织客户设置一个阈值或置信水平。这可以根据组织为结果计划的操作类型进行设置。

全美零售联盟展会展出的零售系统展示了它的运作方式。例如，就性别而言，这些系统可能会确定某人是男性，但他们也会提供一个信心分数，基本上说他们是67%（或其他百分比）确定这个人是男性。零售商已经设定了他们愿意接受的置信水平。因此，如果有人被推断为具有67%置信度分数的男性，并且零售商已将阈值水平设定为60%，则客户将看到为男性定制的优惠。如果零售商将阈值分数设置为70%，则客户的67%分数将不会达到该阈值，并且客户将看到可以对任何客户（男性或女性）提供的通用报价。

例如，如果风险很高，在一个可能改变某人生活轨迹的执法应用程序中，组织可能会将阈值设置为99%。如果风险没有那么高，他们可能会把门槛设置在一个较低的水平。

提高隐私意识

但是，收集客户图像是否存在隐私问题，特别是在GDPR法规和其他新数据隐私法已经实施的时代中？全美零售联盟展会的其中一位展台代表表示，客户的图像不会被保留。但是，会保留并分析有关访问特定显示的客户的人口统计数据的汇总数据，以帮助零售商深入了解其客户。

企业是否应该尝试使用人工智能面部识别软件？这可能取决于应用程序和风险等级。对于那些希望在数字竞争对手中获得优势的实体商店零售商来说，这些应用程序可以开辟一个前所未有的数据和洞察世界。

在其他的情况下，采用机器视觉技术查找人们的图像与已知图像数据库进行匹配，例如用于打击拐卖儿童犯罪。人工智能可以展示可能的匹配，并且最终确定是否找到了匹配的人。在这种类型的应用中使用人工智能的好处是，无论是识别失踪的孩子还是在拥挤的体育赛事中实时识别可疑的***，该算法都可以在几秒钟内分析并进行匹配。但是在这些高风险的应用中，让人员在循环中进行最后一次调用将是防止这种新兴技术出现错误的重要保障。

这是企业应该牢记的事情。人工智能识别人脸技术还是一项新技术，显然它并不完美，应该谨慎处理。此外，与许多新兴技术一样，到目前为止，还缺乏管理其使用的许多法规。而这些法规可能会在未来几年内出现。