Instagram利用AI检测照片和文字中的欺凌行为

去年，Instagram推出了一个增强的评论过滤器，该过滤器使用机器学习在具有挑战性的环境中发现令人反感的单词和短语。现在，该公司正在扩大这项功能覆盖范围。今天，它宣布它将使用AI“主动检测欺凌”，然后再将内容发送给人类审查者进行复查。新功能将在未来几周内推广给用户，并将在10月份的美国国家欺凌预防月和英国反欺凌周之前推出。同样的技术也被添加到实时视频中以过滤那里的评论。

这是新Instagram首席执行官亚当·莫塞里（Adam Mosseri）在上个月联合创始人凯文·西斯特罗姆（Kevin Systrom）和迈克·克里格（Mike Krieger）仓促离职后接手的第一个产品公告。据报道，这一分歧是由于Instagram公司和母公司Facebook之间的紧张关系引发的，该公司经常插手Instagram的产品。

随着公众对Facebook的信任继续下降，Instagram仍然是该公司产品阵容的亮点。它受欢迎，有利可图，而且还有可能被Facebook丑闻所玷污。在这种情况下，使用人工智能来帮助清除令人反感的内容并让Instagram成为一个拥有良好氛围的家园是非常重要的。

去年在Wired发表的一篇报道解释了Instagram的机器学习评论过滤器的一些细节，但已经确定这种技术不适合内容审核。大规模部署人工智能是便宜的，是的，但它仍然无法处理内容背景和细微差别。这就是为什么这些新的欺凌过滤器还向人类审核者发送内容以执行最终检查，没有监督的自动化是一种灾难。