Facebook借助人工智能以帮助网络平台更好完成审核工作

Facebook 一直明确表示过要借助人工智能（AI）技术，以帮助该社交网络平台更好地完成审核工作。 当机器学习过滤器遇到被标记可能违反平台政策、或被用户投诉的内容时（包括但不限于垃圾邮件、仇恨言论、煽动暴力的帖子），系统就会及时响应并介入一些操作（比如删帖或对账户加以限制），以便宝贵的人工可用于审核其它案例。

FB 旧版审核系统，结合主动式的机器学习过滤 + 用户反溃

据悉，Facebook 在全球范围内雇佣了大约 1.5 万名审核人员，但过去因为没有给予这些雇员足够的支持而遭到批评。其主要工作是根据公司的平台政策，对标记的帖子进行分类。

以往的流程，或多或少地都是根据时间先后进行排序。不过现在，Facebook 更希望借助更多机器学习算法的力量，根据内容的权重进行审核排序，同时设定了传播度、敏感度、违规严重程度这三大参考原则。

FB 新版审核系统，借助更多的机器学习技能，帮助人工对待审核队列进行排序。

尽管尚不清楚这些标准的具体权重有何区别，但 Facebook 表示，其目标是有限处理那些最具破坏性的内容。换言之，传播后果越严重的帖子，就越会被优先处理。

比如涉及暴恐、剥削儿童或自我伤害等内容，将会受到实质性的人工审核。。同时垃圾信息等碍眼但后果不太严重的内容，将被 AI 判定为次优先级。

新引入的 WPIE 整体评估工具 + 各种内容排序用的机器学习算法。

Facebook 社区诚信团队产品经理 Ryan Barnes 在新闻发布会上向记者表示，该公司正在使用更好的算法，以评估所有违规内容的人工审核优先级，比如上图所示的 WPIE 完整性嵌入模型。

这意味着算法将共同判断给定帖子中的各种元素，试图找出图像、标题等共同显示的内容，此外新算法也有助于降低审核人员在处理某些恶劣违规内容是所遭受的心理创伤。
责任编辑：YYX