0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谁才是真正的C位 让AI告诉你

人工智能与大数据技术 来源:yxw 2019-06-20 17:34 次阅读

C位是近年网络上一个比较热门的词,最早来源于DOTA等游戏领域,是核心位置(Carry位)的简称,代表的是能够在游戏前中期打钱发育并在游戏后期带领队伍力挽狂澜的角色。现在C位一词逐渐扩大到了娱乐圈乃至我们的生活中,在社交、表演、比赛以及各种日常活动场景中,只要当某一个人在人群中处于中心位置,即最重要的人,大家便称呼他是C位(Center位)。

在包含众多人像的照片中,由于每个人的穿着和动作各异,同时人与人之间存在各种交互信息,以及所处的场景不同,我们通过肉眼来确定C位的时候可能会出现各种偏差。在人工智能快速发展的今天,我们能否可以通过AI来自动找出C位呢?答案当然是肯定的。在这篇文章中,我们将介绍如何利用计算机视觉深度学习技术构建一个性能优异的C位检测器,从而快速准确地在一群人中发现真正站C位的那个最重要的人。

C位检测器前传

C位检测器的目标是检测出一群人中最重要的人。一般来说,C位检测器主要由两部分组成,第一部分是人脸/全身检测模型,通过该模型首先检测出照片中的所有人像;第二部分是人像重要性预测模型,通过该模型对检测出的每个人像计算重要性得分,重要性得分最高的人即为C位。

当前的人脸/全身检测模型的性能已经比较理想,而人像重要性预测模型还处在研究和探索阶段,所以下面我们的内容将主要围绕如何量化一群人中每个人的重要性展开。

最直接的人像重要性计算可以基于照片中人像所处的位置和面积进行设计,例如,离照片中心点越近则重要性越高,人像的面积越大则重要性越高等等。然而我们判断一个人是不是C位,除了利用照片中人像所处的位置和面积这类人像自身的几何信息外,还会根据照片上的各种信息综合判断:人像自身的外表信息(上图(a))、与其他人之间的关系信息(上图(b))以及所处的全局场景信息(上图(c))。

人与人之间的关系和人与场景之间的关系对C位的判断起到关键性作用。如果我们只利用人像的自身特征进行重要性计算,例如上图(a)中的红框女性,我们其实无法知道她是否是照片中最重要的人。但我们通过她与周围人之间和与整体场景之间的关系信息分析便可以得出她是C位的结论。

一个理想的人像重要性预测模型应根据上面提到的各方面信息进行联合计算。如何提取照片上丰富的多元化信息?如何对人与人之间和人与场景之间的关系建模,从而获取高层次的语义信息?如何最终根据照片上人像的多元化信息和高层次语义信息的特征进行重要性评估?这些都是摆在我们面前的问题,需要我们去一一解决。

一个出色的C位检测器

为了解决上节末提出的三个问题,我们实验室的小伙伴们攻坚克难,提出了一种全新而高效的人像重要性预测模型,构建了一个出色的C位检测器,相关工作发表在CVPR 2019。下面我们对其中的模型框架和建模思路进行一一介绍,希望给大家带来更多的启发和思考。

整个人像重要性预测模型分为三个模块,分别是特征表达模块、关系计算模块和重要性分类模块。特征表达模块能够有效地提取照片中每个人的自身特征和整张照片的全局场景特征。关系计算模块能够对人与人之间和人与场景之间的关系进行建模。重要性分类模块能够计算每个人像的重要性得分,从而最终识别出最重要的C位人选。完整的模型框架如下图所示。

特征表达模块针对上节末“如何提取照片上丰富的多元化信息?”这一问题进行设计。为了充分地获取人像自身丰富的特征表达,人像的外表信息和几何信息都会进行特征提取。深度卷积神经网络被用来实现提取流程,如下图所示。其中,外表信息被分为内在(绿框)和外在(蓝框)两部分,内在区域更多提取人像固有的外表信息,外在区域更多用于提取人像外表以及与周围环境的上下文信息,从而保证了人像信息的多元化。此外整张照片的全局场景信息(黄框)也会通过卷积神经网络实现特征提取。

关系计算模块针对上节末“如何对人与人之间和人与场景之间的关系建模,从而获取高层次的语义信息?”这一问题进行设计,是整个模型中最关键的模块。在该模块中,关系网络(Relation Networks)被用来对在特征表达模块中提取的人像特征和场景特征进行关系建模。关系网络能够在没有额外监督信息的前提下,自动学习人与人之间和人与场景之间的关系,从而提取更高层次的语义信息以表征人在场景中的重要性。具体会分别建立人与人之间的关系图和人与场景之间的关系图,通过多个并行的关系网络提取关系特征并连接,再与原有的人像特征相加,得到最终的特征表达。

重要性分类模块针对上节末“如何最终根据照片上人像的多元化信息以及高层次语义信息的特征进行重要性评估?”这一问题进行设计。通过对在关系计算模型中提取的每个人像的最终特征表达进行重要/不重要的二分类,将每个人像被分为重要这个类别的概率作为重要性得分,得分最高的人像就是模型认定的C位。

以上三个模块一起实现了端到端的人像重要性训练和预测。最后我们来看一看利用上述模型进行C位检测的可视化结果。红框代表的是模型检测出来的C位,绿框代表的是当前其他最好方法的检测结果,可以看出在充分考虑了照片中人与人之间和人与场景之间的关系信息后,在各种复杂场景下,AI均能够准确地检测出真正的C位。

C位检测可以自动快速地在人群中找出最重要的那个人。通过这篇文章,我们介绍了利用AI进行C位检测的一般流程和遇到的挑战,也进一步分享了一种优秀的C位检测器的构建思路与过程。其中的更多细节大家可以在arXiv上搜索《Learning to Learn Relation for Important People Detection in Still Images》进行查看。最后祝大家都能在各自的领域内不断进步,实现自我价值,站上属于自己的C位。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器视觉
    +关注

    关注

    160

    文章

    4032

    浏览量

    118248
  • 人工智能
    +关注

    关注

    1775

    文章

    43715

    浏览量

    230489
  • 深度学习
    +关注

    关注

    73

    文章

    5224

    浏览量

    119866

原文标题:谁才是真正的C位,让AI告诉你

文章出处:【微信号:TheBigData1024,微信公众号:人工智能与大数据技术】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    求助,关于system architecture overview的疑问求解

    上面说是64的系统总线矩阵,然后图的正下方又写了32系统总线矩阵,同一个矩阵写了两种属性,我怎么理解? 关键我从下面的英文描述中
    发表于 04-01 07:11

    AI会取代?

    AI行业芯事
    电子发烧友网官方
    发布于 :2024年03月13日 16:29:17

    使用Arduino I2C配置CY8C9560A-24AXI gpio,GPIO0的所有配置为低位时会报错的原因?

    你好团队,我正在尝试使用 Arduino I2C 配置 CY8C9560A-24AXI gpio。将 GPIO0 的所有配置为低位时会遇到问题。Wire.beginTransmission
    发表于 03-05 06:07

    【国产FPGA+OMAPL138开发板体验】(原创)5.FPGA的AI加速源代码

    可以把它想象成一个专门用来加速AI计算的“厨师”。 input wire clk, reset, input clk是时钟信号,就像是我们大脑的脉冲,告诉“厨师”什么时候该开始工作
    发表于 02-12 16:18

    CES AI硬件层出不穷:愿为AI的溢价买单吗?

    硬件AI
    电子发烧友网官方
    发布于 :2024年01月30日 16:36:00

    几张图告诉你,为什么要一点接地!

    几张图告诉你,为什么要一点接地!
    的头像 发表于 12-07 15:58 265次阅读
    几张图<b class='flag-5'>告诉</b>你,为什么要一点接地!

    单片机学到什么程度可以找到工作?

    一些元器件的性能,在面试的时候是可以加分的。 最后,我们应该多去做项目,多去实践。不要一直只是学习一些基本外设为目的,而一直深究这些基本外设,单纯靠会一种单片机的基本外设找工作难免有些牵强,因为企业真正
    发表于 08-10 15:19

    31.如何用 AI 扩展的图画(或照片)?

    AI
    充八万
    发布于 :2023年07月20日 16:31:38

    AI大模型车端应用如何真正贴近用户需求

    原文标题:AI大模型车端应用如何真正贴近用户需求 文章出处:【微信公众号:德赛西威DESAYSV】欢迎添加关注!文章转载请注明出处。
    的头像 发表于 06-29 17:35 207次阅读
    <b class='flag-5'>AI</b>大模型车端应用如何<b class='flag-5'>真正</b>贴近用户需求

    哪位大神能告诉我如何MINI58的5路PWM同时输出波形?

    哪位大神能告诉我如何MINI58的5路PWM同时输出波形 5路工作在独立模式就可以同时输出波形
    发表于 06-13 06:22

    esp8266有没有真正的IDE(IAR 工作台类型)?

    使用真正的商业编译器 ide 更新代码之前,我不会在真正的商业产品中使用 esp8266。 打电话给 IAR,给他们 100 万克朗,他们为的芯片编写一个编译器,然后再回复我。
    发表于 06-12 06:06

    什么才是真正的L3自动驾驶

    2020年被认为是L3自动驾驶元年,目前已经有很多车企宣布实现了L3自动驾驶,比如广汽新能源、小鹏、长安等,但每家车 企的L3在使用场景和功能上又各不相同。你认为L3到底该如何定义,什么才是真正的L3自动驾驶?欢迎大家说出自己的看 法。
    发表于 06-06 11:48 0次下载
    什么<b class='flag-5'>才是</b><b class='flag-5'>真正</b>的L3自动驾驶

    ChatGPT系统开发AI人功智能方案

    {\"messages\": [ {\"content\": \"\",\"role\": \"user
    发表于 05-18 10:16

    单片机学到什么程度可以找到工作?

    靠会一种单片机的基本外设找工作难免有些牵强,因为企业真正需要的不是说会多少个外设。相比项目经验更加重要,即便所有外设都学习过,但是组长提出的一个项目,无法使用你学到的知识运用起来
    发表于 05-11 10:46