0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

点云配准任务中的点特征与一般点特征的区别在哪里?

3D视觉工坊 来源:3D视觉工坊 作者:3D视觉工坊 2022-12-13 14:27 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

0.笔者个人体会:这个工作来自于华中科技大学,发表于ICCV 2021。这个工作聚焦于点云的点特征表示学习,但是,与一般的点特征学习方法并不一样。我们知道,基于深度学习的三维点云处理已经在近年来得到了广发关注,从先驱性的工作例如PointNet到近期的Point Transformer等。这些工作都能有效的学习点特征表示。但是,这些方法学习点特征都是基于输入的某一个点云而言的,所有的操作也都集中在一个点云上,并且追求特征的描述性,力求能准确表示三维点云的局部几何结构。但是,这篇论文针对点云配准工作提出了另一种点云设计方式。我们知道配准的目的是求解输入的点云对之间的相对变换以使它们最好的对齐,在这个过程中,聚焦于用学到的点特征表示构造可靠的匹配对。为此,对于点特征的鲁棒性需求也很重要。为了实现这个目的,本工作提出从输入的两个点云出发,利用这两个点云之间的交互进一步调整点特征学习,使得到的点特征表示源于同时感知到当前点云和另一个需要配对的点云,从而追求正确的匹配点的可匹配性的提升。也就是说这是一个针对特定任务而设计的点特征学习方法,或许此方法学到的点特征难以应用到其他任务,例如分类、分割等,但对于匹配、配准而言应该更加适用。1、论文相关内容介绍:论文标题: Feature Interactive Representation for Point Cloud Registration作者列表:  Bingli Wu, Jie Ma, Gaojie Chen, Pei An摘要:点云配准是使用两个点云中的共同结构将它们拼接在一起。为了找出这些共同的结构并使这些结构更准确地匹配,源点云和目标点云的交互信息是必不可少的。然而,当前对显式建模这种特征交互的关注有限。为此,我们提出了一个特征交互表示学习网络,它可以从不同层次探索源点云和目标点云之间的特征交互。具体来说,我们首先介绍了一种基于点云内特征交互的组合特征编码器(CFE)。CFE提取每个点云内的交互特征并将它们组合起来以增强网络描述局部几何结构的能力。然后,我们提出了一种点云间的特征交互机制,它包括一个局部交互单元(LIU)和一个全局交互单元(GIU)。前者用于跨两个点云的点对之间的信息交互,从而使一个点云中的点特征与另一个点云中的相似点特征能够相互感知。后者用于根据两个点云的全局交互信息调整每个点特征,因此一个点云具有对另一个点云的全局感知。对部分重叠点云配准的大量实验表明,我们的方法实现了最先进的性能。主要贡献:1)我们提出了一种组合特征编码器来提取局部区域的交互特征,其通过结合不同层的特征,增强网络提取局部几何和语义信息的能力。2)我们设计了一种新颖的点云间特征交互机制,使每个点云都具有另一个点云的上下文感知,从而为后续模块提供更具辨别力的特征3)我们的端到端 FIRE-Net在多种实验设置下于 ModelNet40 基准数据集上实现了最先进的性能,从而证明了其有效性和泛化能力。方法介绍:给定输入点云

e8be80b2-7a84-11ed-8abf-dac502259ad0.png

e8d16fe2-7a84-11ed-8abf-dac502259ad0.png,我们的目标是求解旋转矩阵e8e4cb5a-7a84-11ed-8abf-dac502259ad0.png和平移向量e90409ac-7a84-11ed-8abf-dac502259ad0.png以实现输入点云最好的对齐。Fig1展示了我们的FIRE-Net的整体流程。简要地说,我们的网络的输入包括源和目标原始点云。组合特征编码器(CFE)首先提取源和目标的初始特征,将所有点编码到一个公共特征空间中。然后,设计了一个局部交互单元(LIU)和一个全局交互单元(GIU)来建模点云间的特征交互。最终的交互特征被送到关键点层以选择两个点云中的公共结构。最后,我们使用刚性变换计算模块以迭代的方式来获得可靠的对应关系和计算刚性变换。每个模块的详细信息将在以下部分进行说明。

e91a7ef8-7a84-11ed-8abf-dac502259ad0.png

Fig1:(a)FIRE-Net的整体框架,(b)局部特征交互单元,(c)全局特征交互单元。一、组合特征编码:CFE的主要目标是描述源点云和目标点云的局部结构。同时,作为我们特征交互模型的第一级,CFE 实现了点云内的特征交互。我们的 CFE 是一个基于 GNN 的网络,可以通过在3D坐标空间中构建固定图并应用串联连接多层来分层的输出来提取点的多级交互特征,其过程如图2所示。

e93b64f6-7a84-11ed-8abf-dac502259ad0.png

Fig2.组合特征编码坐标空间中的局部图:为了表示给定点云的局部几何结构,我们将每个点作为一个中心节点,分别构造一个kNN图。

e9620a16-7a84-11ed-8abf-dac502259ad0.png

其中e9908a76-7a84-11ed-8abf-dac502259ad0.png是用于中心点及其近邻点的相对特征的共享MLP。A是最大池化。σ是线性层。初始特征:为了增强模块捕获几何和语义信息的能力,我们通过串接每个传播层的输出向量来合并低阶和高阶交互特征。最后,我们在串接的向量上应用共享 MLP以获得初始特征e9a5b81a-7a84-11ed-8abf-dac502259ad0.pngea0707b4-7a84-11ed-8abf-dac502259ad0.png 。这个过程可以表述为:

ea1dd12e-7a84-11ed-8abf-dac502259ad0.png

其中ea3f833c-7a84-11ed-8abf-dac502259ad0.png是一个共享的 MLP。ea56aed6-7a84-11ed-8abf-dac502259ad0.png表示ea6ceade-7a84-11ed-8abf-dac502259ad0.png层中的特征,L表示传播层数。二、点云间的特征交互该模块旨在对点云交互进行建模,它由两个串行单元组成:LIU学习局部交互函数以获得局部交互特征ea7cbe46-7a84-11ed-8abf-dac502259ad0.png。然后,GIU学习一个全局交互函数ea916cba-7a84-11ed-8abf-dac502259ad0.png得到全局特征交互

eaa4f83e-7a84-11ed-8abf-dac502259ad0.png

。请注意,我们将eac1fa74-7a84-11ed-8abf-dac502259ad0.png作为残差项,为可学习尺度参数β和原始特征提供附加变化,即,

ead2e73a-7a84-11ed-8abf-dac502259ad0.png

其中eae2ec5c-7a84-11ed-8abf-dac502259ad0.pngeaf4d9e4-7a84-11ed-8abf-dac502259ad0.png是 LIU之后更新的特征、eb0abf5c-7a84-11ed-8abf-dac502259ad0.pngeb240ae8-7a84-11ed-8abf-dac502259ad0.png 是GIU之后更新的特征。1.局部特征交互单元:在CFE编码了输入点云到一个共同的特征空间的前提下,点云间的局部交互可以通过在特征空间上应用GNN 来实现。特征空间的局部图:在公共特征空间中,我们有M个源点云特征和N个目标点云特征。我们首先构造一个混合特征集eb3f9a88-7a84-11ed-8abf-dac502259ad0.png,然后将其中的每个特征eb56f3cc-7a84-11ed-8abf-dac502259ad0.png作为中心节点并应用KNN 构造局部图eb6dccbe-7a84-11ed-8abf-dac502259ad0.png,从而得到混合图eb846ee2-7a84-11ed-8abf-dac502259ad0.png

eb9a06ee-7a84-11ed-8abf-dac502259ad0.png

。构建局部图eb6dccbe-7a84-11ed-8abf-dac502259ad0.png有两种策略:(1) 如图 3左侧所示,无论邻居特征属于ebbeb4da-7a84-11ed-8abf-dac502259ad0.png还是ebd3dfc2-7a84-11ed-8abf-dac502259ad0.png,我们都连接中心节点与其邻居节点之间的所有边。(2) 如图3右侧所示,边只在属于不同点云的节点之间构建。在局部图中,我们将边视为两个节点间的关系,例如表示从ebea45f0-7a84-11ed-8abf-dac502259ad0.pngeb56f3cc-7a84-11ed-8abf-dac502259ad0.png的关系。因此在图3中,类型 1 对特征空间中的关系进行了更全面的建模,而类型 2 比类型 1 更清楚地将消息从另一个点云传递到中心节点。

ec0da1e4-7a84-11ed-8abf-dac502259ad0.png

Fig3.特征空间的局部图结构节点关系挖掘:通过上面定义的局部图,可以通过节点特征及其邻居点特征的边来挖掘节点关系,例如,使用ec4d5b0e-7a84-11ed-8abf-dac502259ad0.png获得关系向量ec64fe80-7a84-11ed-8abf-dac502259ad0.png。为了找到更有效的关系函数,我们研究了三种不同形式的关系函数。

ec7a6536-7a84-11ed-8abf-dac502259ad0.png

其中ec9bf4da-7a84-11ed-8abf-dac502259ad0.png表示中心点特征, ecae814a-7a84-11ed-8abf-dac502259ad0.png是其相邻特征之一。ecc2f2ce-7a84-11ed-8abf-dac502259ad0.png是线性层。我们通过聚合关联向量来更新中心的特征,即:

ecd93ac0-7a84-11ed-8abf-dac502259ad0.png

其中A是聚合函数,例如最大池化。

ecf902f6-7a84-11ed-8abf-dac502259ad0.png

Fig4.局部特征交互单元的流程细节局部交互特征:更一般地,我们重复上述操作几次,得到一个高级关联表示ed13c56e-7a84-11ed-8abf-dac502259ad0.png及其相应的聚合输出特征ed2e5a96-7a84-11ed-8abf-dac502259ad0.png。请注意,局部图将随着节点特征更新而动态重新计算,如图4所示。这是与在固定输入图上工作的CFE的重要区别。最后,我们在聚合输出特征上应用非线性层来得到调整后的特征ed47604a-7a84-11ed-8abf-dac502259ad0.png,即局部交互特征。这个过程可以描述为:

ed614a82-7a84-11ed-8abf-dac502259ad0.png

通过LIU,每个点的特征具有局部邻域的特点。在LIU之后,源和目标的特征更新为ed794650-7a84-11ed-8abf-dac502259ad0.pnged91002e-7a84-11ed-8abf-dac502259ad0.png,然后后面紧接GIU。2.全局特征交互单元:为了共享全局信息并全面学习源和目标之间的交互,我们设计了一个 GIU。所提出的GIU获得源和目标全局特征的交叉矩阵,然后通过将交叉矩阵投影到它们的潜在表示空间来更新点特征。全局信息聚合:我们首先聚合eda3b7b4-7a84-11ed-8abf-dac502259ad0.pngedbf5410-7a84-11ed-8abf-dac502259ad0.png以获得全局特征。此聚合操作串联池化后的特征,然后使用共享的 MLP对其进行进一步调整,其过程可以表示如下:

edd7f2ae-7a84-11ed-8abf-dac502259ad0.png

其中edee4f2c-7a84-11ed-8abf-dac502259ad0.png是共享的MLP操作。全局信息交叉:对于源点云全局特征

ee09fb3c-7a84-11ed-8abf-dac502259ad0.png

和目标点云全局特征

ee35098a-7a84-11ed-8abf-dac502259ad0.png

,我们构建ee5399cc-7a84-11ed-8abf-dac502259ad0.png成对交互:

ee694948-7a84-11ed-8abf-dac502259ad0.png

其中ee8f1948-7a84-11ed-8abf-dac502259ad0.png是交叉特征矩阵,d是特征的维数。通过交叉操作,每个可能的特征交互在交叉特征矩阵中明确建模。全局交互特征:为了将交叉矩阵中包含的信息投影到每个点特征中,我们将源点云特征乘以交叉矩阵ee8f1948-7a84-11ed-8abf-dac502259ad0.png,同时目标点云特征乘以转置交叉矩阵eeb26182-7a84-11ed-8abf-dac502259ad0.png。这个过程由下式表示,最终得到了源点云全局交互特征eec5fdb4-7a84-11ed-8abf-dac502259ad0.png和目标点云全局交互特征 eedd5478-7a84-11ed-8abf-dac502259ad0.png

eef03a52-7a84-11ed-8abf-dac502259ad0.png

通过 GIU,源点云和目标点云可以交互全局上下文信息。即源点云的特征不仅集成了源点云全局信息,还集成了目标点云全局信息,反之亦然。GIU之后,特征被更新为ef096036-7a84-11ed-8abf-dac502259ad0.pngef23dbc8-7a84-11ed-8abf-dac502259ad0.png三、关键点层给定最终的交互特征ef096036-7a84-11ed-8abf-dac502259ad0.png我们通过一个简单高效的关键点层来选择源点云和目标点云公共的兴趣点。我们的关键点层可以表示如下:

ef4dfd54-7a84-11ed-8abf-dac502259ad0.png

其中是共享的MLP,ef6b0db8-7a84-11ed-8abf-dac502259ad0.png输出每个点的显著性分数。这里,ef80bfbe-7a84-11ed-8abf-dac502259ad0.png提取给定输入的K个最大元素的索引ef9ed95e-7a84-11ed-8abf-dac502259ad0.png是从原始点云中选择的关键点集。efb002b0-7a84-11ed-8abf-dac502259ad0.pngefc15524-7a84-11ed-8abf-dac502259ad0.png表示相应的关键点特征集。四、刚性变换计算给定点对的坐标和特征,刚性变换计算模块采用IDAM中的相似矩阵卷积 (SMC) 来回归每个点对的相似性得分。不同之处在于IDAM将点对的特征串联起来作为 SMC输入的一部分,而我们的模型使用点对的特征差异。最后,SMC获得的对应关系被传递到SVD层以计算刚性变换。


审核编辑 :李倩


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编码器
    +关注

    关注

    45

    文章

    3905

    浏览量

    141466
  • 建模
    +关注

    关注

    1

    文章

    320

    浏览量

    62753
  • 点云
    +关注

    关注

    0

    文章

    59

    浏览量

    4047

原文标题:点云配准任务中的点特征与一般点特征的区别在哪里?

文章出处:【微信号:3D视觉工坊,微信公众号:3D视觉工坊】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    自动驾驶模型是如何“看”懂信息的?

    [首发于智驾最前沿微信公众号]在自动驾驶个非常重要的感知信号,如激光雷达(LiDAR)生成的
    的头像 发表于 11-29 10:25 1595次阅读
    自动驾驶模型是如何“看”懂<b class='flag-5'>点</b><b class='flag-5'>云</b>信息的?

    如何通过地址生成器实现神经网络特征图的padding?

    ,从而使卷积输出特征图结果满足我们的需求,这种补零的操作称之为padding,如下图所示。 关于padding的实现,一般有两种操作,第种是使用稀疏地址生成器,寻找padding数据地址的规律,当
    发表于 10-22 08:15

    放电管和压敏电阻的区别在哪

    放电管和压敏电阻的区别在哪
    发表于 09-08 07:14

    如何使用树莓派+OpenCV实现姿态估计和面部特征追踪?

    大家好,这是个树莓派和OpenCV的连载专题。使用树莓派与OpenCV实现姿态估计和面部特征追踪使用树莓派与OpenCV实现面部和运动追踪的台系统使用树莓派和OpenCV实现手部
    的头像 发表于 08-13 17:44 983次阅读
    如何使用树莓派+OpenCV实现姿态估计和面部<b class='flag-5'>特征</b><b class='flag-5'>点</b>追踪?

    Mark的防呆设计

    什么是Mark?Mark是PCB加工和贴片过程中用于机器视觉定位的种标记。它帮助贴片机、焊接机等设备准确识别电路板的位置和方向,确保组装精度。Mark
    的头像 发表于 08-01 18:32 999次阅读
    Mark<b class='flag-5'>点</b>的防呆设计

    CANFD节点的采样如何测量?

    本文导读为提升CAN/CANFD网络的通信可靠性,各节点需尽可能配置合适且致的采样。然而在设备CAN通信采样参数未知的情况下,如何验证各节点采样设置的
    的头像 发表于 07-31 11:34 952次阅读
    CANFD节点的采样<b class='flag-5'>点</b>如何测量?

    发电机中性接地和不接地的区别

    发电机中性接地与不接地的主要区别在于故障处理、绝缘要求和供电可靠性。中性接地系统(直接或经阻抗接地)故障电流大,保护装置可快速切除故障,抑制过电压,绝缘要求低,但会立即停电,适用于高压系统。中性
    的头像 发表于 06-19 18:28 3313次阅读

    自动驾驶中常提的“”是个啥?

    [首发于智驾最前沿微信公众号]在自动驾驶系统技术作为三维空间感知的核心手段,为车辆提供了精确的距离和形状信息,从而实现目标检测、环境建模、定位与地图构建等关键功能。那所谓的“
    的头像 发表于 05-21 09:04 829次阅读
    自动驾驶中常提的“<b class='flag-5'>点</b><b class='flag-5'>云</b>”是个啥?

    服务器和独立服务器的区别在哪文读懂如何选择

    面对服务器与独立服务器的选择,许多人常因概念模糊而纠结。服务器和独立服务器的区别在于资源分配方式、扩展性及成本结构,选择时需结合业务需求权衡利弊。本文将从两者核心差异进行对比,为大家提供参考依据。
    的头像 发表于 05-19 10:19 450次阅读

    种基于、线和消失点特征的单目SLAM系统设计

    本文提出了种稳健的单目视觉SLAM系统,该系统同时利用、线和消失点特征来进行精确的相机位姿估计和地图构建,有效解决了传统基于特征的SL
    的头像 发表于 03-21 17:07 844次阅读
    <b class='flag-5'>一</b>种基于<b class='flag-5'>点</b>、线和消失点<b class='flag-5'>特征</b>的单目SLAM系统设计

    DLP6500获得的数目不多是什么原因造成的?

    我有个疑问,我完成了DLP_LightCrafter_6500_3D_Scan_Application.exe设定的步骤之后, 1、获得的扫描物体的并不多,这个是什么原因造成
    发表于 03-03 08:33

    mark点定位的一般原理与步骤

    的位置。一般将 Mark 放置在 PCB 的边缘或者角落等相对稳定的区域。这样可以减少在后续工序受到其他元器件或操作影响的可能性。同时,要考虑 PCB 在制造设备和检测设备
    的头像 发表于 02-05 17:37 2495次阅读

    C#通过Halcon实现3D重绘

    C# 通过 Halcon 实现 3D 重绘
    发表于 01-05 09:16 0次下载

    SN74ALVC164245与SNALVC164245-EP区别在哪里呢?

    SN74ALVC164245与它的增强型器件SNALVC164245-EP区别在哪里呢?我对比了数据手册发现两种产品在电气性能上并没有什么差别,这个“增强”体现在哪里
    发表于 12-12 08:31

    什么是晶圆微凸封装?

    晶圆微凸封装,更常见的表述是晶圆微凸技术或晶圆级凸技术(Wafer Bumping),是种先进的半导体封装技术。以下是对晶圆微凸
    的头像 发表于 12-11 13:21 1356次阅读