0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Maplab 2.0发布:多传感器融合的SLAM框架

3D视觉工坊 来源:深蓝AI 2023-01-05 10:56 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

概述

将多种传感器深度学习集成到SLAM系统中是当前研究的重要领域。Maplab 2.0提供了一个更加通用的开源平台,最初的Maplab用于创建和管理视觉惯性地图。Maplab 2.0集成了多种新模态,例如 LiDAR、GPS、车轮编码器、语义对象等。除此之外,还提供了易于集成外部组件的接口,例如添加不同视觉特征或闭环约束。这些功能使新平台非常适合作为基于深度学习的特征点检测和闭环的研究工具。

由于加入了子地图管理功能,在线协作 SLAM可以在 Maplab 2.0中使用,支持多个机器人在线构建、优化和协同定位。这是通过一个集中式服务器节点实现的,该节点聚合来自多个机器人的数据,并且可以将协作构建的地图回传给机器人以提高性能。文末附文章和源码链接。

b84f9194-8c60-11ed-bfe3-dac502259ad0.png

图1 Maplab2.0:一个灵活且通用的多机器人和多模态SLAM框架。可以集成多个机器人(彩色线)、视觉地图点(彩色点)和 LiDAR扫描(黑色点)。

主要功能

(1)开源的、多模态和多机器人SLAM框架,与其他现有方法相比,该框架允许集成和融合大量不同的数据。

(2)一个在线协作建图系统,它利用子地图和中央服务器来合并和分发全局一致的、特征丰富的地图。

(3)为自定义特征点、场景描述符和闭环集成接口。实验展示了它们在基于语义对象的闭环实验中的灵活性。

广泛的实验表明Maplab2.0的定位精度可以与基准测试中的最新技术相媲美。系统框架如图2所示。

b86e5750-8c60-11ed-bfe3-dac502259ad0.png

图 2:maplab 2.0框架及其三个主要组件的概述,即建图节点、集中式服务器和离线控制台。

在图2中,建图节点在每个机器人上运行,并将传感器数据收集到子地图中,这些子地图被传递到集中式服务器,将它们合并成全局一致的地图。然后,可以在稍后阶段使用离线控制台提供的工具对该地图进行细化或与其他地图合并。

Maplab 2.0

A. 地图结构

我们将地图表示为一个或多个任务的集合,其中每个任务都基于单个连续的建图线程。地图的底层结构是一个由顶点和边组成的因子图,其中包含所有机器人信息和不同任务的测量值。机器人在某个时间点t的状态被参数化为一个顶点(姿态、速度、IMU偏置)。地标也表示为图中的顶点,其状态定义为3D位置。3D地标可以用作环境中具有3D位置的任何事物的基础表示,例如,视觉地标、3D 地标,语义对象。

1) 约束:顶点通过不同类型的边连接,这些边基于观测(例如,关键点、 imu测量和闭环)对其状态变量施加约束。IMU边包含连接顶点之间的预积分,因此仅连接时间顺序的顶点。相对位姿约束边在两个顶点之间施加刚性6 DoF变换,并用于表示相对运动(即里程计)或跨越较大时间间隔或任务的闭环。为观测分配协方差以量化测量噪声,通常将其设置为预定义的常数值。我们认为闭环边是相对位姿约束边的特例。为了提高鲁棒性并考虑异常值,可以将闭环边缘作为可切换约束。如果某些边与其他约束冲突太多,则优化器可以从图中丢弃这些边。最后,边将地图点连接到观察到的姿态,并根据估计和观察到的地标位置之间计算残差。

在优化过程中,约束也可以直接施加在所选顶点的内部状态上。例如,绝对约束以给定的不确定性在顶点上约束全局3D位置,允许我们整合GPS 测量或绝对基准地标观察。

2) 地标: 在Maplab 2.0 中,增加了同时将任意数量的不同类型的要素包含到地图中的功能。既可以使用ORB特征/LK光流跟踪,也可以自己提供轨迹信息。此外,扩展了匹配器以支持浮点描述符,能够使用最新开发的描述符实现闭环。浮点描述符使用近似最近邻(FLANN)的快速库进行匹配。

Maplab 2.0还可以用3D观测处理地标。来自RGB-D 相机的视觉特征具有相关深度,或者来自直接在3D点云中检测特征。显着的区别是这些地标不是使用多视图几何来三角化的。类似地,误差项不是基于重投影误差,而是基于观察到的3D位置与地标的3D位置之间的欧氏距离。

B. 建图节点

建图节点在每个机器人上运行,并使用外部输入源和原始传感器数据以多模态因子图的形式创建地图。在地图构建期间使用6 DoF里程计输入来初始化底层因子图的机器人姿势顶点。映射节点与里程计方法无关,因此可以在各种机器人和传感器设置中轻松使用。Maplab 2.0可以在运行时合并任意数量3D地图点。此外,可以无缝添加相对约束(例如里程计或外部闭环)和绝对6 DoF约束(例如GPS)。

C. 地图服务器

地图服务器支持协作和在线建图。作为获胜团队 (CERBERUS) 多机器人测绘系统的一部分,该方法已成功部署在DARPA地下挑战赛中。服务器节点可以在专用机器上运行,也可以在机器人上运行。建图节点将它们的地图以规则的间隔划分为块,称为子图。子图立即传输到地图服务器,并连接到先前从同一机器人传输的相应子图。通过在拆分时将每个子图的最后一个顶点复制到下一个子图中来完成的。这避免了特征轨迹的不连续性。并行地,服务器通过闭环检测将来自不同机器人的地图到全局一致的地图。

1)子图预处理:传入的子图不直接合并,而是先单独处理,以保证局部精度。其中包括局部地图优化、特征质量评估和地图内闭环。

2)多机器人处理:地图服务器持续在全局多机器人地图上运行并执行可配置操作(闭环、特征质量评估、捆绑调整、可视化、绝对约束异常值拒绝等)。

实验

A. 验证和比较

我们使用 HILTI SLAM Challenge 2021数据集提出的框架与最先进的方法进行比较。对于maplab 2.0,我们可以使用数据集中提供的五个摄像头、ADIS IMU 和 OS0-64 LiDAR。我们使用三种不同的里程计展示Maplab 2.0的三个用例:ROVIO 、OKVIS和 FASTLIO2。除了标准的BRISK描述符外,我们还使用外部接口包括SuperPoint和SIFT。

表 1显示了与其他SLAM 基线(LVI-SAM、ORB-SLAM3、RTAB-Map 和maplab1.0)的性能。Maplab 2.0 是唯一能够使用所有五个相机进行环路闭合的方法。在所有视觉的方法中,显着优于基线。所有方法计时在Intel i7-8700和Nvidia RTX 2080 GPU的机器上。

b8922112-8c60-11ed-bfe3-dac502259ad0.png

表1:绝对位置误差 (APE)RMSE比较。SP + B代表SuperPoint和BRISK视觉特征。图标代表使用的传感器:单目、多摄像头、LiDAR 和 IMU

B. 大规模多机器人多会话建图

使用带有五个摄像头的手持设备和一个Ouster OS0-128 记录了23 次个人跑步,其中包含大约10 公里的两个多小时的数据以及多个室内-室外过渡。每次运行都使用OKVIS里程计。图3展示了多机器人地图。

定量评估我们在公共EuRoC基准上测试多机器人服务器。使用建图服务器、ROVIO在多机器人实验中同时运行所有11个序列。实现了0.043 m的平均RMSE,并行地图服务器只需要3分27秒即可完成所有操作。

b89a1d5e-8c60-11ed-bfe3-dac502259ad0.png

图3包含23次建图运行的全局多机器人地图的可视化建图结果

C.基于语义的地图

本节通过使用语义信息扩充地图并说明其在现实场景中的潜在应用。使用Mask R-CNN 在图像中检测语义对象,对于每次检测,我们使用NetVLAD提取掩码实例分割的描述符。所有检测到的对象都使用Deep SORT进行跟踪,语义对象也是3D 地标,但具类标签,可用于语义环路闭合检测。

我们使用 RGB 惯性传感器在具有多个对象的办公环境中收集了室内数据集。我们两次观察带有物体的办公桌,同时留出一些时间来累积漂移(见图4a和4c)。图4b 显示了语义地标集群和检测到的回环候选。将语义对象的闭环边添加到全因子图后,漂移显着减少,改进后的图如图4c 所示。

b8a3732c-8c60-11ed-bfe3-dac502259ad0.png

(a)(b)

b8afe3be-8c60-11ed-bfe3-dac502259ad0.png

(c)

图4:语义建图

文章链接:https://arxiv.org/abs/2212.00654

代码链接:https://github.com/ethz-asl/maplab

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2577

    文章

    55502

    浏览量

    793939
  • 机器人
    +关注

    关注

    213

    文章

    31442

    浏览量

    223652
  • SLAM
    +关注

    关注

    24

    文章

    459

    浏览量

    33418

原文标题:Maplab 2.0发布:多传感器融合的SLAM框架,支持多机器人、语义回环检测功能(文末附源码)

文章出处:【微信号:3D视觉工坊,微信公众号:3D视觉工坊】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    自动驾驶传感器融合,到底提前融合了什么?

    [首发于智驾最前沿微信公众号]自动驾驶里的传感器融合,本质是把不同来源的信息拼在一起,让系统对环境的理解更完整。摄像头提供颜色和语义,激光雷达提供三维结构,毫米波雷达提供距离和速度,这些信息如果
    的头像 发表于 04-16 09:16 586次阅读
    自动驾驶<b class='flag-5'>多</b><b class='flag-5'>传感器</b>前<b class='flag-5'>融合</b>,到底提前<b class='flag-5'>融合</b>了什么?

    重磅更新 | 先楫半导体HPM_APPS v1.10.1发布

    重磅更新 | 先楫半导体HPM_APPS v1.10.1发布
    的头像 发表于 12-26 08:33 1365次阅读
    重磅更新 | 先楫半导体HPM_APPS v1.10.1<b class='flag-5'>发布</b>

    从单一传感器技术融合 蓝鹏打造工业测量一站式解决方案

    1X1X0.5mm(长X宽X深)缺陷。 从单一传感器的精准应用,到技术融合的系统级方案,蓝鹏以品类传感器技术储备为根基,以自研高精度测量
    发表于 12-08 14:57

    STEVAL-PDETECT1:传感器融合的存在检测评估套件

    STEVAL-PDETECT1套件支持低功耗应用和用户隐私。该器件采用传感器模式,可减少错误触发。采用菊花链配置,最多可同时使用三个附加板。该套件采用三个传感器:STHS34PF80、VL53L8CX
    的头像 发表于 10-21 11:23 671次阅读
    STEVAL-PDETECT1:<b class='flag-5'>多</b><b class='flag-5'>传感器</b><b class='flag-5'>融合</b>的存在检测评估套件

    动态追踪+传感器融合:矿山皮带智能监测的突破之道 #人工智能 #AI

    传感器
    jf_60804796
    发布于 :2025年09月02日 10:38:41

    变压振动温度传感器模态监测技术解析与应用展望

    文章由山东华科信息技术有限公司提供在电力设备智能化运维领域,变压振动温度传感器正通过多参数融合检测技术,为电力变压运行状态评估提供全维度数据支撑。该
    的头像 发表于 09-01 13:49 835次阅读
    变压<b class='flag-5'>器</b>振动温度<b class='flag-5'>传感器</b>的<b class='flag-5'>多</b>模态监测技术解析与应用展望

    汽车传感器融合技术的发展与挑战

    来源:本文编译自semiengineering作者:ANNMUTSCHLER在汽车设计领域,传感器融合正变得日益流行且复杂。它将多种类型的传感器集成到单个芯片或封装中,并智能地将数据路由到所需之处
    的头像 发表于 08-29 11:56 2091次阅读
    汽车<b class='flag-5'>传感器</b><b class='flag-5'>融合</b>技术的发展与挑战

    一种适用于动态环境的自适应先验场景-对象SLAM框架

    由于传统视觉SLAM在动态场景中容易会出现严重的定位漂移,本文提出了一种新颖的基于场景-对象的可靠性评估框架,该框架通过当前帧质量指标以及相对于可靠参考帧的场景变化,全面评估SLAM
    的头像 发表于 08-19 14:17 999次阅读
    一种适用于动态环境的自适应先验场景-对象<b class='flag-5'>SLAM</b><b class='flag-5'>框架</b>

    基于传感器融合的切割深度动态补偿与晶圆 TTV 协同控制

    影响,单一传感器获取的信息存在局限性,难以实现切割深度的精确动态补偿与 TTV 的有效控制 。传感器融合技术通过整合源信息,为实现切割深
    的头像 发表于 07-21 09:46 818次阅读
    基于<b class='flag-5'>多</b><b class='flag-5'>传感器</b><b class='flag-5'>融合</b>的切割深度动态补偿与晶圆 TTV 协同控制

    开环式霍尔电流传感器及闭环霍尔电流传感器匝穿心利弊分析

    对于开环式霍尔电流传感器而言,匝穿心利大于弊,因此在使用该方法提升测量精度时需注意穿心方式,用户可在一定程度内提高小电流测试精度;对于闭环霍尔电流传感器尤其是高精度的闭环霍尔电流传感器
    的头像 发表于 07-01 15:28 1032次阅读
    开环式霍尔电流<b class='flag-5'>传感器</b>及闭环霍尔电流<b class='flag-5'>传感器</b>的<b class='flag-5'>多</b>匝穿心利弊分析

    AGV机器人如何实现毫秒级避障?深度解析传感器融合的核心技术

    一、AGV传感器融合实时避障系统介绍 1.简介 传感器融合技术是机器人实现全覆盖避障的关键,其原理仿效人脑综合处理信息的方式:通过协调多种
    的头像 发表于 05-28 14:21 1666次阅读
    AGV机器人如何实现毫秒级避障?深度解析<b class='flag-5'>多</b><b class='flag-5'>传感器</b><b class='flag-5'>融合</b>的核心技术

    苹果正测试2亿像素相机传感器,或应用于iPhone 18

    5月27日消息,博主@数码闲聊站发布微博透露苹果正在为iPhone测试2亿像素相机传感器,该博主同时在评论区透露相应传感器“大概率用于主摄端”,预计这一配置将应用于要在2026年发布
    的头像 发表于 05-27 18:15 1365次阅读
    苹果正测试2亿像素相机<b class='flag-5'>传感器</b>,或应用于iPhone 18

    重磅更新 | 先楫半导体HPM_APPS v1.9.0发布

    重磅更新 | 先楫半导体HPM_APPS v1.9.0发布
    的头像 发表于 05-13 11:29 2025次阅读
    重磅更新 | 先楫半导体HPM_APPS v1.9.0<b class='flag-5'>发布</b>

    【「# ROS 2智能机器人开发实践」阅读体验】视觉实现的基础算法的应用

    的有效途径。 结语 本书第7章和第8章内容系统性强,从基础理论到代码实践,为读者提供了机器人视觉与SLAM的完整知识框架。未来,我计划结合书中案例,进一步探索传感器
    发表于 05-03 19:41

    求助,关于传感器融合库的使用问题求解

    试验,找到了一些问题点,希望能得到官方的技术支持。 问题1:原先我水平旋转传感器,航向角的误差很大,比如说误差30度。通过我反复测试后发现是陀螺仪零漂的问题,motionfx库设置静态时校准零漂,但是当
    发表于 04-27 08:59