第五篇 openvslam建图与优化模块梳理

建图模块

mapping_module在初始化系统的时候进行实例化,在构建实例的时候会实例化local_map_cleaner和local_bundle_adjuster。系统启动的时候会在另外一个线程中启动该模块。

// src/openvslam/system.cc:78
mapper_ = new mapping_module(map_db_, camera_->setup_type_ == camera::setup_type_t::Monocular);

// src/openvslam/system.cc:123
mapping_thread_ = std::unique_ptr(new std::thread(&openvslam::mapping_module::run, mapper_));
image

对新增的关键帧进行建图

// src/openvslam/mapping_module.cc:128
void mapping_module::mapping_with_new_keyframe()
对新增的关键帧进行建图mapping_with_new_keyframe
    取出队列中最早放入的关键帧
    设置原始关键帧ID
    将新关键帧保存入数据库store_new_keyframe
        计算当前关键帧的BoW特征向量
        获取当前关键帧的lm
        如果当前关键帧可以观测到该lm,将lm添加入local_map_cleaner的fresh_landmarks中
        否则
            添加lm的观测
            更新lm几何信息
            计算lm的描述子
        更新图连接update_connections
            获取图关键帧所有lm
            统计出共视关键帧以及共视lm数量情况,筛选出共视lm大于15的关键帧weight_covisibility_pairs
            寻找出共视lm数量最多的关键帧当做最近的共视关键帧
            图中添加连接add_connection
            对weight_covisibility_pairs进行降序排列,更新ordered_covisibilities_和ordered_weights_
            更新生成树。最近的共视关键帧设置为父树,当前关键帧为子树
        存储关键帧
    去除冗余的lm(remove_redundant_landmarks)
        移除的逻辑
        1. observed_ratio小于观测门限,需要从局部地图buffer和数据库中移除;
        2. 如果lm被添加之后一段时间内,被观测到的其他帧观测到的次数<=2,则认为时无效帧,需要从局部地图buffer和数据库中移除;
        3. 如果lm被添加之后一段时间内被多次观测到,则认为该lm有效,只从局部地图buffer中移除;
    依据当前关键帧和共视关键帧重新三角化lm(create_new_landmarks)
        获取当前关键帧权重高的共视关键帧
        逐个计算当前关键帧与共视关键帧之间的本质矩阵
        利用本质矩阵计算出两关键帧lm的匹配情况
        三角化匹配的lm,三角化成功的点将添加入库
    检测处理重复的lm(update_new_keyframe)
        获取两层共视关键帧
        融合重复的lm(fuse_landmark_duplication)
            获取当前帧的lm
            逐个共视关键帧去重(replace_duplication)
                如果lm没有被共视关键帧观测到
                将lm重投影至该共视关键帧,提取共视关键帧投影区域附近的特征点,如果相似度很高且重投影误差很小,
                使用共视关键帧的lm点取代当前的lm,如果共视关键帧没有对应的lm则把当前lm添加到共视关键帧
            获取所有共视关键帧的lm集合再次进行去重(replace_duplication)
                这里和上面去重输入参数是不一样的,这里的关键帧是当前关键帧,lm是共视关键帧lm集合
        更新当前帧lm几何信息和图连接
    进行局部地图BA(local_bundle_adjuster)
    祛除冗余的关键帧remove_redundant_keyframes
        获取当前关键帧的共视关键帧
        逐个共视关键帧计算冗余观测count_redundant_observations
            获取当前共视关键帧的lm
            逐个lm统计其共视关键帧数量,如果不小于3个就认为lm是冗余的num_redundant_obs++
            lm深度有效就认为是有效的lm,num_valid_obs++
        如果num_redundant_obs / num_valid_obs > 0.9,则认为该共视关键帧是冗余的,移除掉
将新的关键帧发送给全局优化模块队列

观测门限清理

在跟踪模块优化局部地图optimize_current_frame_with_local_map时,首先会统计出当前帧可以被观测到的lm,会调用lm->increase_num_observable(),位姿优化后统计inlier的lm,调用lm->increase_num_observed(),因此num_observed_记录的是跟踪过程中真正有效的lm,num_observable_记录的是局部地图中可以被当前帧观测到的lm,如果num_observed_ / num_observable_的值很小的话,说明该lm对位姿评估没有太大意义,可以从局部地图buffer和数据库中清除掉。

// src/openvslam/tracking_module.cc:340
bool tracking_module::optimize_current_frame_with_local_map()

全局优化模块

和建图模块一样, 全局优化模块global_optimization_module在初始化系统的时候进行实例化,在构建实例的时候会实例化graph_optimizer、loop_detector和loop_bundle_adjuster。系统启动的时候会在另外一个线程中启动该模块。

// src/openvslam/system.cc:80
global_optimizer_ = new global_optimization_module(map_db_, bow_db_, bow_vocab_, camera_->setup_type_ != camera::setup_type_t::Monocular);

// src/openvslam/system.cc:124
global_optimization_thread_ = std::unique_ptr(new std::thread(&openvslam::global_optimization_module::run, global_optimizer_));

image
run
    取出队列中最早放入的关键帧
    设置标记保证在回环检测和校正期间关键帧不被擦除
    将关键帧传入回环检测模块
    检测回环候选detect_loop_candidates
        回环检测功能被禁用或者刚刚被校正过,则不需要检测回环候选,直接将关键帧添加到bow_db
        1. 通过查询BoW数据库来搜索循环候选者
            在查询之前,计算当前关键帧和每个共视关键帧之间的BoW相似性的最小分数
            获取回环候选acquire_loop_candidates
                获取与当前关键帧相连的关键帧集合(通过graph_node)
                统计当前关键帧和其他关键帧共享单词数量情况
                将最大共享单词数量*0.8作为最小共享单词门限
                计算共享单词数满足条件的候选关键帧于当前关键帧的bow得分
                挑选出不大于最小分数候选关键帧对儿score_keyfrm_pairs
                计算每个候选关键帧(score_keyfrm_pairs)邻域的得分并取总和best_total_score
                大于best_total_score*0.75才为有效的候选帧
            没有回环候选帧将当前关键帧添加到BoW database
        2. 寻找连续关键帧集合find_continuously_detected_keyframe_sets
            逐个查看回环候选关键帧
                获取相连的关键帧集合
                检测与之前连续关键帧集合是否相连,如果相连,添加入当前连续关键帧集合
        3. 将连接数大于2的关键帧放入回环候选
        4. 保存当前连续关键帧集合以便下次使用
    如果当前关键没有找到回环候选,那么当前帧是可以被删除的
    验证回环并且从中选出一个validate_candidates
        使用线性和非线性的方式评估当前关键帧和候选关键帧的sim3,挑选出回环候选帧
    校正回环correct_loop
        获取当前关键帧的共视关键帧
        获取回环校正前的共视关键帧的Sim3s_nw
        计算回环校正后的共视关键帧的Sim3s_nw
        校正共视关键帧中的lm的位置信息
        校正共视关键帧的位姿信息
        处理回环融合带来的重复lm(replace_duplicated_landmarks)
            用回环候选关键中的lm替换当前帧中的lm
            使用match::fuse检测重复的关键点
        获取新的连接关系,进行图优化sim3
            优化的变量只有关键帧位姿,优化完成后使用优化的结果调整landmark
        添加回环边
        最后进行loop BA

问题

  1. 搞清楚线性和非线性sim3;

你可能感兴趣的:(第五篇 openvslam建图与优化模块梳理)