OpenCV视频学习笔记（13）-案例实战-全景图像拼接

十三、案例实战-全景图像拼接

特征匹配
Brute-Froce蛮力匹配
对比两张图象中哪些关键点比较类似，距离比较近，即比较向量之间的差异。
首先导入工具包，读取图像；
import cv2
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline

img1 = cv2.imread(‘D:/graduate/test picture/box.png’, 0)
img2 = cv2.imread(‘D:/graduate/test picture/box_in_scene.png’, 0)

def cv_show(name,img):
cv2.imshow(name, img)
cv2.waitKey(0)
cv2.destroyAllWindows()

cv_show(‘img1’,img1)
显示：

cv_show(‘img2’,img2)
显示：

用sift算法把当前图像的特征点找出来，对每个点来说还要计算出特征向量，基于特征点进行匹配，看哪些特征点离得比较近。
#蛮力匹配
sift=cv2.xfeatures2d.SIFT_create()

#检测关键点，并计算特征向量
kp1,des1=sift.detectAndCompute(img1,None)
kp2,des2=sift.detectAndCompute(img2,None)

// crossCheck表示两个特征点要互相匹，例如A中的第i个特征点与B中的第j个特征点最近的，并且B中的第j个特征点到A中的第i个特征点也是
#NORM_L2: 归一化数组的(欧几里德距离)，如果其他特征计算方法需要考虑不同的匹配计算方式
#crossCheck=True表示i到j最近，j到i也最近
bf = cv2.BFMatcher(crossCheck=True)

1对1的匹配
matches=bf.match(des1,des2)
matches=sorted (matches,key=lambda x: x.distance)
#把各个关键点取前十个连在一起
img3=cv2.drawMatches(img1,kp1,img2,kp2,matches[:10],None,flags=2)

cv_show(‘img3’,img3)
显示：

可应用于图像拼接，还需做一些角度的变换。
k对最佳匹配
1个点可以对应多个点，得到关键点后再进行过滤操作，过滤掉不满足if条件的点。
bf = cv2.BFMatcher()
matches = bf.knnMatch(des1, des2, k=2)#可以设置k值，决定一对几
#过滤
good = []
for m, n in matches:
if m.distance < 0.75 * n.distance:
good.append([m])

img3 = cv2.drawMatchesKnn(img1,kp1,img2,kp2,good,None,flags=2)
#没有限制保留10个
cv_show(‘img3’,img3)
显示：

如果需要更快速完成操作，可以尝试使用cv2.FlannBasedMatcher
上面可以发现一些匹配错的点，一些额外的点对结果产生了影响，解决办法可用下面的算法
随机抽样一致算法（Random sample consensus，RANSAC）

绿色的线没有受到额外的点的影响，所以可以借鉴这个方法，解决上面关键点匹配中出现的问题。
选择初始样本点进行拟合，给定一个容忍范围，不断进行迭代

先选两个点画一条红线，然后根据容忍范围找到10个在范围内的点（i=1），重新画一条红线，找到容忍范围内的9个点（i=2），i=…
每一次拟合后，容忍范围内都有对应的数据点数，找出数据点个数最多的情况，就是最终的拟合结果。

单应性矩阵（H）

8个未知数，需要八个方程，4对特征点。做图像拼接或对图像做投影变换、角度变换，最少需要4对特征点，并且不能取到匹配错误的特征点。

一个点经过h矩阵后，如果和这个点所匹配的关键点接近，差异很小，那么这对点的匹配就是正确的，如果不满足，就过滤掉。
用特征匹配方法做图像拼接

ImageStiching.py

from Stitcher import Stitcher
import cv2

//读取拼接图片
imageA = cv2.imread(“left_01.png”)
imageB = cv2.imread(“right_01.png”)

// 把图片拼接成全景图
stitcher = Stitcher()
(result, vis) = stitcher.stitch([imageA, imageB], showMatches=True)

// 显示所有图片
cv2.imshow(“Image A”, imageA)

cv2.imshow(“Image B”, imageB)

cv2.imshow(“Keypoint Matches”, vis)

cv2.imshow(“Result”, result)

cv2.waitKey(0)
cv2.destroyAllWindows()

Stitcher.py

import numpy as np
import cv2

class Stitcher:
#拼接函数
def stitch(self, images, ratio=0.75, reprojThresh=4.0,showMatches=False):
#获取输入图片
(imageB, imageA) = images
特征提取
#检测A、B图片的SIFT关键特征点，并计算特征描述子
(kpsA, featuresA) = self.detectAndDescribe(imageA)
(kpsB, featuresB) = self.detectAndDescribe(imageB)

    # 匹配两张图片的所有特征点，返回匹配结果
    M = self.matchKeypoints(kpsA, kpsB, featuresA, featuresB, ratio, reprojThresh)

    # 如果返回结果为空，没有匹配成功的特征点，退出算法
    if M is None:
        return None

    # 否则，提取匹配结果
   #要选择合适的变换矩阵才可以成功实现图像拼接
 # H是3x3视角变换矩阵      
求矩阵
    (matches, H, status) = M
    # 将图片A进行视角变换，result是变换后图片
    result = cv2.warpPerspective(imageA, H, (imageA.shape[1] + imageB.shape[1], imageA.shape[0]))
    self.cv_show('result', result)

    # 将图片B传入result图片最左端
    result[0:imageB.shape[0], 0:imageB.shape[1]] = imageB
    self.cv_show('result', result)


    # 检测是否需要显示图片匹配
    if showMatches:
        # 生成匹配图片
        vis = self.drawMatches(imageA, imageB, kpsA, kpsB, matches, status)
        # 返回结果
        return (result, vis)

    # 返回匹配结果
    return result
def cv_show(self,name,img):
    cv2.imshow(name, img)
    cv2.waitKey(0)
    cv2.destroyAllWindows()

def detectAndDescribe(self, image):
    # 将彩色图片转换成灰度图
    gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)

    # 建立SIFT生成器
    descriptor = cv2.xfeatures2d.SIFT_create()
    # 检测SIFT特征点，并计算描述子
    (kps, features) = descriptor.detectAndCompute(image, None)

    # 将结果转换成NumPy数组
    kps = np.float32([kp.pt for kp in kps])

    # 返回特征点集，及对应的描述特征
    return (kps, features)

#返回配对结果
def matchKeypoints(self, kpsA, kpsB, featuresA, featuresB, ratio, reprojThresh):
# 建立暴力匹配器
matcher = cv2.BFMatcher()

    # 使用KNN检测来自A、B图的SIFT特征匹配对，K=2
    rawMatches = matcher.knnMatch(featuresA, featuresB, 2)

    matches = []
    for m in rawMatches:
        # 当最近距离跟次近距离的比值小于ratio值时，保留此匹配对
        if len(m) == 2 and m[0].distance < m[1].distance * ratio:
        # 存储两个点在featuresA, featuresB中的索引值
            matches.append((m[0].trainIdx, m[0].queryIdx))
    # 当筛选后的匹配对大于4时，计算视角变换矩阵
    if len(matches) > 4:
        # 获取匹配对的点坐标
        ptsA = np.float32([kpsA[i] for (_, i) in matches])
        ptsB = np.float32([kpsB[i] for (i, _) in matches])

        # 计算视角变换矩阵
        (H, status) = cv2.findHomography(ptsA, ptsB, cv2.RANSAC, reprojThresh)

        # 返回结果
        return (matches, H, status)

    # 如果匹配对小于4时，返回None
    return None

def drawMatches(self, imageA, imageB, kpsA, kpsB, matches, status):
    # 初始化可视化图片，将A、B图左右连接到一起
    (hA, wA) = imageA.shape[:2]
    (hB, wB) = imageB.shape[:2]
    vis = np.zeros((max(hA, hB), wA + wB, 3), dtype="uint8")
    vis[0:hA, 0:wA] = imageA
    vis[0:hB, wA:] = imageB

    # 联合遍历，画出匹配对
    for ((trainIdx, queryIdx), s) in zip(matches, status):
        # 当点对匹配成功时，画到可视化图上
        if s == 1:
            # 画出匹配对
            ptA = (int(kpsA[queryIdx][0]), int(kpsA[queryIdx][1]))
            ptB = (int(kpsB[trainIdx][0]) + wA, int(kpsB[trainIdx][1]))
            cv2.line(vis, ptA, ptB, (0, 255, 0), 1)

    # 返回可视化结果
    return vis