内容来自OpenCV-Python Tutorials 自己翻译整理
角点检测原理参考此博客
目标:
理解Harris角点检测的概念
使用函数cv2.cornerHarris(),cv2.cornerSubPix()
原理:
Harris角点检测的方法大概原理就是建立一个窗口区域,然后以当前窗口为中心向各个方向进行偏移。
如上图所示,第一个窗口向各个方向偏移的时候,像素的值没有变化,因为窗口偏移的时候没有遇到任何边缘信息。
第二个图,窗口当中有一个直线,如果当前窗口进行上下的移动,也没回有像素值发生变化(在其他方向上灰度值也会变化)。
第三个图,窗口覆盖了一个“拐角”,如果窗口进行偏移,任何方向上都会有像素变化。
所以,第三张图片判断为检测到角点。
设图像 I(x,y) 表示图像在(x,y)点的像素信息,窗口在点 (x,y) 处移动 (Δx,Δy) 后计算到的所有差异总和记为
c(x,y;Δx,Δy)=∑u,v∈Window(x,y)w(u,v)(I(u,v)−I(u+Δx,v+Δy))2
Window(x,y) 是以x,y为中心的窗口,w(u,v)是一个加权值,可以是常数值也可以是高斯加权函数(在后会被忽略掉)
使用泰勒展开式对图像 I(x,y) 在移动 (Δx,Δy) 处一阶展开。
其中 Ix 和 Iy 为分别对x和y的偏导数
将上面得到的结果代入第一个公式中
C(x,y;Δx,Δy)≈∑Window(Ix(u,v)Δx+Iy(u,v)Δy)2
使用矩阵的表示方法就是
(图片来自上面的网站,为了方便,直接截图)
可以将图中的第一个公式看成是一个椭圆的方程,矩阵的特征值就是它的长轴和短轴长度。
记为 λ1 和 λ2
可以根据这些特征值判断一个区域是否是角点,这里使用打分函数
R=det(M)−k(trace(M))2 来判断是否是角点
k值一般取0.04到0.06
方向导数 Ix 和 Iy 可以使用cv2.Sobel()函数得到
Harris角点检测的结果是灰度图,图中的值为角点检测的打分值。需要选取合适的阈值对结果进行二值化来检测角点。
opencv中的Harris检测方法
使用函数 cv2.cornerHarris()
参数如下:
代码如下
import cv2
import numpy as np
filename = '2.jpg'
img = cv2.imread(filename)
gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)
gray = np.float32(gray)
#图像转换为float32
dst = cv2.cornerHarris(gray,2,3,0.04)
#result is dilated for marking the corners, not important
dst = cv2.dilate(dst,None)#图像膨胀
# Threshold for an optimal value, it may vary depending on the image.
#print(dst)
#img[dst>0.00000001*dst.max()]=[0,0,255] #可以试试这个参数,角点被标记的多余了一些
img[dst>0.01*dst.max()]=[0,0,255]#角点位置用红色标记
#这里的打分值以大于0.01×dst中最大值为边界
cv2.imshow('dst',img)
if cv2.waitKey(0) & 0xff == 27:
cv2.destroyAllWindows()
能看到有些红点
如果打分值降低为0.00000001*dst.max()
结果如下
亚像素级精确度的角点
使用cv2.cornerSubPix()函数
首先找到Harris角点,然后将找到某个角点的所有角点坐标值的重心传入该函数(因为一个角点上面可能一堆找到的角点值,需要取重心)
红色标记Harris角点,绿色像素标记修正后的角点。进行迭代运算,迭代一定次数后停止即可。
import cv2
import numpy as np
filename = 'chessboard2.jpg'
img = cv2.imread(filename)
gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)
#找到Harris角点
gray = np.float32(gray)
dst = cv2.cornerHarris(gray,2,3,0.04)
dst = cv2.dilate(dst,None)
ret, dst = cv2.threshold(dst,0.01*dst.max(),255,0)
dst = np.uint8(dst)
#找到重心
ret, labels, stats, centroids = cv2.connectedComponentsWithStats(dst)
#定义迭代次数
criteria = (cv2.TERM_CRITERIA_EPS + cv2.TERM_CRITERIA_MAX_ITER, 100, 0.001)
corners = cv2.cornerSubPix(gray,np.float32(centroids),(5,5),(-1,-1),criteria)
#返回角点
#绘制
res = np.hstack((centroids,corners))
res = np.int0(res)
img[res[:,1],res[:,0]]=[0,0,255]
img[res[:,3],res[:,2]] = [0,255,0]
cv2.imwrite('subpixel5.png',img)
其中用到的函数
connectedComponentsWithStats(InputArray image, OutputArray labels, OutputArray stats,
OutputArray centroids, int connectivity=8, int ltype=CV_32S)
计算连通分量,图像是一个被布尔型标记的4邻域或者8邻域的图像
cv2.cornerSubPix(image, corners, winSize, zeroZone, criteria)
参数为输入图像;角点初始化坐标;搜索窗口边长的一半;zeroZone为搜索区域中间的盲区(dead region)边长的一半,有时用于避免自相关矩阵的奇异性。如果值设为(-1,-1)则表示没有这个区域;搜索终止条件
返回的是一组角点