计算机视觉（OpenCV+Tensorflow）

计算机视觉（OpenCV+Tensorflow）

---

---

前言

本系列文章是OpenCV系列文章的第五篇，这次我们终于来到了实战环节——银行卡号的读取

---

四.阶段性项目-银行卡号的读取

这个项目很小，我们就直接在代码块里面说了，主要还是把前面的知识给整合在一起运用了一下

整体流程：

1. 导入图片
2. 图片预处理，像转灰度图，去噪，滤波，二值化
3. 进行模板匹配
4. 输出结果

那对于一个完整的计算机视觉项目来说，完整的流程应该是这样的：

1. 导入图片
2. 图片预处理，像转灰度图，去噪，滤波，二值化
3. 根据任务选择算法，或自定义算法
4. 根据要处理的目标，提取相应特征
5. 根据图像和相应的特征DB，来预测一张新的图片的某种属性。（比如识别，或者是分割啊）
6. **最后输出预测结果 **

那我们看这个项目只是前3个流程，所以我们还有将近一半的知识还没学

归一化处理

https://zhuanlan.zhihu.com/p/424518359
这是我们要匹配的数字

这是我们的测试的用例

# 导入工具包
import numpy as np
import argparse
import cv2
import myutils

# 设置参数，其实就是导入模板图片和测试用例图片，其实也可以用流导入
ap = argparse.ArgumentParser()
ap.add_argument("-i", "--image", required=True,
                help="path to input image")
ap.add_argument("-t", "--template", required=True,
                help="path to template OCR-A image")
args = vars(ap.parse_args())

# 指定信用卡类型
FIRST_NUMBER = {
    "3": "American Express",
    "4": "Visa",
    "5": "MasterCard",
    "6": "Discover Card"
}


# 绘图展示
def cv_show(name, img):
    cv2.imshow(name, img)
    cv2.waitKey(0)
    cv2.destroyAllWindows()


# 读取一个模板图像
img = cv2.imread(args["template"])
cv_show('img', img)
# 转灰度图
ref = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
cv_show('ref', ref)
# 转二值图像
ref = cv2.threshold(ref, 10, 255, cv2.THRESH_BINARY_INV)[1]
cv_show('ref', ref)

# 计算轮廓
# cv2.findContours()函数接受的参数为二值图，即黑白的（不是灰度图）,
# cv2.RETR_EXTERNAL只检测外轮廓，cv2.CHAIN_APPROX_SIMPLE只保留终点坐标
# 返回的list中每个元素都是图像中的一个轮廓, ref_是图像，refCnts是图像的轮廓，
# hierarchy是轮廓的层级关系
ref_, refCnts, hierarchy = cv2.findContours(ref.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
# 在原图上画轮廓
cv2.drawContours(img, refCnts, -1, (0, 0, 255), 3)
cv_show('img', img)
print(np.array(refCnts).shape)
# 排序，将图片的轮廓都按小到大排序
refCnts = myutils.sort_contours(refCnts, method="left-to-right")[0]  # 排序，从左到右，从上到下
# 这个digits里面要保存数字与模板的对应元组，比如 0-0的图像
digits = {}

# 遍历每一个轮廓 enumerate 将一个可遍历的数据对象(如列表、元组或字符串)组合为一个索引序列
for (i, c) in enumerate(refCnts):
    # 计算外接矩形并且resize成合适大小
    (x, y, w, h) = cv2.boundingRect(c)
    # 找到二值图像中轮廓的左上角的点，然后取下这个轮廓作为ROI区域
    roi = ref[y:y + h, x:x + w]
    roi = cv2.resize(roi, (57, 88))

    # 每一个数字对应每一个模板
    digits[i] = roi

# 初始化卷积核，其实就是我们在后面操作的时候不用什么3x3的矩阵了，用我们自定义的
rectKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (9, 3))
sqKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (5, 5))

# 读取测试图像，预处理
image = cv2.imread(args["image"])
cv_show('image', image)
image = myutils.resize(image, width=300)
# 转灰度图
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
cv_show('gray', gray)

# 礼帽操作，突出更明亮的区域
tophat = cv2.morphologyEx(gray, cv2.MORPH_TOPHAT, rectKernel)

cv_show('tophat', tophat)
# 用Sobel算子来计算梯度
gradX = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=1, dy=0,  # ksize=-1相当于用3*3的
                  ksize=-1)
# 归一化
gradX = np.absolute(gradX)
(minVal, maxVal) = (np.min(gradX), np.max(gradX))
gradX = (255 * ((gradX - minVal) / (maxVal - minVal)))
gradX = gradX.astype("uint8")

print(np.array(gradX).shape)
cv_show('gradX', gradX)

# 因为我们想将4个数字连着一起作为一个数字组来处理，所以我们要用闭操作将4个数字连着一起
# 形成一个数字组
# 通过闭操作（先膨胀，再腐蚀）将数字连在一起
gradX = cv2.morphologyEx(gradX, cv2.MORPH_CLOSE, rectKernel)
cv_show('gradX', gradX)
# 转化为二值图像
# THRESH_OTSU会自动寻找合适的阈值，适合双峰，需把阈值参数设置为0
thresh = cv2.threshold(gradX, 0, 255,
                       cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
cv_show('thresh', thresh)

# 再来一个闭操作
thresh = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, sqKernel)  # 再来一个闭操作
cv_show('thresh', thresh)

# 计算轮廓
thresh_, threshCnts, hierarchy = cv2.findContours(thresh.copy(), cv2.RETR_EXTERNAL,
                                                  cv2.CHAIN_APPROX_SIMPLE)

cnts = threshCnts
cur_img = image.copy()
# 画轮廓
cv2.drawContours(cur_img, cnts, -1, (0, 0, 255), 3)
cv_show('img', cur_img)
# 这里面要放数字组的轮廓，因为轮廓检测会检测出许多的轮廓，我们只要数字组的轮廓
locs = []

# 遍历轮廓
for (i, c) in enumerate(cnts):
    # 计算每一个轮廓的外接矩形
    (x, y, w, h) = cv2.boundingRect(c)
    # 计算外接矩形的长宽比
    ar = w / float(h)
    # 选择合适的区域，根据实际任务来，这里的基本都是四个数字一组，在众多的轮廓中找到数字组的轮廓
    if ar > 2.5 and ar < 4.0:
        
        if (w > 40 and w < 55) and (h > 10 and h < 20):
            # 符合的留下来
            locs.append((x, y, w, h))

# 将符合的轮廓从左到右排序
locs = sorted(locs, key=lambda x: x[0])‘
# 这个数组存放整个银行卡的数字
output = []

# 遍历每一个轮廓中的数字
for (i, (gX, gY, gW, gH)) in enumerate(locs):
    # initialize the list of group digits
    # 这个数组存放每个组的数字
    groupOutput = []
    
    # 根据坐标提取每一个组
    group = gray[gY - 5:gY + gH + 5, gX - 5:gX + gW + 5]
    cv_show('group', group)
    # 预处理
    group = cv2.threshold(group, 0, 255,
                          cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
    cv_show('group', group)
    # 计算每一组的轮廓
    group_, digitCnts, hierarchy = cv2.findContours(group.copy(), cv2.RETR_EXTERNAL,
                                                    cv2.CHAIN_APPROX_SIMPLE)
    # 将轮廓从小到大排序
    digitCnts = myutils.sort_contours(digitCnts,
                                      method="left-to-right")[0]

    # 计算每一组中的每一个数值
    # c就是数字组的每一个数字
    for c in digitCnts:
        # 找到当前数值的轮廓，resize成合适的的大小
        (x, y, w, h) = cv2.boundingRect(c)
        roi = group[y:y + h, x:x + w]
        roi = cv2.resize(roi, (57, 88))
        cv_show('roi', roi)

        # 计算该图片与每一个数字模板的匹配得分
        scores = []

        # 在模板中计算每一个得分，digits里面是每一个模板的样式
        # digit就是 key,digitROI就是key对应的value
        # 数字要和这九个数字模板依次进行匹配，因为先和 0匹配，所以依次放进去，每个值对应每个值的匹配结果也就出来了
        for (digit, digitROI) in digits.items():
            # 模板匹配
            # 这个result是一个结果矩阵
            result = cv2.matchTemplate(roi, digitROI,
                                       cv2.TM_CCOEFF)
            # 找出最匹配的
            (_, score, _, _) = cv2.minMaxLoc(result)
            scores.append(score)

        # 得到最合适的数字
        groupOutput.append(str(np.argmax(scores)))

    # 画出来
    cv2.rectangle(image, (gX - 5, gY - 5),
                  (gX + gW + 5, gY + gH + 5), (0, 0, 255), 1)
    cv2.putText(image, "".join(groupOutput), (gX, gY - 15),
                cv2.FONT_HERSHEY_SIMPLEX, 0.65, (0, 0, 255), 2)

    # 得到结果
    output.extend(groupOutput)

# 打印结果
print("Credit Card Type: {}".format(FIRST_NUMBER[output[0]]))
print("Credit Card #: {}".format("".join(output)))
cv2.imshow("Image", image)
cv2.waitKey(0);

---

总结

讲了这么多，都不如大家自己把代码copy下来，自己动手跑一跑，相信自己上手做后，关于OpenC V的图像基本操作就都能够了解了，那接下来将继续给大家带来OpenCV的图像高级处理

我是Mayphry，从一点点到亿点点，我们下次再见