图像操作与处理入门

前言

基于python脚本语言开发的数字图片处理包，比如PIL(Python Image Library),Pillow, opencv, scikit-image等。

• PIL和Pillow只提供最基础的数字图像处理，功能有限；

PIL历史悠久，原来是只支持python2.x的版本的，后来出现移植到python3的库pillow,pillow号称是friendly fork for PIL,其功能和PIL差不多，但是支持python3。

• opencv实际上是一个c++库，只是提供了python接口，更新速度非常慢。
• scikit-image是基于scipy的一款图像处理包，它将图片作为numpy数组进行处理正好与matlab一样。

---

 

一、图像基础知识

• 模拟图像

连续图像 通过某种物理量（如光、电等）的强弱变化来记录图像亮度信息，是连续变化的。

• 数字图像

分级存储的图像

• 位数：图像的表示 每个像素点是如何表示的
• 分类：二值图像、灰度图像、彩色图像

计算机采用0/1编码的系统，数字图像也是利用0/1来记录信息，我们平常接触的图像都是8位数图像包含0-255灰度，其中 0：黑 1：白

• 黑色：（0,0,0）
• 白色：（256,256,256）/（1,1,1）

• 二值图像

每个像素取值0/1

• 灰度图

每个像素8位 0-255 (没有三个通道，只有一个通道，表示亮度就可以)

• 彩色图

每个像素由R G B 三个分量表示，每个分量0-255，因此单独拿出一个分量就是一个灰度图，每一像素的颜色需由R，G、B三个分量来表示，M，N分别表示图像的行列数，三个MxN的二维矩阵分别表示各个像素的R，G、B三个颜色分量

• 索引图像

一种把像素值直接作为RGB调色板下标的图像。索引图像可把像素值“直接映射”为调色板数值。

RGB图像和索引图像的区别

像素坐标系

像素坐标系u-v的原点为O0
在视觉处理库OpenCV中，u对应x，v对应y；

图像坐标系

图像坐标系x-y的原点是O1，为像素坐标系的中点，

---

 

二、opencv处理图像基本操作

2.1 基础知识与应用

opencv:BGR格式
一般图像是RGB格式，且图像显示时用的也是RGB格式

2.1.1 读取图像

2.1.2 显示图像

opencv中彩色图像显示BGR格式
matplotlib中彩色图像显示RGB格式

2.1.3 显示图像

2.1.4 基础操作示例

import numpy as np
import cv2 as cv
import matplotlib.pyplot as plt

img = np.zero((256,256,3),np.unit8) 
# 彩色图创建加上3个通道，而且每个通道大小也是500*500
# img = np.zero((256,256)),np.unit8 灰度图创建

plt.imshow(img[:,:,::-1])

• 修改像素值

  

img[100,100] # 返回该像素点位置三个通道的值
img[100,100,100] # 只返回蓝色通道的值

# 修改
img[100,100] = (0,0,255) # 红色

# 通道的拆分与合并
b,g,r = cv.split(img)
img = cv.merge((b,g,r))

• 案例引入

import numpy as np
import cv2 as cv
img = cv.imread（'messi5.jpg'） # cv读取获得的时BGR格式
# 获取某个像素点的值
px = img[100，100]
# 仅获取蓝色通道的强度值 指定蓝色通道B:0 G:1 R:2
blue = img[100，100，0]
# 修改某个位置的像素值
img[100，100]=[255,255,255]

img.shape
[ h,w,c ]

2.2 色彩空间的改变

opencv中由150多种颜色空间转化方法，最广泛的转换方法有两种

• BGR->Gray(灰度图)
• BGR->HSV(有些算法会使用)

# 色彩空间的改变
cv.cvtColor(input_image,flag)
gray = cv.cvtColor(dili,cv.COLOR_BGR2GRAY)
plt.imshow(gray,cmap=plt.cm.gray) # 灰度图显示

hsv = cv.cvtColor(dili,cv.COLOR_BGR2HSV)
plt.imshow(hsv)
'''

 

2.3 颜色通道的提取

2.4 图像的算术运算

1. 图像的加法

可以使用OpenCV的cv.add0函数把两幅图像相加，或者可以简单地通过numpy操作添加两个图像，如res=img1 +img2，两个图像应该具有相同的大小和类型，或者第二个图像可以是标量值

x=np.uint8((250)
y=np.uint8(10)
print(cv.add(x,y)) # 250+10 = 260 =>255
[255]
print(x+y)  # 250+10 = 260 % 256 = 4
[4] 
# opencv效果更好

1. 图像的混合(融合)

   

这其实也是加法，但不同的是两幅图像的权重不同，这就会给人一种混合或者透明的感觉。图像混合的计算公式如下：

• g(x) = (1- α)f0(x) + αf1(x) [α:0->1]

现在我们把两幅图混合在一起，第一幅图的权重是0.7，第二幅图的权重是0.3.函数cv2.addWeighted()可以按下面的公式对图片进行混合操作

img3 = cv.addWeight(img1,0.7,img2,0.3,0)

注意：这里要求图像的大小都是相同的

2.5 图像的几何变换

2.5.1 图像缩放

图像放大或者缩小
方式：1.绝对尺寸 2. 相对尺寸

• API

  

• 示例

import cv2 as cv

path = 图片路径
img1 = cv.imread(path)

# 绝对尺寸
rows,cols = img1.shape[:2]
res = cv.resize(img1,(2*cols,2*rows),interpolation=cv.INTER_CUBIC)

# 相对尺寸
res1 = cv.resize(img1,None,fx=0.5,fy=0.5)

# 显示图像
cv.imshow('original',img1)
cv.imshow('enlarge',res)
cv.imshow('shrink',res1)

cv.waitKey(0)
cv.destroyAllWindows()

2.5.2 图像平移

按照指定方向和距离，移动到相应的位置

• API

  

• 示例

import numpy as np
import cv2 as cv

path = 图像路径
img1 = cv.imread(path)

rows,,cols = img1.shape[:2] # h,w
M = np.float32([[1,0,100],[0,1,50]])# 平移矩阵
dst = cv.warpAffine(img1,M,(cols,rows)) # (cols,rows)是画布大小(w,h)
# dst = cv.warpAffine(img1,M,(2*cols,2*rows)) #(2*cols,2*rows)画布大小

# plt.imshow(dst[:,:,::-1])

2.5.3 图像旋转 ⭐

图像按照某个位置转动一定的角度的过程，旋转中图像仍保持这原始尺寸。图像旋转后图像的水平对称轴、垂直对称轴及中心坐标原点都可能会发生变换，因此需要对图像旋转中的坐标进行相应转换。

• 旋转原理

  

  
  如上图，旋转后新的坐标系中的坐标：
  
  上图中的x`,y是以旋转中心为原点的一个结果，现在旋转完毕之后，原点转换为图像左上角`，
  
  行列式计算：
• API

  

• 示例

import numpy as np
import cv2 as cv

path = 图片路径
img1 = cv.imread(path)

rows,cols = img.shape[:2]

# 生成旋转矩阵
M = cv.getRotationMatrix2D((cols/2,rows/2),90,1)# 原图像中心旋转90°
# 旋转变换
dst = cv.warpAffine(img,M,(cols,rows)) #(cols,rows)画布大小 

2.5.4 仿射变换 ⭐

仿射变换涉及到图像形状位置角度的变化，是深度学习预处理中常用到的功能，主要是对图像的缩放、旋转，翻转和平移等操作的组合。

• 名词解释

  

• 原理解释

  

• 示例

import numpy as np
import cv2 as cv

path = 图像路径
img = cv.imread(path)

rows,cols = img.shape[:2]

# 创建变换矩阵
pts1 = np.float32([[50,50],[200,50],[50,200]]) # 原位置
pts2 = np.float32([[100,100],[200,50],[100,250]]) # 变换后输出位置
M = cv.getAffineTransform(pts1,pts2) # M变换矩阵

# 完成仿射变换
dst = cv.warpAffine(img,M,(cols,rows))

2.5.5 透射变换⭐

• 原理解释

  

• 示例

import numpy 
import cv2 as cv

path = 图片路径
img = cv.imread(path)

rows,cols = img.shape[:2]

pts1 = np.float32([[56,65],[368,52],[28,387],[389,390]]) # 原坐标
pts2 = np.float32([[100,145],[300,100],[80,290],[310,300]]) # 输出后坐标

T = cv.getPerspectiveTransform(pts1,pts2) # 得出变换矩阵

# dst = cv.warpPerspective(img,T,(cols,rows))

2.5.6 图像金字塔⭐⭐

用于特征提取，可能不仅对原始输入进行特征提取，还对每一层金字塔进行特征提取，每一层的特征提取可能是不一样的，最后再将每一层的结果总结在一起

• 入门认识

图像金字塔是图像多尺度表达的一种，最主要用于图像的分割，是一种以多分辨率 来解释图像的有效但概念简单的结构
图像金字塔用于机器视觉和图像压缩，一幅图像的金字塔是一系列以金字塔形状排列的分辨率逐步降低，且来源于同一张原始图的图像集合。其通过梯次向下采样获得，直到达到某个终止条件才停止采样。

金字塔的底部是待处理图像的高分辨率表示，而顶部是低分辨率的近似，层级越高，图像越小，分辨率越低。

• API

cv2.pyrUp(img) #上采样
cv2.pyDown(img) # 下采样

• 示例

import numpy as np
import cv2 as cv

path = 图片路径
img = cv.imread(path)

# 图像采样
up_img = cv.pyrUp(img)
img_1 = cv.pyrDown(img)

# 显示图像
cv.imshow('enlarge',up_img )
cv.imshow('original',img)
cv.imshow('shrink',img_1 )

cv.waitKey(0)
cv.destroyAllWindows()

---

高斯金字塔

• 向下采样法（缩小）

只要是往金字塔顶方向进行的就是向下采样

• 步骤

1. 将Gi与高斯内核进行卷积
2. 将所有偶数行和列去除

   

• 向上采样法（放大）

  

• 步骤

  

先进行上采样，再进行下采样的结果和原始结果不会是一模一样的，会变得相对模糊

拉普拉斯金字塔

 

---

几何变换总结

2.6 形态学操作 ⭐⭐

形态学视频讲解

• 连通性

在图像中，最小的单位是像素。每个像素周围有8个邻接像素，常见的邻接关系有3种：4邻接、8邻接和D邻接。

连通性是描述区域和边界的重要概念，两个像素连通的必要条件：

1. 两个像素的位置是否相邻
2. 两个像素的灰度值是否满足特定的相似性准则（或者是否相等/或者差值在多少之内）

• 连通分类

  

2.6.1 腐蚀操作

腐蚀操作与kernal以及迭代次数都有关

• 讲解

  

只要框到的含有黑色，则就变黑（即为腐蚀）

注意：线条变细了

• 实例

  

2.6.2膨胀操作

 

• 讲解

  

只要框到的含有白色就会变白（膨胀），这也就是为什么字体迪哥又变胖了

• 实例

  

2.6.3 开运算与闭运算

腐蚀会变小，膨胀会变大

1. 开运算

   

2. 闭运算

   

线条不仅没有处理掉，而且线条还比原来粗了

2.6.4 梯度运算

膨胀结果：胖一圈
腐蚀结果：瘦一圈

梯度运算：

1. 原始图像先进行膨胀
2. 原始图像先进行腐蚀
3. 膨胀图像-腐蚀图像（例如上图白色-白色=0变成黑色，只剩下轮廓）

• 实例

  

2.6.5 礼帽与黑帽

礼帽：原始输入-开运算结果（先腐蚀后膨胀）
黑帽：闭运算结果-原始输入（先膨胀后腐蚀）

• 礼帽
   

  

• 黑帽
   

  

---