使用 OpenCV+CVzone 进行实时背景替换
点击上方“小白学视觉”，选择加"星标"或“置顶”
重磅干货，第一时间送达介绍
OpenCV是一个开源计算机视觉库，可提供播放不同图像和视频流的权限，还有助于端到端项目，如对象检测、人脸检测、对象跟踪等。
CVzone是一个计算机视觉包，可以让我们轻松运行像人脸检测、手部跟踪、姿势估计等，以及图像处理和其他 AI 功能。它的核心是使用 OpenCV 和 MediaPipe 库。请点击此处获取更多信息。
https://github.com/cvzone/cvzone
为什么需要实时背景去除？
由于许多原因，视频的背景需要修改，如背景中有很多其他中断或背景颜色不适合该人。因此，我们使用实时背景替换技术来替换背景并添加替换为所需内容。
流行的背景去除技术
图像剪切路径 - 如果图像的主题具有锐利的边缘，则使用此技术。所有落在路径之外的元素都将被消除。
图像剪切 – 在这里，我们剪切帧中所需的区域或主题并删除背景。
图像遮罩 – 如果图像有褶边或细边缘，我们可以使用图像遮罩技术。
擦除背景 – 使用任何不同的工具擦除图像的背景
许多著名的应用程序使用背景去除技术并用自定义技术替换它。在这里，我们将实现类似的东西，使用 OpenCV 和 CVzone。
让我们开始实施
安装所需的模块。
-- pip install OpenCV-python
-- pip install cvzone
-- pip install mediapipe首先，让我们检查一下我们的网络摄像头是否工作正常。
import cv2
cap = cv2.VideoCapture(0)
cap.set(3, 640)
cap.set(4, 480)
while True:
success, img = cap.read()
cv2.imshow("Image", img)
if cv2.waitKey(1) & 0xFF == ord('q'):
break如果你有网络摄像头，上面的代码会弹出一个窗口，这里的帧大小是 640 X 480。所以我们需要注意，因为背景替换图像的大小应该与帧大小相同，即 640 X 480 .
现在在这里创建项目目录中的文件夹，我正在创建一个名为*'BackgroundImages'*的文件夹。你可以下载任何图像或任意数量的图像并将它们放在此目录中。
项目结构将如下图所示：
让我们在单独的 python 文件中编写一小段代码，将*“BackgroundImages”*文件夹中的所有图像大小调整 为 640 X 480。
import cv2
import os
for root, subdirs, files in os.walk('D:/pycharmprojects/BackgroundRemover/BackgroundImages'):
for f in files:
if f.endswith('jpg'):
# print(f)
img = cv2.imread('D:/pycharmprojects/BackgroundRemover/BackgroundImages/' + f)
img = cv2.resize(img, (640, 480))
cv2.imwrite('D:/pycharmprojects/BackgroundRemover/BackgroundImages/'+f, img)
print(*["Image", f, "is resized to 640 X 480"])上面的代码将读取指定文件夹中的图像（jpg）文件，并一次将所有图像调整为 640 X480。
调整所有图像大小后的输出
现在我们都准备好实现背景替换技术了。
导入需要的模块
import cv2
import cvzone
from cvzone.SelfiSegmentationModule import SelfiSegmentation
import os在上面的模块中，*“SelfSegmentation”*用于删除框架的背景并将其替换为我们目录中的图像。
cap = cv2.VideoCapture(0)
cap.set(3, 640)
cap.set(4, 480)
# cap.set(cv2.CAP_PROP_FPS, 60)
segmentor = SelfiSegmentation()
fpsReader = cvzone.FPS()# imgBG = cv2.imread("BackgroundImages/3.jpg")
listImg = os.listdir("BackgroundImages")
imgList = []
for imgPath in listImg:
img = cv2.imread(f'BackgroundImages/{imgPath}')
imgList.append(img)
indexImg = 0在上面的代码中，我们采取从网络摄像头输入，并且还设置帧宽度为640 X 480
然后调用SelfiSegmentation() ，并将其分配给一个变量segmentor，并且为了在显示帧每秒（fps）的输出帧，我们使用*cvzone.FPS()*函数。
然后我们创建一个存在于BackgroundImages文件夹中的图像列表，我们遍历该列表并读取每个图像并将其附加到一个空列表中。初始索引设置为零。
while True:
success, img = cap.read()
# imgOut = segmentor.removeBG(img, (255,0,255), threshold=0.83)
imgOut = segmentor.removeBG(img, imgList[indexImg], threshold=0.8)
imgStack = cvzone.stackImages([img, imgOut], 2,1)
_, imgStack = fpsReader.update(imgStack)
print(indexImg)
cv2.imshow("image", imgStack)
key = cv2.waitKey(1)
if key == ord('a'):
if indexImg>0:
indexImg -=1
elif key == ord('d'):
if indexImg现在主要部分在 while 循环中从网络摄像头读取帧，我们使用*segmentor.removeBG()*函数从帧中删除背景并将其替换为目录中的图像。
在上面的代码中，你可以看到我们已经向segmentor.removeBG()函数传递了三个参数 ，即来自网络摄像头的图像帧(img)，然后是目录中存在的图像列表以及图像索引(imgList[indexImg) ])，最后是阈值。如果阈值设置为 1，则阈值会削减所有内容，这里我们将其设置为 0.8，为了获得更好的边缘，请使用不同的阈值。
然后我们使用cvzone.stackImages堆叠图像*，* 这里我们将获得背景替换图像或帧的输出。然后使用一个简单的 if 语句，分配键来更改背景。
例如，如果我们有 10 张背景图像，根据上面的代码，我们可以使用键“a”或键“d”来更改帧的背景。
整个代码如下。
import cv2
import cvzone
from cvzone.SelfiSegmentationModule import SelfiSegmentation
import os
cap = cv2.VideoCapture(0)
cap.set(3, 640)
cap.set(4, 480)
# cap.set(cv2.CAP_PROP_FPS, 60)
segmentor = SelfiSegmentation()
fpsReader = cvzone.FPS()
# imgBG = cv2.imread("BackgroundImages/3.jpg")
listImg = os.listdir("BackgroundImages")
imgList = []
for imgPath in listImg:
img = cv2.imread(f'BackgroundImages/{imgPath}')
imgList.append(img)
indexImg = 0
while True:
success, img = cap.read()
# imgOut = segmentor.removeBG(img, (255,0,255), threshold=0.83)
imgOut = segmentor.removeBG(img, imgList[indexImg], threshold=0.8)
imgStack = cvzone.stackImages([img, imgOut], 2,1)
_, imgStack = fpsReader.update(imgStack)
print(indexImg)
cv2.imshow("image", imgStack)
key = cv2.waitKey(1)
if key == ord('a'):
if indexImg>0:
indexImg -=1
elif key == ord('d'):
if indexImg输出截图如下
输出 1：
输出 2：
整个代码也可以在这里找到：
https://github.com/BakingBrains/Real-Time_Background_remover
参考：
https://www.youtube.com/watch?v=k7cVPGpnels
好消息！
小白学视觉知识星球
开始面向外开放啦
下载1：OpenCV-Contrib扩展模块中文版教程
在「小白学视觉」公众号后台回复：扩展模块中文教程，即可下载全网第一份OpenCV扩展模块教程中文版，涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。
下载2：Python视觉实战项目52讲
在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。
下载3：OpenCV实战项目20讲
在「小白学视觉」公众号后台回复：OpenCV实战项目20讲，即可下载含有20个基于OpenCV实现20个实战项目，实现OpenCV学习进阶。
交流群
欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~