前言
本次实现了一个在浏览器中运行的简陋的人脸检测功能,由于水平有限,这里使用表单上传图片,只能一次检测一张人脸。实现过程中遇到的主要问题是数据格式转换的问题。
分析与设计
之前已经成功基于AI分词模型,构建了一个Web应用。套路大致相同,与本次任务的主要区别在于,本次传递的数据是图像而不是文本。图像数据会带来一个新的问题:
- 图像的编码方式丰富,数据处理过程中需要进行一些数据格式转换。
应用的逻辑大致如下:
- 1.用户通过表单从浏览器上传图像
- 2.将图像转发给人脸检测模型,得到人脸位置坐标
- 3.使用矩形框出图像中的人脸
- 4.浏览器显示结果
实现
1. 部署人脸检测模型
一行命令即可完成服务化部署(你需要先安装PaddleHub库),pyramidbox_lite_mobile是一个预训练的人脸检测模型。
hub serving start -m pyramidbox_lite_mobile
你可以使用下面的代码(来自PaddleHub的文档,记得修改未你自己的图片存放路径),测试接口:
# coding: utf8 import requests import json import cv2 import base64 def cv2_to_base64(image): data = cv2.imencode('.jpg', image)[1] return base64.b64encode(data.tostring()).decode('utf8') if __name__ == '__main__': # 获取图片的base64编码格式 (记得修改你自己的图片存放路径) img1 = cv2_to_base64(cv2.imread("./static/Aaron_Peirsol_0001.jpg")) img2 = cv2_to_base64(cv2.imread("./static/Aaron_Peirsol_0002.jpg")) data = {'images': [img1, img2]} # 指定content-type headers = {"Content-type": "application/json"} # 发送HTTP请求 url = "http://127.0.0.1:8866/predict/pyramidbox_lite_mobile" r = requests.post(url=url, headers=headers, data=json.dumps(data)) # 打印预测结果 print(r.json())
2. 使用Flask构建app
2.1 目录结构
- templates - index.html - app.py - forms.py - utils.py
其中utils.py封装了一些简单的函数。
2.2 forms.py
下面定义了一个表单,它只有一个字段face_img,用于上传待检测的人脸图片。validatiors中描述了很多message,在上传的表单不满足约束时,可在html模板中通过{{ form.face_img.erros }}获取相关的message信息。
from flask_wtf import FlaskForm from flask_wtf.file import FileAllowed, FileRequired, FileSize, FileField class ImageForm(FlaskForm): face_img = FileField("face_img", validators=[ FileRequired(message="不能为空"), FileAllowed(['jpg', 'png'], message="仅支持jpg/png格式"), FileSize(max_size=2048000, message="图片不能大于2Mb") ], description="图片不能大于2Mb,仅支持jpg/png格式" )
2.3 utils.py
封装了三个简单的函数,但在app.py中只使用了cv2_to_base64()。
import base64 import numpy as np import cv2 def base64_to_cv2(img: str): # base64 -> 二进制 -> ndarray -> cv2 # 解码为二进制数据 img_codes = base64.b64decode(img) img_np = np.frombuffer(img_codes, np.uint8) img_cv2 = cv2.imdecode(img_np, cv2.IMREAD_COLOR) return img_cv2 def cv2_to_base64(image): data = cv2.imencode('.jpg', image)[1] return base64.b64encode(data.tostring()).decode('utf8') # 显示cv2格式的图像 --> 开发过程中测试图像是否正常时使用 def cv2_show(img_cv2): cv2.imshow('img', img_cv2) cv2.waitKey(0) cv2.destroyAllWindows()
2.4 app.py
注:如果以后数据在转换的过程中究竟变成了什么格式,那就把它们打印出来看看叭!例如print(data, type(data))。
主要的逻辑就在这里了,图像主要经历了三种类型的格式:
- 文件对象:从前端表单返回的图像文件的格式。
- cv2:opencv的图像格式,是一个numpy的ndarray数组。
- str:base64编码格式的字符串;是作为模型输入,和在前端显示图像的格式。
数据格式的变化流程大致如下图:
# 注:在推理前将图像缩放到指定的尺寸,即能提升速度,有时也能提升精度(实测像素太高时识别效果也不好) from flask import Flask, render_template, request import requests from forms import ImageForm import cv2 import numpy as np import json import time from utils import cv2_to_base64 app = Flask(__name__) app.config['SECRET_KEY'] = 'your_secret_key_here' @app.route('/', methods=['GET', 'POST']) def predict(): form = ImageForm() if form.validate_on_submit(): # 1. 从前端表单获取图像文件 file = form.face_img.data #file_content = file.read() # # 2. 图像文件转cv2, 并缩放到指定尺寸 --> 尺寸太大或太小,识别精度都会变差 img_cv2 = np.asarray(bytearray(file_content), dtype=np.uint8) # (len,) img_cv2 = cv2.imdecode(img_cv2, cv2.IMREAD_COLOR) # (w, h, c) img_cv2 = cv2.resize(img_cv2, (250, 250), interpolation=cv2.INTER_LINEAR) # 3. cv2转str(base64) img_base64 = cv2_to_base64(img_cv2) # 4. str(base64)输入模型 --> json --> 人脸框坐标 data = {'images': [img_base64]} headers = {"Content-type": "application/json"} url = "http://127.0.0.1:8866/predict/pyramidbox_lite_mobile" start_time = time.time() r = requests.post(url=url, headers=headers, data=json.dumps(data)) use_time = time.time() - start_time rectangle = r.json()['results'][0]['data'][0] # 一张图片 --> dict{confidence, left, top, right, bottom} # 5. cv2,json --> 画矩形 --> cv2 cv2.rectangle( img_cv2, (rectangle['left'], rectangle['top']), (rectangle['right'], rectangle['bottom']), (255, 0, 0), # 蓝色 thickness=2) # 6. cv2转str(base64) img_base64 = cv2_to_base64(img_cv2) # 7. str(base64) 返回到前端 return render_template( 'index.html', form=form, img_base64=img_base64, confidence=rectangle['confidence'], use_time=use_time) return render_template('index.html', form=form) if __name__ == '__main__': app.run(debug=True, port=5000)
2.5 index.html
视图模板,也是十分简陋。
{% if img_base64 %}试试人脸检测
置信度: {{ confidence }}
推理耗时(秒): {{ use_time }}
{% endif %} {% if form.face_img.errors %}
{% for error in form.face_img.errors %}
{{ error }}
{% endfor %}
{% endif %}
Bug(s)
1、后端接收不到上传的图片
使用表单的模板代码如下:
解决:在 Flask 中处理文件上传时,需要