《Pytorch模型推理及多任务通用范式》第四节作业
课程学习
本节课主要对于大白AI课程：https://mp.weixin.qq.com/s/STbdSoI7xLeHrNyLlw9GOg
《Pytorch模型推理及多任务通用范式》课程中的第四节课进行学习。
作业题目
包含以下必做题和思考题
1、必做题：
1.1 对 “./images/car.jpg” 做语义分割，提取出里面的车辆，模仿上课时，对“可视化推理结果” 和“BGRA 四通道图” 进行保存。
1.2 自己找 2 张其他图，对图中某个类别进行分割，并保存“BGRA 四通道图” 。
2、思考题：
2.1 用 time 模块和 for 循环，对”./images/car.jpg” 连续推理 100 次，统计时间开销。有 CUDA 的同学，改下代码： self.device=torch.device(‘cuda’)，统计时间开销。
2.2 以 0.5 为阈值，计算”./images/car.jpg” 图中车辆的面积（单位：像素）。
3、总结
作业答案
1、必做题
1.1 对"./images/car.jpg"做推理
修改文件名为"./images/car.jpg" ，并修改person_id=7，对应的为car的类别，推理结果如下：
1）可视化推理结果：
2）BGRA 四通道图：
1.2 自己找两张图片进行测试
我使用上节课的猫和狗的图片做为推理输入，图片如下：
分别修改文件名为"./images/cat.jpg" 、"./images/dog.jpg" ，并修改person_id=8、12，对应的为cat和dog的类别，推理结果如下：
1）可视化推理结果：
2）BGRA 四通道图：
2、思考题：
2.1 统计时间开销
和上节课的思考题内容一致，不再做细致的讨论，修改__main__代码如下：
if __name__ == '__main__':
import time
print("Starting")
# 实例化
print("Loading Weight...")
t_all_LW = 0
t_start = time.time()
model_segment = ModelPipline(person_id=7)
t_end = time.time()
t_all_LW += t_end - t_start
print("Loading Weight Time：{}".format(t_all_LW))
# 第一次推理时间
image = cv2.imread('./images/car.jpg')
print("First Predicting...")
t_all_FP = 0
t_start = time.time()
result = model_segment.predict(image)
t_end = time.time()
t_all_FP += t_end - t_start
print("First Predicting Time：{}".format(t_all_FP))
# 一百次推理时间
print("100 Predicting...")
t_all = 0
for i in range(100):
t_start = time.time()
result = model_segment.predict(image)
t_end = time.time()
t_all += t_end - t_start
print("100 Predicting Time：{}".format(t_all))
首先测试cpu推理速度，单次推理时间3.2s，100次推理时间接近6分钟，好的让我们先泡杯茶，刷会b站。
cpu推理结果：
Starting
Loading Weight…
Loading Weight Time：0.4857034683227539
First Predicting…
First Predicting Time：3.2739310264587402
100 Predicting…
100 Predicting Time：351.99774956703186
Ending
接着我们来测试gpu的推理速度，修改self.device = torch.device(‘cuda’)，开始测试。
gpu推理结果：
Starting
Loading Weight…
Loading Weight Time：2.228027105331421
First Predicting…
First Predicting Time：0.9911150932312012
100 Predicting…
100 Predicting Time：26.768312215805054
Ending
结论：
我们可以很清楚的看到gpu的推理速度，虽然在模型加载过程中，gpu的速度较慢，但在第一次推理中，gpu快了三倍左右，在100次推理过程中，gpu快了10倍不止。gpu的并行计算效率要远远高于cpu，在模型较大或是输入数据量大的情况下，gpu的性能要远大于cpu的性能。
PS：
推理过程中，可以打开任务管理器，可以看到的gpu是否正在运行：
2.2 计算车辆的面积
在可视化输出的代码段中加入计算面积的代码：
# 可视化结果
cv2.imwrite('./demos/car_1_mask.jpg', (result * 255).astype(np.uint8))
mask = result.copy()
mask[mask >= 0.5] = 255
mask[mask < 0.5] = 0
# 计算面积
# add in here
image_mask = np.concatenate([image, mask[:, :, np.newaxis]], axis=2)
cv2.imwrite('./demos/car_1_mask.png', image_mask)
这里我写了两种方法来计算面积。
1）第一种方法，暴力循环计算像素点的个数：
# 方法1：暴力计算
area= 0
high, width = mask.shape
for i in range(high):
for j in range(width):
if mask[i][j] == 255:
area += 1
print("图中分割的目标面积为: {}(pix)".format(area))
输出结果：
图中分割的目标面积为: 102781(pix)
2）第二种方法，利用numpy数组的特性来直接计算面积，代码比较简洁：
# 方法2：利用numpy数组的性质
area = len(mask[mask == 255])
print("图中分割的目标面积为: {}(pix)".format(area))
输出结果相同：
图中分割的目标面积为: 102781(pix)
3、总结
在理解了上节课的内容后，在看本节课的内容，除了关于分割算法的部分属于新知识外，其它是对上节课的学习的巩固，另外思考题中的计算面积，也是复习了自己对numpy数组特性的知识。这样一个循环递进的过程，进一步加深自己对Pytorch模型推理的认识与理解，我相信在之后的工作中，一定会用到课程中学习到的东西，学以致用。