深度学习实践大全

0. 学习资料

B站博主 霹雳吧啦Wz

github: https://github.com/WZMIAOMIAO/deep-learning-for-image-processing
B站： https://space.bilibili.com/18161609/video?tid=0&pn=2&keyword=&order=pubdate

1.可视化调试

可视化方法可分为：各通到相加可视化、

1.1 各通道相加可视化

def visualize_feature_map(img_batch,out_path,type,BI):
    feature_map = torch.squeeze(img_batch)
    feature_map = feature_map.detach().cpu().numpy()

    feature_map_sum = feature_map[0, :, :]
    feature_map_sum = np.expand_dims(feature_map_sum, axis=2)
    for i in range(0, 2048): #各通道遍历
        feature_map_split = feature_map[i,:, :]
        feature_map_split = np.expand_dims(feature_map_split,axis=2)
        if i != 0:
            feature_map_sum +=feature_map_split # 各通到相加
        feature_map_split = BI.transform(feature_map_split) #非线性差值，用于恢复图片尺寸。

        plt.imshow(feature_map_split)
        plt.savefig(out_path + str(i) + "_{}.jpg".format(type) )
        plt.yticks()
        plt.axis('off')

    feature_map_sum = BI.transform(feature_map_sum)
    plt.imshow(feature_map_sum)
    plt.savefig(out_path + "sum_{}.jpg".format(type))
    print("save sum_{}.jpg".format(type))   

可视化效果如下：

1.2 降维到3维或2维

现在主流的手段就是PCA和t-SNE。

1.3 CAM(class activation mapping) 类别激活映射图

开源方法库：

https://github.com/jacobgil/pytorch-grad-cam
https://github.com/jacobgil/keras-cam

视频讲解：

https://www.bilibili.com/video/BV1e3411j7x7/?spm_id_from=333.788.recommend_more_video.0&vd_source=e43c081338520d48e907ed94f3d8f6c8

2. 模型调参

2.1 num_workers

设置为cpu数量，或cpu数量的一半， 详情见：https://blog.csdn.net/qq_28057379/article/details/115427052