神经网络的几点思考

2022.04.09

1. 小卷积核和大卷积核有没有可能组合使用效果更好，比如在目标检测网络，人脸识别网络，

2.人脸识别中共享卷积有效吗？共享卷积和局部卷积有没有可能组合使用效果会更好？

人脸识别，人脸属性，人脸关键点，活体检测应该都可以用局部卷积，可以节省算力资源。

参考mobile vit

做语义分割不用任何像素标签，UCSD、英伟达在ViT中加入分组模块

GroupViT 架构

GroupViT 包含按阶段分组的 Transformer 层的分层结构，每个阶段会处理逐渐放大的视觉片段。右侧的图像显示了在不同分组阶段要处理的视觉片段。在初期阶段模型将像素分组为局部对象，例如大象的鼻子和腿。在更高的阶段进一步将它们合并成整体，例如整个大象和背景森林。

每个分组阶段都以一个分组块结束，该块会计算学习到的组标记和片段（图像）标记之间的相似度。相似度高的组会分配给同一组的段标记并合并在一起，并做进入下一个分组阶段的新段标记。

GitHub - NVlabs/GroupViT: Official PyTorch implementation of GroupViT: Semantic Segmentation Emerges from Text Supervision, CVPR 2022.

我的GroupVit学习笔记：

GroupViT 学习笔记_AI视觉网奇的博客-CSDN博客

3.浅层特征，中层特征，深层特征，他们的目标和作用应该是不同的，如何改进呢？

4.小目标检测时，浅层特征应该已经有特征，如何提取这些特征呢？

5.多任务网络，比如检测，分类，分割同时出？

6.如何去除网络的冗余？

7.算法脑筋急转弯，如果一个人脸关键点网络，睁眼，闭眼效果不太好，应该如何改进？

8.检测网络是编码网络，上采样的目的是什么?

感觉有冗余，搭建一个宽点的小网络，检测小目标

小目标检测心得

小目标检测心得_AI视觉网奇的博客-CSDN博客

CNN 两大特性（局部连接、权重共享）

对于检测网络来说，权重共享就像扫描器，对于人脸识别来说，人脸上下左右部分是不一样的，不用全局扫描器，局部扫描器是不是更好。

欢迎大家评论区留言