街景字符编码识别项目学习笔记（一）
学习目标：理解赛题背景和赛题数据，完成赛题报名和数据下载，理解赛题的解题思路
首先贴出Datawhale开源项目链接和天池赛事报名链接：
Datawhale开源项目链接
天池赛事报名链接
该项目为Datawhale和天池合作举办的cv入门赛事街景字符识别开源项目，比较适合刚入门深度学习并且想要找项目练手的同学们。
1 赛题背景
谷歌街景，是谷歌地图的一项特色服务，是由专用街景车进行拍摄，然后把360度实景拍摄照片放在谷歌地图里供用户使用。
该赛题即来源于Google街景图片中的门牌号识别问题。
我们知道，在受约束环境下（如文档处理）的字符识别技术，比方说OCR技术已经被研究得很透。但是对照片中的多字符文本识别却是个难题，因为这些照片中的字体、颜色、样式、方向、排列不一，再加上光照、阴影、镜像、遮蔽等环境因素影响，还有图像本身的分辨率、焦点模糊、抖动等问题。而传统的图像文字识别，一般要经过字符定位、分割和识别三个步骤，处理效率不高。考虑Google街景的每天上传的图片量，以往的这些方法显然缺乏实用价值。
为此，Google开发了一套大型的神经网络来处理海量的Google街景图片中的门牌号识别问题。这个神经网络的代号是DistBelief，其学名是深度卷积神经网络。经过DistBelief训练的这个大型分布式神经网络，可以把定位、分割和识别三个步骤集成到一起，直接对每一个像素进行操作。其性能随着神经网络的深度增加而提高，在11层的时候达到最高。根据论文的数据，该系统对SVHN（街景门牌号数据集）中的门牌号识别率达96%，而单数字识别率达97.84%，对于Google街景图库的上千万门牌号的识别率也超过90%。
此处附上论文下载链接：https://pan.baidu.com/s/1Z3g1pps_pP_Ef849vslHWg 提取码：220B
2 赛题数据
赛题来源自Google街景图像中的门牌号数据集SVHN（The Street View House Numbers Dataset,），并根据一定方式采样得到比赛数据集。需要注意的是本赛题需要选手识别图片中所有的字符，为了降低比赛难度，我们提供了训练集、验证集和测试集中字符的位置框（如下图所示）。
数据集
训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。
字段表
所有的数据（训练集、验证集和测试集）的标签（label）使用JSON格式，并使用文件名进行索引。如果一个文件中包括多个字符，则使用列表将字段进行组合。
| Field | Description |
|---|---|
| top | 左上角坐标X |
| height | 字符高度 |
| left | 左上角最表Y |
| width | 字符宽度 |
| label | 字符编码 |
字符的具体坐标如下图：
在比赛数据（训练集和验证集）中，同一张图片中可能包括一个或者多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息：
3 评测指标
选手提交结果与实际图片的编码进行对比，以编码整体识别准确率为评价指标。任何一个字符错误都为错误，最终评测指标结果越大越好，具体计算公式如下：
4 结果提交
提交前请确保预测结果的格式与sample_submit.csv中的格式一致，以及提交文件后缀名为csv。
file_name, file_code
0010000.jpg,451
0010001.jpg,232
0010002.jpg,45
0010003.jpg,67
0010004.jpg,191
0010005.jpg,892
5 数据读取
JSON中标签的读取方式：
# 读取图片中位置框里面的字符
import json
train_json = json.load(open('../input/train.json'))
# 数据标注处理
def parse_json(d):
arr = np.array([
d['top'], d['height'], d['left'], d['width'], d['label']
])
arr = arr.astype(int)
return arr
img = cv2.imread('../input/train/000000.png')
arr = parse_json(train_json['000000.png'])
plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])
for idx in range(arr.shape[1]):
plt.subplot(1, arr.shape[1]+1, idx+2)
plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
plt.title(arr[4, idx])
plt.xticks([]); plt.yticks([])
6 解题思路
赛题思路分析：赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等。比如说在本文中的第一张图里面，有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4。
因此本次赛题的难点是需要对不定长的字符进行识别，与传统的图像分类任务有所不同。为了降低参赛难度，大佬们提供了以下解题思路：
(1)简单入门思路：定长字符识别
可以将赛题抽象为一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，最多的字符个数为6个。因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXXX，字符231填充为231XXX。
经过填充之后，原始的赛题可以简化了6个字符的分类问题。在每个字符的分类中会进行11个类别的分类，假如分类为填充字符，则表明该字符为空。
(2)专业字符识别思路：不定长字符识别
在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有CRNN字符识别模型。
在本次赛题中给定的图像数据都比较规整，可以视为一个单词或者一个句子。
(3)专业分类思路：检测再识别
在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。
此种思路需要参赛选手构建字符检测模型，对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。
7 总结
首先很感谢Datawhale和天池能够提供一个这么好的开源项目，让我们这些对深度学习感兴趣的小白们也有机会参与到实践当中，并且认识到了一群志同道合的小伙伴们。项目中不仅提供了每一步的具体流程和代码，还会定期有大佬直播分享经验，并且还能和队友们一起讨论，互相监督。
经过这几天的学习，认知到自己的不足，尤其是实践方面；所以在这里定下一些小目标，希望在这个项目结束后能够有所收获：
- 能够基本学会PyTorch框架
- 阅读5篇以上相关论文
- 每天按时汇报情况并归纳笔记