零基础入门CV之街道字符识别—01

赛题理解

赛题名称：零基础入门CV赛事- 街景字符编码识别

赛题地址：https://tianchi.aliyun.com/competition/entrance/531795/information

一些注意事项和赛题数据见比赛官网，这里就不在过多累赘。

1.数据标签

对于训练数据每张图片将给出对于的编码标签，和具体的字符框的位置（训练集，测试集和验证集都给出字符位置），可用于模型训练：

字符的坐标具体如下所示：

这个和笛卡尔坐标系有一些差别，我之前的文章有过讲解。

在比赛数据中，同一张图片可能包括一个和多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息：

2.读取数据

代码如下：

import os, sys, glob, shutil, json 
os.environ["CUDA_VISIBLE_DEVICES"] = '0'
import cv2
from PIL import Image
import numpy as np
from tqdm import tqdm, tqdm_notebook
import torch
torch.manual_seed(0) 
torch.backends.cudnn.deterministic = False 
torch.backends.cudnn.benchmark = True
import torchvision.models as models
import torchvision.transforms as transforms 
import torchvision.datasets as datasets 
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
from torch.autograd import Variable
from torch.utils.data.dataset import Dataset

import json
train_json = json.load(open('../tianchi/mchar_train.json'))

# 数据标注处理
def parse_json(d):
   arr = np.array([
       d['top'], d['height'], d['left'],  d['width'], d['label']
   ])
   arr = arr.astype(int)
   return arr

img = cv2.imread('../tianchi/mchar_train/000000.png')
arr = parse_json(train_json['000000.png'])

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):
   plt.subplot(1, arr.shape[1]+1, idx+2)
   plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
   plt.title(arr[4, idx])
   plt.xticks([]); plt.yticks([])

如下：

思路分析

赛题思路分析：赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等，如下图所示。有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4。

因此本次赛题的难点是需要对不定长的字符进行识别，与传统的图像分类任务有所不同。为了降低参赛难度，提供了一些解题思路供大家参考：

• 简单入门思路：定长字符识别
  可以将赛题抽象为一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，最多的字符 个数为6个。
  因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXXX，字符231填充为231XXX。
  

• 专业字符识别思路：不定长字符识别
  在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有CRNN字符识别模型。
  在本次赛题中给定的图像数据都比较规整，可以视为一个单词或者一个句子。
  

• 专业分类思路：检测再识别
  在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。此种思路需要参赛选手构建字符检测模型，对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。