验证码识别技术研究

转载自:http://hi.baidu.com/mrcaptcha/blog/item/051ff527f3b25727d40742a0.html

 
一、验证码的基本知识
枾e剉9ei?T ÿ峇Õ?Otilde;?RMb剉(gl?ÿ}?q_N&y
1. 验证码的主要目的是强制人机交互来抵御机器自动化攻击的。
峇Õ
2. 大部分的验证码设计者并不得要领,不了解图像处理,机器视觉,模式识别,人工智能
的基本概念。
峇Õ
3. 利用验证码,可以发财,当然要犯罪:比如招商银行密码只有6位,验证码形同虚设,计
算机很快就能破解一个有钱的账户,很多帐户是可以网上交易的。
峇Õ
4. 也有设计的比较好的,比如Yahoo,Google,Microsoft等。而国内Tencent的中文验证
码虽然难,但算不上好。
枾e剉匏Ь酹 Ë?? 薹嘌鹒: |ô??騳aa岿
二、人工智能,模式识别,机器视觉,图像处理的基本知识

1)主要流程:
枾e剉匏Ь酹 Ë?? 薹嘌鹒: |ô??騳aa岿
比如我们要从一副图片中,识别出验证码;比如我们要从一副图片中,检测并识别出一张
人脸。 大概有哪些步骤呢?

1.图像采集:验证码呢,就直接通过HTTP抓HTML,然后分析出图片的url,然后下载保存就
可以了。 如果是人脸检测识别,一般要通过视屏采集设备,采集回来,通过A/D转操作,存为
数字图片或者视频频。
枾e剉匏Ь酹 Ë?? 薹嘌鹒: |ô??騳aa岿
2.预处理:检测是正确的图像格式,转换到合适的格式,压缩,剪切出ROI,去除噪音,灰度
化,转换色彩空间这些。
枾e剉垥d?射焫 蕒礵 ®?THORN;攩s窟 &nti
3.检测:车牌检测识别系统要先找到车牌的大概位置,人脸检测系统要找出图片中所有
的人脸(包括疑似人脸);验证码识别呢,主要是找出文字所在的主要区域。

4.前处理:人脸检测和识别,会对人脸在识别前作一些校正,比如面内面外的旋转,扭曲
等。我这里的验证码识别,“一般”要做文字的切割
枾e剉垥d?射焫 蕒礵 ®?THORN;攩s窟 &nti
5.训练:通过各种模式识别,机器学习算法,来挑选和训练合适数量的训练集。不是训练
的样本越多越好。过学习,泛化能力差的问题可能在这里出现。这一步不是必须的,有些识
别算法是不需要训练的。
枾e剉垥d?射焫 蕒礵 ®?THORN;攩s窟 &nti
6.识别:输入待识别的处理后的图片,转换成分类器需要的输入格式,然后通过输出的类
和置信度,来判断大概可能是哪个字母。识别本质上就是分类。

2)关键概念:

图像处理:一般指针对数字图像的某种数学处理。比如投影,钝化,锐化,细化,边缘检测,
二值化,压缩,各种数据变换等等。
枾e剉垥d?射焫 蕒礵 ®?THORN;攩s窟 &nti
1.二值化:一般图片都是彩色的,按照逼真程度,可能很多级别。为了降低计算复杂度,
方便后续的处理,如果在不损失关键信息的情况下,能将图片处理成黑白两种颜色,那就最好
不过了。
眕寑}??柫X Tlte??pound;漲晿槃v誰
2.细化:找出图像的骨架,图像线条可能是很宽的,通过细化将宽度将为1,某些地方可能
大于1。不同的细化算法,可能有不同的差异,比如是否更靠近线条中间,比如是否保持联通
行等。
眕寑}??柫X Tlte??pound;漲晿槃v誰
3.边缘检测:主要是理解边缘的概念。边缘实际上是图像中图像像素属性变化剧烈的地
方。可能通过一个固定的门限值来判断,也可能是自适应的。门限可能是图像全局的,也可
能是局部的。不能说那个就一定好,不过大部分时候,自适应的局部的门限可能要好点。被
分析的,可能是颜色,也可能是灰度图像的灰度。
眕寑}??柫X Tlte??pound;漲晿槃v誰
机器视觉:利用计算机来模式实现人的视觉。 比如物体检测,定位,识别。按照对图像
理解的层次的差别,分高阶和低阶的理解。
眕寑}??柫X Tlte??pound;漲晿槃v誰
模式识别:对事物或者现象的某种表示方式(数值,文字,我们这里主要想说的是数值),
通过一些处理和分析,来描述,归类,理解,解释这些事物,现象及其某种抽象。
眕寑}??柫X Tlte??pound;漲晿槃v誰
人工智能:这种概念比较宽,上面这些都属于人工智能这个大的方向。简单点不要过分
学院派的理解就是,把人类的很“智能”的东西给模拟出来协助生物的人来处理问题,特别是
在计算机里面。

三、常见的验证码的破解分析

以http://libcaca.zoy.org/wiki/PWNtcha这里PWNtcha项目中的资料为例分析,各种验
证码的破解。(方法很多,仅仅从我个人乍看之下觉得可行的方法来分析)

1)Authimage
使用的反破解技巧:
枾e剉9ei?T &;峇Õ?Otilde;?RMb剉(gl?ÿ}?q_N&y
1.不连续的点组成字符
2.有一定程度的倾斜

设计不好的地方:
枾e剉9ei?T ÿ峇Õ?RMb剉(gl?ÿ}?q_N&y
1.通过纵横的直方图投影,可以找到字幕区域
2.通过Hough变换,适当的参数,可以找到近似的横线,可以做倾斜矫正
3.字符串的倾斜式面内的,没有太多的破解难度
4.字母宽度一定,大小一定

2)Clubic
使用的反破解技巧:
枾e剉9ei?T &a;yuml;峇Õ?Otilde;?Rb剉(gl?ÿ}?q_N&y
1.字符是手写体

设计不好的地方:

1.检测切割阶段没有任何技术含量,属于设计的比较丑的
2.只有数字,而且手写体变化不大
3.表面看起来对识别阶段有难度,仔细分析,发现几乎不用任何高级的训练识别算法,就
固定的招某些像素点是否有色彩就够了

3)linuxfr.org
使用的反破解技巧: 枾e剉9ei?T &峇Õ?Otilde;?RMb剉(gl?ÿ}?q_N&y

1.背景颜色块
2.前景的横线或矩形

设计不好的地方:

1.背景色是单一色块,有形状,通过Region-Growth区域增长来很容易把背景给去掉
2.前景色是标准的线条,色彩单一
3.字母无粘连
4.都是印刷体
枾e剉9ei?T ÿ峇∓Otilde;?Otild;?RMb(gl?&am;yuml;}?q_N&y
4)Ourcolony
使用的反破解技巧:

1.设计的太低级,不屑于去评价

设计不好的地方:

1.这种验证码,设计的最丑,但还是能把菜鸟搞定,毕竟学计算机的少,搞这个破解的更
少,正所谓隔行如隔山

5)LiveJournal
使用的反破解技巧:

1.这个设计略微好点,使用个随机噪音,而且作为前景
2.字母位置粗细都有变化
枾e剉9ei?T &um;峇≈Otilde;Otilde;?RMb(gl?ÿ}?q_N&y
设计不好的地方:

1.字母没有粘连
2.噪音类型单一
3.通过在X轴的直方图投影,能准确分割字幕
4.然后在Y周作直方图投影,能准确定位高度
5.识别阶段,都是印刷体,简单地很

四、网上的一些高级验证码
枾e剉9ei?T amp;yuml;峇am;ilde;?Otide;?RM剉(gl?ÿ}?q_N&y
1)ICQ
2)IMDb
3)MS MVPS

4)MVN Forum

这些类型是被很多人认为比较难得类型,分析一下可以发现,字符检测,定位和分割都不
是难。 唯一影响识别率的是IMDBb和MVPS这两类,字体变形略大。

总体来说,这些类型的破解也不难,很容易做到50%以上的识别率。

五、高级验证码的破解分析

时间关系,我简单介绍如何利用图像处理和模式识别技术,自动识别比较高级的验证码。
(以风头正劲的Google为例)
1)至少从目前的AI的发展程度看,没有简单的做法能自动处理各种不同的验证码,即使
能力很强,那么系统自然也十分复杂强大。所以,要想在很简单的算法实现比较高级的验证
码破解,必须分析不同验证码算法的特点:

作为一般的图像处理和计算机视觉,会考虑色彩,纹理,形状等直接的特征,同时也考虑
直方图,灰度等统计特征,还考虑FFT,Wavelet等各种变换后的特征。但最终目标都是
Dimension Reduction(降维)然后利于识别,不仅仅是速度的考虑。从图像的角度看,很多系
统都考虑转换为灰度级甚者黑白图片。
 枾e剉;yuml;峇Õ?Otilde;?RMb剉(gl?ÿ}?q_N& 衏:ygbL坿T銷 b烺 ÿFO瀃E?g枾e剉9ei?T ;峇Õ?Otilde;?RMb剉(gl?&; 衏:ygbL坿T銷 b烺 ÿFO瀃E?g;?Otilde;?RMb剉(gl?ÿ}?q_N&y
Google的图片可以看出,颜色变化是虚晃一枪,不存在任何处理难度。难度是字体变形
和字符粘连。
 
如果能成功的分割字符,那么后期识别无论是用SVM等分类算法,还是分析笔顺比划走向
来硬识别,都相对好做。
 
2)图像处理和粘连分割

代码中的part1目录主要完成图像预处理和粘连字符分割
001:将图像从jpg等格式转换为位图便于处理
002:采用Fix/Adaptive的Threshold门限算法,将图片Bin-Value二值化。
(可用003算法)
003:采用OSTU分水岭算法,将图片Bin-Value二值化。
(更通用,大部分时候效果更好)
005:获取ROI感兴趣的区域。
006:Edge Trace边缘跟踪。
007:Edge Detection边界检测。
008:Thin细化去骨架。
009:做了一些Tidy整理。
  (这个一般要根据特定的Captcha算法调整)
010:做切割,注意图片中红色的交叉点。
011:将边缘检测和骨干交叉点监测的图像合并。
  (合并过程可以做分析: 比如X坐标偏移门限分析,交叉点区域纹理分析,线条走势分析,
等等各种方法,找出更可能的切分点和分离后部件的组合管理。)
代码:(代码质量不高,从其他项目拷贝过来,简单修改的。)
剉(gl?ÿ}?q_N&; 衏:ygbL坿T銷 b;FO瀃E?g;?Otilde;?RMb剉(gl?ÿ}?q_N&y
查看代码(./pstzine_09_01.txt)

注: 在这里,我们可以看到,基本的部件(字母是分割开了,但可以造成统一字母的被切
割成多个Component。 一种做法是:利用先验知识,做分割; 另外一种做法是,和第二部分的
识别结合起来。 比如按照从左至右,尝试增加component来识别,如果不能识别而且
component的总宽度,总面积还比较小,继续增加。 当然不排除拒识的可能性。 )

3)字符部件组合和识别。
枾e剉9ei?T &枾e剉9ei?T ÿ峇Õ?Otilde;?RMb剉(gl?ÿ}?q_N&;}?q_N&y
part2的代码展示了切割后的字母组合,和基于svm的字符识别的训练和识别过程。
Detection.cpp中展示了ImageSpam检测过程中的一些字符分割和组合,layout的分析和利用
的简单技术。 而Google的验证码的识别,完全可以不用到,仅做参考。

SVM及使用:

本质上,SVM是一个分类器,原始的SVM是一个两类分类的分类器。可以通过1:1或者1:n
的方式来组合成一个多类分类的分类器。 天生通过核函数的使用支持高维数据的分类。从
几何意义上讲,就是找到最能表示类别特征的那些向量(支持向量SV),然后找到一条线,能最
大化分类的Margin。

libSVM是一个不错的实现。

训练间断和识别阶段的数据整理和归一化是一样的。 这里的简单做法是:

首先:
?sect;;yuml;}?q_Ný 衏:ygbL坿T銷 b烺 ÿFO瀃E?g;?Otilde;?RMb剉(gl?ÿ}?q_N&y
#define SVM_MAX +0.999
#define SVM_MIN +0.001

其次:

扫描黑白待识别字幕图片的每个像素,如果为0(黑色,是字母上的像素),那么svm中该位
置就SVM_MAX,反之则反。
枾e剉 ÿFO瀃E?g枾e剉9ei?T ÿ峇Õ?Otilde;?RMb剉(gl?ÿ}?q_Ný 衏:ygbL坿T銷 b烺 ÿFO瀃E?g;?Otilde;?RMb剉(gl?ÿ}?q_N&y
最后:

训练阶段,在svm的input的前面,为该类打上标记,即是那一个字母。
识别阶段,当然这个类别标记是SVM分类出来。

注意:

如果是SVM菜鸟,最好找一个在SVM外边做了包装的工具,比如样本选择,交叉验证,核函
数选择这些,让程序自动选择和分析。

代码:通过ReginGrowth来提取单个单个的字符,然后开始识别。

查看代码(./pstzine_09_02.txt)

六、对验证码设计的一些建议
枾e剉yuml;峇Õ?Otilde;?RMb剉(gl?ÿ}?q_Ný 衏:ygbL坿T銷 b烺 ÿFO瀃E?g枾e剉9ei?T ÿ峇Õ?Otilde;?RMb剉(gl?ÿ}?q_Ný 衏:ygbL坿T銷 b烺 ÿFO瀃E?g;?Otilde;?RMb剉(gl?ÿ}?q_N&y
1.在噪音等类型的使用上,尽力让字符和用来混淆的前景和背景不容易区分。尽力让坏
人(噪音)长得和好人(字母)一样。

2.特别好的验证码的设计,要尽力发挥人类擅长而AI算法不擅长的。 比如粘连字符的
分割和手写体(通过印刷体做特别的变形也可以)。 而不要一味的去加一些看起来比较复杂
的噪音或者其他的花哨的东西。即使你做的足够复杂,但如果人也难识别,显然别人认为你
是没事找抽型的。

3. 从专业的机器视觉的角度说,验证码的设计,一定要让破解者在识别阶段,反复在低
阶视觉和高阶视觉之间多反复几次才能识别出来。 这样可以大大降低破解难度和破解的准
确率。
枾e剉9ei?T &枾e剉9ei?T ÿ峇Õ?Otilde;?RMb剉(gl?ÿ}?q_Ný 衏:ygbL坿T銷 b烺 ÿFO瀃E?g枾e剉9ei?T ÿ峇Õ?Otilde;?RMb剉(gl?ÿ}?q_Ný 衏:ygbL坿T銷 b烺 ÿFO瀃E?g;?Otilde;?RMb剉(gl?ÿ}?q_N&y
七、个人郑重申明

1.这个问题,本身是人工智能,计算机视觉,模式识别领域的一个难题。我是虾米,菜得
不能再菜的那种。作为破解者来说,是出于劣势地位。要做的很好,是很难得。总体来说,我
走的是比较学院派的线路,能真正的破解难度比较高的验证码,不同于网上很多不太入流的
破解方法。我能做的只有利用有限的知识,抛砖引玉而已。 很多OCR的技术,特别是离线手
写体中文等文字识别的技术,个人了解有限的很,都不敢在这里乱写。

2.希望不要把这种技术用于非法用途。

你可能感兴趣的:(Architecture)