selenium（java）实现滑动图片验证码

一、原由

网上搜索了一下，有一些使用selenium实现滑动图片的代码，但是多是需要获取完整图的。现在很多滑动图片验证码没有完整图，这里记录一下我实现的。

二、整理思路

1、获取背景图(bgImg)、获取验证图(vrImg)

2、对背景图与验证图做二值化处理（PS：这里二值化的阈值需要调整，不然可能获取不到想要的效果）

3、比较背景图与验证码图相似的地方（二值化之后背景图就会有跟验证图一样的图形），校验白边缘——一个节点的四周节点相同，则相似度加一，获取相似度最大的x轴数据，及是我们需要知道的拖动距离

4、使用selenium实现拖动

三、代码实现

1、获取图片以及下载图片（下载使用httpClient实现）

使用webDriver.findElement()方法获取图片以及图片地址

2、图片二值化代码

/**

* 对图片进行二值化

* @author 周超

* @param 原图

* @param 二值化之后存储的文件

* @param 是否为背景图(背景图与验证图处理方式不同)

* @throws IOException

*/

public void binaryImage(File imageFile,File descFile,boolean bgImage) throws IOException{

    String fileName=imageFile.getName();

    String fileType=imageFile.getName().substring(fileName.lastIndexOf(".")+1);

    BufferedImage image = ImageIO.read(imageFile);

    int width = image.getWidth();

    int height = image.getHeight();

    BufferedImage binaryImage = new BufferedImage(width, height, BufferedImage.TYPE_BYTE_BINARY);

    for(int i= 0 ; i < width ; i++){

        for(int j = 0 ; j < height; j++){

        int rgb=image.getRGB(i, j);

        if(bgImage) {

              rgb=getBgImageRgb(rgb);

        }else {

              rgb = getImageRgb(rgb);

        }

        binaryImage.setRGB(i, j, rgb);

        }

    }

    ImageIO.write(binaryImage, fileType, descFile);

}

/**

* 如果使用该方法二值化不行，需要调整参数r>200&g>200&b>200的参数

* @author 周超

* @param i

* @return

*/

    private static int getImageRgb(int i) {

         String data=Integer.toHexString(i)+"";

        if(data.length()==6) {

            return 0x00;

         }

        int rgb =i& 0xFFFFFF;

        int r=(rgb& 0xff0000) >> 16;

        int g=(rgb& 0xff00) >> 8;

        int b=(rgb& 0xff);

        if(r>200&g>200&b>200) {

            return 0xFFFFFF;

        }

        return 0x00;

    }

 

    /**

    * 如果使用该方法二值化不行，需要调整参数avg>120&avg<160的参数

    * @author 周超

    * @param i

    * @return

    */

    private static int getBgImageRgb(int i) {

        int rgb =i& 0xFFFFFF;

        int r=(rgb& 0xff0000) >> 16;

        int g=(rgb& 0xff00) >> 8;

        int b=(rgb& 0xff);

        int avg=(r+g+b)/3;

        if(avg>120&avg<160) {

            return 0xFFFFFF;

        }

        return 0x00;

    }

注意：getImageRgb()与getBgImageRgb（）可能需要根据图片的不同做一些范围调整。

二值化的效果如下：

原图

二值化之后：

 

这样二值化之后的图，我们就可以将问题变为在一张图片中查下另一张图的位置了

 

3、比较图获取位置

/**

*

* 搜索图片位子

* @param 二值化之后的背景图

* @param 二值化之后的校验图

* @return

* @throws IOException

*/

public int searchLocation(File bgImgBinaryFile,File verifyBinaryImgFile) throws IOException {

BufferedImage bgImg = ImageIO.read(bgImgBinaryFile);

BufferedImage vrImg = ImageIO.read(verifyBinaryImgFile);

int[][] bgRgb=getImageGRB(bgImg);

int[][] vrRgb=getImageGRB(vrImg);

return searchImage(bgRgb,vrRgb);

}

/**

    * 这里非黑即白 值为0或1,1表示白色,0表示黑色

    * @param bfImage

    * @return

    */

    public static int[][] getImageGRB(BufferedImage bfImage) {

        int width = bfImage.getWidth();

        int height = bfImage.getHeight();

        int[][] result = new int[height][width];//这里就是y,x才跟图一样

        for (int h = 0; h < height; h++) {

        for (int w = 0; w

                result[h][w] = getZeroOrOne(bfImage.getRGB(w, h));

                System.out.print(result[h][w]+" ");

            }

        System.out.println();

        }

        System.out.println("===================================");

        return result;

    }

/**

    * 将图片像素变成0或1，阈值可以根据实际情况调整

    * @param bfImage

    * @return

    */

private static int getZeroOrOne(int i) {

    int rgb =i& 0xFFFFFF;

    int r=(rgb& 0xff0000) >> 16;

    int g=(rgb& 0xff00) >> 8;

    int b=(rgb& 0xff);

    if(r>210&g>210&b>210) {

    return 1;

    }

    return 0x00;

    }

/**

    * 遍历图片，进行比较,得出相似度最高的位置

    这里是一个像素一个像素去比较的,具体比较方法为compare(y,x,bgRgb,vrRgb)

    * @param bfImage

    * @return

    */

private static int searchImage(int[][] bgRgb,int[][] vrRgb) {

    int bgY=bgRgb.length;

int bgX=bgRgb[0].length;

int vrY=vrRgb.length;

int vrX=vrRgb[0].length;

int xLocation=0;

int yLocation=0;

int maxCount=0;

for(int y=1;y

for(int x=1;x

int count=compare(y,x,bgRgb,vrRgb);

if(count>maxCount) {

maxCount=count;

yLocation=y;

xLocation=x;

}

}

}

LOGGER.info("最佳位置为({},{}),相同数比例为={}",new Object[] {xLocation,yLocation,maxCount});

    return xLocation;

    }

 

/**

    * 针对背景图中的像素位置(Y,X),那验证图与原图做比较

    1、比较边框，及比较验证图中值为1的点

2、争夺当前验证图中1的点，比较它四周的节点，是否相同，相同就相似度加一

PS:其实就是比较框框

    * @param bfImage

    * @return

    */

    private static int compare(int bgY,int bgX,int[][] bgRgb,int[][] vrRgb) {

    int count=0;

    int vrY=vrRgb.length;

int vrX=vrRgb[0].length;

//遍历小图节点

for(int y=0;y

for(int x=0;x

//只对1做比较

if(vrRgb[y][x]!=1){

continue;

}

boolean isRight=true;

//比较当前点四周的节点是否相同

for(int i=-1;i<2;i++) {

for(int j=-1;j<2;j++) {

int tempX=x+i;

int tempY=y+j;

int tempBgY=y+bgY+j;

int tempBgX=x+bgX+i;

if(tempY<0||tempX<0||tempY>vrY-1||tempX>vrX-1) {

continue;

}

if(tempBgY<0||tempBgX<0||tempBgY>bgRgb.length-1||tempBgX>bgRgb[0].length-1) {

continue;

}

if(vrRgb[tempY][tempX]!=bgRgb[tempBgY][tempBgX]) {

isRight=false;

}

}

}

if(isRight) {

count++;

}

}

}

return count;

    }

其中getImageGRB(）方法打印的效果图类似这样：(下面是部分截图)

 

4、进行滑动

 

/**

  *

  * moveButton:拖动按钮

  * @param webDriver

  * @param buttonElement  按钮

  * @param location  拖动距离

  * @param stepBean

  * @throws InterruptedException

*/

public void moveButton(WebDriver webDriver,WebElement buttonElement,int location) throws InterruptedException {

    int defaultStep=RandomUtils.getRandomNum(20)+20;

    int distance=location;

//生成随机轨迹模型

    List stepNumList=new ArrayList<>();

    getRandomDistribution(distance,defaultStep,stepNumList);

//点击数据并按住

    Actions action = new Actions(webDriver);

    action.clickAndHold(buttonElement);

    for(Integer num:stepNumList) {

    //拖动按钮

        action.moveByOffset(num,0);

        action.perform();

    }

//释放按钮

    action.release(buttonElement).perform();

}

/**

  *

  * 随机轨迹模型

  * @param webDriver

  * @param distance  拖动距离

  * @param defaultStep  进行拖动的次数

  * @param dataList 轨迹模型

  * @throws InterruptedException

*/

private static void getRandomDistribution(int distance,int defaultStep,List dataList) {

if (defaultStep == 1) {

    dataList.add(distance);

return;

}

int item = distance / defaultStep;

item=item+RandomUtils.getRandomIntNum(-item * 2, item * 3);

dataList.add(item);

getRandomDistribution(distance - item, defaultStep - 1,dataList);

}

 

四、总结

要实现滑动图片验证，关键还是识别需要滑动的位置。通过二值化可以实现，这里的二值化，需要根据滑动的图片在设置二值化的阈值。一般滑动图片都有明显的特征的，调整阈值就可以实现。本文仅用于技术学习参考