php curl 爬取网站数据

php curl 爬取网站数据

转载:http://vohyo.com/blog/view/4dae71f795248a52/

今天帮一朋友爬取一网站数据,涉及到PHP CURL模块的使用。总结一下整个过程思路:

1.保证curl扩展模块可用,如不可用,请在php.ini配置中打开php_curl.dll扩展;

2.初始化curl对象,并配置curl的参数:

$ch = curl_init();
// 有部分web服务验证了HTTP头,该参数表示使用当前浏览器HTTP;
curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']); 
curl_setopt($ch, CURLOPT_HEADER, 0);  // 不输出header头
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_TIMEOUT, 100);  // 超时设置

3.保存或传替cookie,因为web服务可能检查了session或cookie,在这种情况下我们需要发送cookie信息:

// 设置cookie,格式为cookiename1 = cookievalue1; cookiename2 = cookievalue2; …… 
curl_setopt($ch, CURLOPT_COOKIE, $cookie); 

或者把该web的cookie保存成文件,自动传递

curl_setopt($ch, CURLOPT_COOKIEJAR, $cookiepath);   // 保存cookie文件
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookiepath);   // 从文件传递cookie 

4.伪造引用信息,因为web服务可能检查了引用信息,非对应域名的不能通过验证,那么我们可以伪造referer引用信息:

curl_setopt($ch, CURLOPT_REFERER, $referer);

5.如果POST数据,那么应设置提交的数据

curl_setopt($ch, CURLOPT_POST, 1);
// 数据的格式为var1=value1&var2=value2……
curl_setopt($ch, CURLOPT_POSTFIELDS, $data); 

6.获取结果,关闭curl:

$rs = curl_exec($ch);
curl_close($ch);

7.处理数据,数据爬下来后,我们使用正则表达式进行匹配处理,获取需要的数据:

preg_match_all($pattern, $rs, $matchs);

这里写了一个通过的函数,大家可以参考:

function curl($url, $data = null, $cookie = null, $referer = null) {
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);
    curl_setopt($ch, CURLOPT_HEADER, 0);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
    curl_setopt($ch, CURLOPT_TIMEOUT, 100);

    if ($data != null) {
        curl_setopt($ch, CURLOPT_POST, 1);
        curl_setopt($ch, CURLOPT_POSTFIELDS, 
                (is_array($data) ? paramArray($data) : $data));
    }

    if ($cookie != null) {
        if (strpos($cookie, '=')) {  // cookie字串
            curl_setopt($ch, CURLOPT_COOKIE, $cookie);
        } else {  // cookie文件
            // 保存cookie文件
            curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie); 
            // 从文件传递cookie
            curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie);
        }
    }

    if ($referer === null) {
        curl_setopt($ch, CURLOPT_AUTOREFERER, 1);
    } else {
        curl_setopt($ch, CURLOPT_REFERER, $referer);
    }

    $content = curl_exec($ch);
    curl_close($ch);

    return $content;
}

function paramArray($data) {
    $param = '';
    foreach ($data as $k => $v) {
        $param .= "&$k=" . urlencode($v);
    }
    return substr($param, 1);
}

你可能感兴趣的:(curl)