python 爬虫-1：下载网页源代码

下载静态网页源代码的 python 爬虫函数源代码：

import urllib2
def download(url, num_retries = 5):
    '''
    function: 下载网页源代码，如果遇到 5xx 错误状态，则继续尝试下载，直到下载 num_retries 次为止。
    '''
    print "downloading " , url
    try:
        html = urllib2.urlopen(url).read()
    except urllib2.URLError as e:
        print "download error: " , e.reason
        html = None
        if num_retries > 0:
            if hasattr(e,'code') and 500 <= e.code < 600:
                return download(url, num_retries-1)

    return html

其中 url 即为你想现在的网页地址。 num_reties 为遇到 5xx 错误的时候，重试下载的次数。

具体详见我的博客：

www.wangs0622.com