天气预报首先需要的就是天气信息,可以从中国天气网的Wap网站上获取,因为Wap网站页面简单,便于抓取内容。网址是:http://wap.weather.com.cn/wap/,默认是北京的天气预报,可以更换城市。某城市的天气预报对应的网址是http://wap.weather.com.cn/wap/weather/city_code.shtml,其中city_code是城市代码。以南京市为例,南京的城市代码是101190101,所以对应的天气预报网址就是http://wap.weather.com.cn/wap/weather/101190101.shtml。

    为了抓取我们需要的天气的信息,首先需要获取天气预报页面源代码,这可以使用urllib模块的urlopen方法打开页面源文件并返回一个类文件对象,然后可以通过read方法读取其内容,也就是页面源代码。

    from urllib import urlopen

    src_code=urlopen('http://wap.weather.com.cn/wap/weather/101190101.shtml').read() #获取页面源代码

    获取的页面源代码是HTML代码,截取其中我们需要的部分内容如下:

南京天气预报

    ......

    

南京天气预报

    

2011-11-22 18时发布

    ......

    

11月23日星期三

    

多云转晴6℃/12℃
 北风4-5级

    

    

    ......

    

    

我们需要的内容为(当然,是不含HTML标记符号的):

     1.城市名称:南京天气预报

    2.发布时间:

2011-11-22 18时发布

    3.日期信息:

11月23日星期三
.....

    4.天气信息:

多云转晴6℃/12℃
 北风4-5级

    提取这些信息有两种方法,一是利用强大的正则表达式,二是使用Beautiful Soup这个小模块。接下来让我们依次来实现这两种方法。

    先说方法一,使用正则表达式。关于正则表达式,篇幅有限我就不多介绍了,只说如何实现我们的需求。使用正则表达式的关键是设计出合适的正则表达式。为了提取我们需要的4项内容,我们需要4个正则式。能够实现这4种匹配的正则式并不是唯一的,以下是我设计的4个正则式:

title_re = re.compile('(.*)')    #匹配标题的正则式

release_re = re.compile('

(.*)

')    #匹配发布时间的正则式

days_re = re.compile('

(.*)

weather_re = re.compile('

(.*)
 (.*)
')    #匹配天气的正则式

re.compile(regex)返回一个正则表达式对象。使用该对象的findall(pattern,string,flag=0)方法可以返回所有匹配部分的列表。当正则表达式仅有一个子组时,findall()返回子组匹配的字符串组成的列表;如果表达式有多个子组,返回的结果是一个元组的列表,元组中每个元素都是一个子组的匹配内容。子组就是正则表达式中使用圆括号括起来的部分,在上面4个正则式中都是(.*)。

weather_title = title_re.findall(text)[0]    #获取标题

release_time  = release_re.findall(text)[0]    #获取发布时间

days = []

for day in days_re.findall(text):    #匹配日期,返回一个列表

    days.append(day)

day_weather = []

for temp,wind in weather_re.findall(text):    #匹配天气情况,返回一个列表

    day_weather.append(temp + ',' + wind)

至此,我们就提取出了我们需要的所有内容。下面看一下完整的程序。

#! /usr/bin/env python

#coding=utf-8

from urllib import urlopen

import re    #正则表达式模块

import sys    #这三行设置默认编码格式为UTF-8

reload(sys)    #不设置的话,使用不同的编译器可能

sys.setdefaultencoding('utf-8')    #会出现编码错误

#这个网址是江宁天气预报,可以根据实际情况修改

my_url = 'http://wap.weather.com.cn/wap/weather/101190101.shtml'

title_re = re.compile('(.*)')    #匹配标题的正则式

release_re = re.compile('

(.*)

')    #匹配发布时间的正则式

days_re = re.compile('

(.*)

weather_re = re.compile('

(.*)
 (.*)
')    #匹配天气的正则式

text = urlopen(my_url).read()    #获取页面源代码

weather_title = title_re.findall(text)[0]    #获取标题

release_time  = release_re.findall(text)[0]    #获取发布时间

days = []

for day in days_re.findall(text):    #匹配日期,返回一个列表

    days.append(day)

day_weather = []

for temp,wind in weather_re.findall(text):    #匹配天气情况,返回一个列表

    day_weather.append(temp + ',' + wind)

print weather_title

print release_time

for i in range(5):

    print '%s' % days[i],day_weather[i]

使用正则表达式有几个缺点,一是正则表达式并不是完全可读的,二是正则表达式被HTML源代码约束,这就意味着网页结构中很小的改动就会导致程序中断。所以我们需要更好的实现方式,可以使用Beautiful Soup模块 ,读者可以自行研究。

好了,我们已经从网上获取到了天气信息