对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说,经常用到对网页(即HTML文件)的解析处理。事实上,通过 Python语言提供的各种模块,我们无需借助Web服务器或者Web浏览器就能够解析和处理HTML文档。本文上篇中,我们介绍了一个可以帮助简化打开 位于本地和Web上的HTML文档的Python模块。在本文中,我们将论述如何使用Python模块来迅速解析在HTML文件中的数据,从而处理特定的 内容,如链接、图像和Cookie等。同时还会介绍如何规范HTML文件的格式标签。
一、从HTML文档中提取链接
Python语言还有一个非常有用的模块HTMLParser,该模块使我们能够根据HTML文档中的标签来简洁、高效地解析HTML文档。所以,在处理HTML文档的时候,HTMLParser是最常用的模块之一。
import
HTMLParser
import
urllib
class
parseLinks(HTMLParser.HTMLParser):
def
handle_starttag(self, tag, attrs):
if
tag
==
'
a
'
:
for
name,value
in
attrs:
if
name
==
'
href
'
:
print
value
print
self.get_starttag_text()
lParser
=
parseLinks()
lParser.feed(urllib.urlopen(
"
http://www.python.org/index.html
"
).read())
处理HTML文档的时候,我们常常需要从其中提取出所有的链接。使用HTMLParser模块后,这项任务将变得易如反掌。首先,我们需要定义 一个新的HTMLParser类,以覆盖handle_starttag()方法,我们将使用这个方法来显示所有标签的HRef属性值。
定义好新的HTMLParser类之后,需要创建一个实例来返回HTMLParser对象。然后,就可以使用urllib.urlopen(url)打开HTML文档并读取该HTML文件的内容了。
为了解析HTML文件的内容并显示包含其中的链接,可以使用read()函数将数据传递给HTMLParser对象。HTMLParser对象 的feed函数将接收数据,并通过定义的HTMLParser对象对数据进行相应的解析。需要注意,如果传给HTMLParser的feed()函数的数 据不完整的话,那么不完整的标签会保存下来,并在下一次调用feed()函数时进行解析。当HTML文件很大,需要分段发送给解析器的时候,这个功能就会 有用武之地了。下面是一个具体的例子
import
HTMLParser
import
urllib
import
sys
#
定义HTML解析器
class
parseLinks(HTMLParser.HTMLParser):
def
handle_starttag(self, tag, attrs):
if
tag
==
'
a
'
:
for
name,value
in
attrs:
if
name
==
'
href
'
:
print
value
print
self.get_starttag_text()
#
创建HTML解析器的实例
lParser
=
parseLinks()
#
打开HTML文件
lParser.feed(urllib.urlopen( /
"
http://www.python.org/index.html
"
).read())
lParser.close()
上述代码的运行结果太长,在此省略,您可以自己运行代码试试。
二、从HTML文档中提取图像
处理HTML文档的时候,我们常常需要从其中提取出所有的图像。使用HTMLParser模块后,这项任务将变得易如反掌。首先,我们需要定义 一个新的HTMLParser类,以覆盖handle_starttag()方法,该方法的作用是查找img标签,并保存src属性值所指的文件。
import
HTMLParser
import
urllib
def
getImage(addr):
u
=
urllib.urlopen(addr)
data
=
u.read()
class
parseImages(HTMLParser.HTMLParser):
def
handle_starttag(self, tag, attrs):
if
tag
==
'
img
'
:
for
name,value
in
attrs:
if
name
==
'
src
'
:
getImage(urlString
+
"
/
"
+
value)
u
=
urllib.urlopen(urlString)
lParser.feed(u.read())
定义好新的HTMLParser类之后,需要创建一个实例来返回HTMLParser对象。然后,就可以使用urllib.urlopen(url)打开HTML文档并读取该HTML文件的内容了。
为了解析HTML文件的内容并显示包含其中的图像,可以使用feed(data)函数将数据发送至HTMLParser对象。HTMLParser对象的feed函数将接收数据,并通过定义的HTMLParser对象对数据进行相应的解析。下面是一个具体的示例:
import
HTMLParser
import
urllib
import
sys
urlString
=
"
http://www.python.org
"
#
把图像文件保存至硬盘
def
getImage(addr):
u
=
urllib.urlopen(addr)
data
=
u.read()
splitPath
=
addr.split(
'
/
'
)
fName
=
splitPath.pop()
print
"
Saving %s
"
%
fName
f
=
open(fName,
'
wb
'
)
f.write(data)
f.close()
#
定义HTML解析器
class
parseImages(HTMLParser.HTMLParser):
def
handle_starttag(self, tag, attrs):
if
tag
==
'
img
'
:
for
name,value
in
attrs:
if
name
==
'
src
'
:
getImage(urlString
+
"
/
"
+
value)
#
创建HTML解析器的实例
lParser
=
parseImages()
#
打开HTML文件
u
=
urllib.urlopen(urlString)
print
"
Opening URL/n====================
"
print
u.info()
#
把HTML文件传给解析器
lParser.feed(u.read())
lParser.close()
上述代码的运行结果如下所示:
Opening URL
====================
Date: Fri,
26
Jun
2009
10
:
54
:
49
GMT
Server: Apache
/
2.2
.
9
(Debian) DAV
/
2
SVN
/
1.5
.
1
mod_ssl
/
2.2
.
9
OpenSSL
/
0.9
.8g mod_wsgi
/
2.3
Python
/
2.5
.
2
Last
-
Modified: Thu,
25
Jun
2009
0
9
:
44
:
54
GMT
ETag:
"
105800d-46e7-46d29136f7180
"
Accept
-
Ranges: bytes
Content
-
Length:
18151
Connection: close
Content
-
Type: text
/
html
Saving python
-
logo.gif
Saving trans.gif
Saving trans.gif
Saving afnic.fr.png
三、从HTML文档中提取文本
处理HTML文档的时候,我们常常需要从其中提取出所有的文本。使用HTMLParser模块后,这项任务将变得非常简单了。首先,我们需要定义一个新的HTMLParser类,以覆盖handle_data()方法,该方法是用来解析并文本数据的。
import
HTMLParser
import
urllib
class
parseText(HTMLParser.HTMLParser):
def
handle_data(self, data):
if
data
!=
'
/n
'
:
urlText.append(data)
lParser
=
parseText()
lParser.feed(urllib.urlopen( /
http:
//
docs.python.org
/
lib
/
module
-
HTMLParser.html).read())
定义好新的HTMLParser类之后,需要创建一个实例来返回HTMLParser对象。然后,就可以使用urllib.urlopen(url)打开HTML文档并读取该HTML文件的内容了。
为了解析HTML文件的内容并显示包含其中的文本,我们可以使用feed(data)函数将数据传递给HTMLParser对象。 HTMLParser对象的feed函数将接收数据,并通过定义的HTMLParser对象对数据进行相应的解析。要注意的是,如果传给 HTMLParser的feed()函数的数据不完整的话,那么不完整的标签会保存下来,并在下一次调用feed()函数时进行解析。当HTML文件很 大,需要分段发送给解析器的时候,这个功能就会有用武之地了。下面是一个具体的代码示例:
import
HTMLParser
import
urllib
urlText
=
[]
#
定义HTML解析器
class
parseText(HTMLParser.HTMLParser):
def
handle_data(self, data):
if
data
!=
'
/n
'
:
urlText.append(data)
#
创建HTML解析器的实例
lParser
=
parseText()
#
把HTML文件传给解析器
lParser.feed(urllib.urlopen( /
“http:
//
docs.python.org
/
lib
/
module
-
HTMLParser.html” /
).read())
lParser.close()
for
item
in
urlText:
print
item
上面代码的运行输出过长,在此略过
四、从HTML文档中提取Cookies
很多时候,我们都需要处理Cookie,幸运的是Python语言的cookielib模块为我们提供了许多自动处理在HTML中的HTTP Cookie的类。当处理要求为客户端设置Cookie的HTML文档的时候,这些类对我们非常有用。
import
urllib2
import
cookielib
from
urllib2
import
urlopen, Request
cJar
=
cookielib.LWPCookieJar()
opener
=
urllib2.build_opener( /
urllib2.HTTPCookieProcessor(cJar))
urllib2.install_opener(opener)
r
=
Request(testURL)
h
=
urlopen(r)
for
ind, cookie
in
enumerate(cJar):
print
"
%d - %s
"
%
(ind, cookie)
cJar.save(cookieFile)
为了从HTML文档提取cookies,首先得使用cookielib模块的LWPCookieJar()函数创建一个cookie jar的实例。LWPCookieJar()函数将返回一个对象,该对象可以从硬盘加载Cookie,同时还能向硬盘存放Cookie。
接下来,使用urllib2模块的build_opener([handler, . . .])函数创建一个opener对象,当HTML文件打开时该对象将处理cookies。函数build_opener可以接收零个或多个处理程序(这些 程序将按照它们被指定的顺序连接在一起)作为参数并返回一个。
注意,如果想让urlopen()使用opener对象来打开HTML文件的话,可以调用install_opener(opener)函数,并将opener对象传给它。否则,请使用opener对象的open(url)函数来打开HTML文件。
一旦已经创建并安装了opener对象,就可以使用urllib2模块中的Request(url)函数来创建一个Request对象,然后就能使用urlopen(Request)函数来打开HTML文件了。
打开HTML页面后,该页面的所有Cookie将被存放到LWPCookieJar对象中,之后,您可以使用LWPCookieJar对象的save(filename)函数了。
import
os
import
urllib2
import
cookielib
from
urllib2
import
urlopen, Request
cookieFile
=
"
cookies.dat
"
testURL
=
'
http://maps.google.com/
'
#
为cookie jar 创建实例
cJar
=
cookielib.LWPCookieJar()
#
创建HTTPCookieProcessor的opener对象
opener
=
urllib2.build_opener( /
urllib2.HTTPCookieProcessor(cJar))
#
安装HTTPCookieProcessor的opener
urllib2.install_opener(opener)
#
创建一个Request对象
r
=
Request(testURL)
#
打开HTML文件
h
=
urlopen(r)
print
"
页面的头部/n======================
"
print
h.info()
print
"
页面的Cookies/n======================
"
for
ind, cookie
in
enumerate(cJar):
print
"
%d - %s
"
%
(ind, cookie)
#
保存cookies
cJar.save(cookieFile)
上述代码的运行结果如下所示:
页面的头部
======================
Cache
-
Control: private
Content
-
Type: text
/
html; charset
=
ISO
-
8859
-
1
Set
-
Cookie: PREF
=
ID
=
5d9692b55f029733:NW
=
1
:TM
=
1246015608
:LM
=
1246015608
:S
=
frfx
--
b3xt73TaEA; expires
=
Sun,
26
-
Jun
-
2011
11
:
26
:
48
GMT; path
=/
; domain
=
.google.com
Date: Fri,
26
Jun
2009
11
:
26
:
48
GMT
Server: mfe
Expires: Fri,
26
Jun
2009
11
:
26
:
48
GMT
Transfer
-
Encoding: chunked
Connection: close
页面的Cookies
======================
0
-
五、为HTML文档中的属性值添加引号
前面我们讨论了如果根据HTML解析器中的某种处理程序来解析HTML文件,可是有时候我们却需要使用所有的处理程序来处理HTML文档。值得庆幸的是,使用HTMLParser模块解析HTML文件的所有要素并不比处理链接或者图像难多少。
import
HTMLParser
import
urllib
class
parseAttrs(HTMLParser.HTMLParser):
def
handle_starttag(self, tag, attrs):
. . .
attrParser
=
parseAttrs()
attrParser.init_parser()
attrParser.feed(urllib.urlopen(
"
test2.html
"
).read())
这里,我们将讨论如何使用HTMLParser模块来解析HTML文件,从而为“裸奔”的属性值加上引号。首先,我们要定义一个新的HTMLParser类,以覆盖下面所有的处理程序来为属性值添加引号。
handle_starttag(tag, attrs)
handle_charref(name)
handle_endtag(tag)
handle_entityref(ref)
handle_data(text)
handle_comment(text)
handle_pi(text)
handle_decl(text)
handle_startendtag(tag, attrs)
我们还需要在parser类中定义一个函数来初始化用于存储解析好的数据的变量,同时还要定义另外一个函数来返回解析好的数据。
定义好新的HTMLParser类之后,需要创建一个实例来返回HTMLParser对象。使用我们创建的init函数初始化该解析器,这样,我们就可以使用urllib.urlopen(url)打开HTML文档并读取该HTML文件的内容了。
为了解析HTML文件的内容并给属性值添加引号,可以使用feed(data)函数将数据传递给HTMLParser对象。HTMLParser对象的feed函数将接收数据,并通过定义的HTMLParser对象对数据进行相应的解析。下面是一个具体的示例代码:
import
HTMLParser
import
urllib
import
sys
#
定义HTML解析器
class
parseAttrs(HTMLParser.HTMLParser):
def
init_parser (self):
self.pieces
=
[]
def
handle_starttag(self, tag, attrs):
fixedAttrs
=
""
#
for name,value in attrs:
for
name, value
in
attrs:
fixedAttrs
+=
"
%s=/"%s/"
"
%
(name, value)
self.pieces.append(
"
<%s %s>
"
%
(tag, fixedAttrs))
def
handle_charref(self, name):
self.pieces.append(
"
&#%s;
"
%
(name))
def
handle_endtag(self, tag):
self.pieces.append(
""
%
(tag))
def
handle_entityref(self, ref):
self.pieces.append(
"
&%s
"
%
(ref))
def
handle_data(self, text):
self.pieces.append(text)
def
handle_comment(self, text):
self.pieces.append(
""
%
(text))
def
handle_pi(self, text):
self.pieces.append(
""
%
(text))
def
handle_decl(self, text):
self.pieces.append(
""
%
(text))
def
parsed (self):
return
""
.join(self.pieces)
#
创建HTML解析器的实例
attrParser
=
parseAttrs()
#
初始化解析器数据
attrParser.init_parser()
#
把HTML文件传给解析器
attrParser.feed(urllib.urlopen(
"
test2.html
"
).read())
#
显示原来的文件内容
print
"
原来的文件/n========================
"
print
open(
"
test2.html
"
).read()
#
显示解析后的文件
print
"
解析后的文件/n========================
"
print
attrParser.parsed()
attrParser.close()
我们还需要建立一个测试文件,名为test2.html,该文件内容可以从上述代码的运行结果看到,具体如下所示:
原来的文件
========================
<
html
>
<
head
>
<
meta content
=
"
text/html; charset=utf-8
"
http
-
equiv
=
"
content-type
"
/>
<
title
>
Web页面
</
title
>
</
head
>
<
body
>
<
H1
>
Web页面清单
</
H1
>
<
a href
=
http:
//
www.python.org
>
Python网站
</
a
>
<
a href
=
test.html
>
本地页面
</
a
>
<
img SRC
=
test.jpg
>
</
body
>
</
html
>
解析后的文件
========================
<
html
>
<
head
>
<
meta content
=
"
text/html; charset=utf-8
"
http
-
equiv
=
"
content-type
"
></
meta
>
<
title
>
Web页面
</
title
>
</
head
>
<
body
>
<
h1
>
Web页面清单
</
h1
>
<
a href
=
"
http://www.python.org
"
>
Python网站
</
a
>
<
a href
=
"
test.html
"
>
本地页面
</
a
>
<
img src
=
"
test.jpg
"
>
</
body
>
</
html
>
六、小结
对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说,经常用到对网页(即HTML文件)的解析处理。事实上,通过 Python语言提供的各种模块,我们无需借助Web服务器或者Web浏览器就能够解析和处理HTML文档。本文将详细介绍了如何使用Python模块来 迅速解析在HTML文件中的数据,从而处理特定的内容,如链接、图像和Cookie等。同时,我们还给出了一个规范HTML文件的格式标签的例子,希望本 文对您会有所帮助。