利用Python抓取和解析网页(二)补充

五、为HTML文档中的属性值添加引号

  前面我们讨论了如果根据HTML解析器中的某种处理程序来解析HTML文件,可是有时候我们却需要使用所有的处理程序来处理HTML文档。值得庆幸的是,使用HTMLParser模块解析HTML文件的所有要素并不比处理链接或者图像难多少。

   import  HTMLParser

  
import  urllib

  
class  parseAttrs(HTMLParser.HTMLParser):

  
def  handle_starttag(self, tag, attrs):

  . . .

  attrParser 
=  parseAttrs()

  attrParser.init_parser()

  attrParser.feed(urllib.urlopen(
" test2.html " ).read())

  这里,我们将讨论如何使用HTMLParser模块来解析HTML文件,从而为“裸奔”的属性值加上引号。首先,我们要定义一个新的HTMLParser类,以覆盖下面所有的处理程序来为属性值添加引号。

  handle_starttag(tag, attrs)

  handle_charref(name)

  handle_endtag(tag)

  handle_entityref(ref)

  handle_data(text)

  handle_comment(text)

  handle_pi(text)

  handle_decl(text)

  handle_startendtag(tag, attrs)

  我们还需要在parser类中定义一个函数来初始化用于存储解析好的数据的变量,同时还要定义另外一个函数来返回解析好的数据。

  定义好新的HTMLParser类之后,需要创建一个实例来返回HTMLParser对象。使用我们创建的init函数初始化该解析器,这样,我们就可以使用urllib.urlopen(url)打开HTML文档并读取该HTML文件的内容了。

  为了解析HTML文件的内容并给属性值添加引号,可以使用feed(data)函数将数据传递给HTMLParser对象。HTMLParser对象的feed函数将接收数据,并通过定义的HTMLParser对象对数据进行相应的解析。下面是一个具体的示例代码:

   import  HTMLParser

  
import  urllib

  
import  sys

  
# 定义HTML解析器

  
class  parseAttrs(HTMLParser.HTMLParser):

  
def  init_parser (self):

  self.pieces 
=  []

  
def  handle_starttag(self, tag, attrs):

  fixedAttrs 
=   ""

  
# for name,value in attrs:

  
for  name, value  in  attrs:

  fixedAttrs 
+=   " %s=\"%s\"  "   %  (name, value)

  self.pieces.append(
" <%s %s> "   %  (tag, fixedAttrs))

  
def  handle_charref(self, name):

  self.pieces.append(
" &#%s; "   %  (name))

  
def  handle_endtag(self, tag):

  self.pieces.append(
""   %  (tag))

  
def  handle_entityref(self, ref):

  self.pieces.append(
" &%s "   %  (ref))

  
def  handle_data(self, text):

  self.pieces.append(text)

  
def  handle_comment(self, text):

  self.pieces.append(
""   %  (text))

  
def  handle_pi(self, text):

  self.pieces.append(
""   %  (text))

  
def  handle_decl(self, text):

  self.pieces.append(
""   %  (text))

  
def  parsed (self):

  
return   "" .join(self.pieces)

  
# 创建HTML解析器的实例

  attrParser 
=  parseAttrs()

  
# 初始化解析器数据

  attrParser.init_parser()

  
# 把HTML文件传给解析器

  attrParser.feed(urllib.urlopen(
" test2.html " ).read())

  
# 显示原来的文件内容

  
print   " 原来的文件\n======================== "

  
print  open( " test2.html " ).read()

  
# 显示解析后的文件

  
print   " 解析后的文件\n======================== "

  
print  attrParser.parsed()

  attrParser.close()

  我们还需要建立一个测试文件,名为test2.html,该文件内容可以从上述代码的运行结果看到,具体如下所示:

原来的文件
========================
< html >
< head >
< meta content = " text/html; charset=utf-8 "
http
- equiv = " content-type " />
< title > Web页面 </ title >
</ head >
< body >
< H1 > Web页面清单 </ H1 >
< a href = http: // www.python.org > Python网站 </ a >
< a href = test.html > 本地页面 </ a >
< img SRC = test.jpg >
</ body >
</ html >

解析后的文件
========================
< html >
< head  >
< meta content = " text/html; charset=utf-8 "
http
- equiv = " content-type "   ></ meta >
< title  > Web页面 </ title >
</ head >
< body  >
< h1  > Web页面清单 </ h1 >
< a href = " http://www.python.org "   > Python网站 </ a >
< a href = " test.html "   > 本地页面 </ a >
< img src = " test.jpg "   >
</ body >
</ html >

  六、小结

  对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说,经常用到对网页(即HTML文件)的解析处理。事实上,通过Python语言提供的各种模块,我们无需借助Web服务器或者Web浏览器就能够解析和处理HTML文档。本文将详细介绍了如何使用Python模块来迅速解析在HTML文件中的数据,从而处理特定的内容,如链接、图像和Cookie等。同时,我们还给出了一个规范HTML文件的格式标签的例子,希望本文对您会有所帮助。

 

 

 

你可能感兴趣的:(html,Web,应用服务器,python,浏览器)