使用python 提取html文件中的特定数据


python提供了SGMLParser类用于html文件的解析。用户只需从SGMLParser类继承子类,并在子类中对html文件做具体处理。

例如 具有如下结构的html文件

 

[html] view plain copy
 
  1. <divclass='entry-content'>
  2. <p>感兴趣内容1</p>
  3. <p>感兴趣内容2</p>
  4. ……
  5. <p>感兴趣内容n</p>
  6. </div>
  7. <divclass='content'>
  8. <p>内容1</p>
  9. <p>内容2</p>
  10. ……
  11. <p>内容n</p>
  12. </div>

 

 

我们尝试获得'感兴趣内容'

对于文本内容,我们保存到IDList中。
可是如何标记我们遇到的文本是感兴趣的内容呢,也就是,处于

[html] view plain copy
 
  1. <divclass='entry-content'>
  2. <p>这里的内容</p>
  3. <p>还有这里</p>
  4. ……
  5. <p>以及这里的内容</p>
  6. </div>

思路如下

  1. 遇到<div class='entry-content'> 设置标记flag = True
  2. 遇到</div>后 设置标记flag = False
  3. 当flag 为True时遇到<p> 设置标记getdata = True
  4. 遇到</p> 且getdata = True,设置getdata = False

python为我们提供了SGMLParser类,SGMLParser 将 HTML 分析成 8 类数据[1],然后对每一类调用单独的方法:使用时只需继承SGMLParser 类,并编写页面信息的处理函数。

可用的处理函数如下

  • 开始标记 (Start tag)
是一个开始一个块的 HTML 标记,象 <html>,<head>,<body> 或 <pre> 等,或是一个独一的标记,象 <br> 或 <img> 等。当它找到一个开始标记 tagname,SGMLParser 将查找名为 start_tagnamedo_tagname的方法。例如,当它找到一个 <pre> 标记,它将查找一个 start_pre 或 do_pre 的方法。如果找到了,SGMLParser 会使用这个标记的属性列表来调用这个方法;否则,它用这个标记的名字和属性列表来调用 unknown_starttag方法。
  • 结束标记 (End tag)
是结束一个块的 HTML 标记,象 </html>,</head>,</body> 或 </pre> 等。当找到一个结束标记时,SGMLParser 将查找名为 end_tagname的方法。如果找到,SGMLParser 调用这个方法,否则它使用标记的名字来调用 unknown_endtag
  • 字符引用 (Character reference)
用字符的十进制或等同的十六进制来表示的转义字符,象 &#160;。当找到,SGMLParser 使用十进制或等同的十六进制字符文本来调用 handle_charref
  • 实体引用 (Entity reference)
HTML 实体,象 &copy;。当找到,SGMLParser 使用 HTML 实体的名字来调用 handle_entityref
  • 注释 (Comment)
HTML 注释, 包括在 <!-- ... -->之间。当找到,SGMLParser 用注释内容来调用 handle_comment
  • 处理指令 (Processing instruction)
HTML 处理指令,包括在 <? ... > 之间。当找到,SGMLParser 用处理指令内容来调用 handle_pi
  • 声明 (Declaration)
HTML 声明,如 DOCTYPE,包括在 <! ... >之间。当找到,SGMLParser 用声明内容来调用 handle_decl
  • 文本数据 (Text data)
文本块。不满足其它 7 种类别的任何东西。当找到,SGMLParser 用文本来调用 handle_data

 

综上,的到如下代码

[python] view plain copy
 
  1. fromsgmllibimportSGMLParser
  2. classGetIdList(SGMLParser):
  3. defreset(self):
  4. self.IDlist=[]
  5. self.flag=False
  6. self.getdata=False
  7. SGMLParser.reset(self)
  8. defstart_div(self,attrs):
  9. fork,vinattrs:#遍历div的所有属性以及其值
  10. ifk=='class'andv=='entry-content':#确定进入了<divclass='entry-content'>
  11. self.flag=True
  12. return
  13. defend_div(self):#遇到</div>
  14. self.flag=False
  15. defstart_p(self,attrs):
  16. ifself.flag==False:
  17. return
  18. self.getdata=True
[python] view plain copy
 
  1. defend_p(self):#遇到</p>
  2. ifself.getdata:
  3. self.getdata=False
  4. defhandle_data(self,text):#处理文本
  5. ifself.getdata:
  6. self.IDlist.append(text)
[python] view plain copy
 
  1. defprintID(self):
  2. foriinself.IDlist:
  3. printi


上面的思路存在一个bug
遇到</div>后 设置标记flag = False
如果遇到div嵌套怎么办?

[html] view plain copy
 
  1. <divclass='entry-content'><div>我是来捣乱的</div><p>感兴趣</p></div>

在遇到第一个</div>之后标记flag = False,导致无法的到‘感兴趣内容’。
怎么办呢?如何判断遇到的</div>是和<div class='entry-content'>匹配的哪个呢?
很简单,</div>和<div>是对应的,我们可以记录他所处的层数。进入子层div verbatim加1,退出子层div verbatim减1.这样就可以判断是否是同一层了。


修改后如下

[python] view plain copy
 
  1. fromsgmllibimportSGMLParser
  2. classGetIdList(SGMLParser):
  3. defreset(self):
  4. self.IDlist=[]
  5. self.flag=False
  6. self.getdata=False
  7. self.verbatim=0
  8. SGMLParser.reset(self)
  9. defstart_div(self,attrs):
  10. ifself.flag==True:
  11. self.verbatim+=1#进入子层div了,层数加1
  12. return
  13. fork,vinattrs:#遍历div的所有属性以及其值
  14. ifk=='class'andv=='entry-content':#确定进入了<divclass='entry-content'>
  15. self.flag=True
  16. return
  17. defend_div(self):#遇到</div>
  18. ifself.verbatim==0:
  19. self.flag=False
  20. ifself.flag==True:#退出子层div了,层数减1
  21. self.verbatim-=1
  22. defstart_p(self,attrs):
  23. ifself.flag==False:
  24. return
  25. self.getdata=True
  26. defend_p(self):#遇到</p>
  27. ifself.getdata:
  28. self.getdata=False
  29. defhandle_data(self,text):#处理文本
  30. ifself.getdata:
  31. self.IDlist.append(text)
  32. defprintID(self):
  33. foriinself.IDlist:
  34. printi



最后建立了我们自己的类GetIdList后如何使用呢?
简单建立实例 t = GetIdList()
the_page为字符串,内容为html
t.feed(the_page)#对html解析

t.printID()打印出结果

 

全部测试代码为

 

[python] view plain copy
 
  1. fromsgmllibimportSGMLParser
  2. classGetIdList(SGMLParser):
  3. defreset(self):
  4. self.IDlist=[]
  5. self.flag=False
  6. self.getdata=False
  7. self.verbatim=0
  8. SGMLParser.reset(self)
  9. defstart_div(self,attrs):
  10. ifself.flag==True:
  11. self.verbatim+=1#进入子层div了,层数加1
  12. return
  13. fork,vinattrs:#遍历div的所有属性以及其值
  14. ifk=='class'andv=='entry-content':#确定进入了<divclass='entry-content'>
  15. self.flag=True
  16. return
  17. defend_div(self):#遇到</div>
  18. ifself.verbatim==0:
  19. self.flag=False
  20. ifself.flag==True:#退出子层div了,层数减1
  21. self.verbatim-=1
  22. defstart_p(self,attrs):
  23. ifself.flag==False:
  24. return
  25. self.getdata=True
  26. defend_p(self):#遇到</p>
  27. ifself.getdata:
  28. self.getdata=False
  29. defhandle_data(self,text):#处理文本
  30. ifself.getdata:
  31. self.IDlist.append(text)
  32. defprintID(self):
  33. foriinself.IDlist:
  34. printi
  35. ##importurllib2
  36. ##importdatetime
  37. ##vrg=(datetime.date(2012,2,19)-datetime.date.today()).days
  38. ##strUrl='http://www.nod32id.org/nod32id/%d.html'%(200+vrg)
  39. ##req=urllib2.Request(strUrl)#通过网络获取网页
  40. ##response=urllib2.urlopen(req)
  41. ##the_page=response.read()
  42. the_page='''''<html>
  43. <head>
  44. <title>test</title>
  45. </head>
  46. <body>
  47. <h1>title</h1>
  48. <divclass='entry-content'>
  49. <divclass='ooxx'>我是来捣乱的</div>
  50. <p>感兴趣内容1</p>
  51. <p>感兴趣内容2</p>
  52. ……
  53. <p>感兴趣内容n</p>
  54. <divclass='ooxx'>我是来捣乱的2<divclass='ooxx'>我是来捣乱的3</div></div>
  55. </div>
  56. <divclass='content'>
  57. <p>内容1</p>
  58. <p>内容2</p>
  59. ……
  60. <p>内容n</p>
  61. </div>
  62. </body>
  63. </html>
  64. '''
  65. lister=GetIdList()
  66. lister.feed(the_page)
  67. lister.printID()

执行后 输出为

 

 

[python] view plain copy
 
  1. 感兴趣内容1
  2. 感兴趣内容2
  3. 感兴趣内容n

你可能感兴趣的:(python)