java爬取网页内容 简单例子（2）——附jsoup的select用法详解

【背景】

　　在上一篇博文 java爬取网页内容 简单例子（1）——使用正则表达式 里面，介绍了如何使用正则表达式去解析网页的内容，虽然该正则表达式比较通用，但繁琐，代码量多，现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇，我们改用jsoup，一个强大的解析html工具，去解析html，你会发现，一切都变得很容易。

 

【准备工作】

下载：jsoup-1.6.1.jar

 

【先看效果】

目标网站：中国天气 

目的：获取今天的天气

目标HTML代码：

<li class="dn on" data-dn="7d1">
      <h1>今天h1>
      <h2>8日h2>
      <big class="jpg50 d04">big>
      <big class="jpg50 n04">big>    
      <p class="wea" title="雷阵雨">雷阵雨p>
      <p class="tem tem1"> <span>33span><i>°Ci> p>
      <p class="tem tem2"> <span>25span><i>°Ci> p>
      <p class="win">
            <em>
                  <span title="无持续风向" class="">span>
                  <span title="无持续风向" class="">span>
            em>
            <i>微风i>
      p>
      <div class="slid">div>
li>

View Code

 

解析的java代码：

（1）审查网页元素后发现，我们要的内容在上面的目标HTML代码中，在整个网页中是在 class="dn on" data-dn="7d1" 的

中

（2）“今天” 两字在

中

（3）“8日” 两字在

中

（4）“雷阵雨” 三字在 class="wea" 中

（5）“33” 在第一个中

（6）“25” 在第二个中

（7）“微风” 两字在 第三个 中

有了上面的分析，要获取到这些天气内容就易如反掌了。如下java代码：

 1 package com.zjm.www.test;
 2 
 3 import java.io.IOException;
 4 
 5 import org.jsoup.Jsoup;
 6 import org.jsoup.nodes.Document;
 7 import org.jsoup.select.Elements;
 8 
 9 public class TestJsoup {
10     
11     public  Document getDocument (String url){
12         try {
13             return Jsoup.connect(url).get();
14         } catch (IOException e) {
15             e.printStackTrace();
16         }
17         return null;
18     }
19 
20     public static void main(String[] args) {
21         TestJsoup t = new TestJsoup();
22         Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
23         // 获取目标HTML代码
24         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
25         // 今天
26         Elements elements2 = elements1.select("h1");
27         String today = elements2.get(0).text();
28         System.out.println(today);
29         // 几号
30         Elements elements3 = elements1.select("h2");
31         String number = elements3.get(0).text();
32         System.out.println(number);
33         // 是否有雨
34         Elements elements4 = elements1.select("[class=wea]");
35         String rain = elements4.get(0).text();
36         System.out.println(rain);
37         // 高的温度
38         Elements elements5 = elements1.select("span");
39         String highTemperature = elements5.get(0).text()+"°C";
40         System.out.println(highTemperature);
41         // 低的温度
42         String lowTemperature = elements5.get(1).text()+"°C";
43         System.out.println(lowTemperature);
44         // 风力
45         Elements elements6 = elements1.select("i");
46         String wind = elements6.get(2).text();
47         System.out.println(wind);
48     }
49 }

View Code

 

结果打印出：

1 今天
2 8日
3 雷阵雨
4 33°C
5 25°C
6 微风

 

【详解】

附:

• jsoup的官方中文文档为：http://www.open-open.com/
• API为：http://jsoup.org/apidocs/

java代码第13行：

　　从文档中我们可用看出，获取数据源的方法有三：

（1）从一段html代码字符串获取：　　Document doc = Jsoup.parse(html);

（2）从一个url获取：　　　　　　　　Document doc = Jsoup.connect("http://example.com/").get();

（3）从一个html文件获取　　　　　　File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

这里，我们采取了第二种方法，从url中获取。

java代码第24、26、30、34、38行：

　　Document 继承自 Element 类， 而Element类有一个很好的方法，叫select ， 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段，我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

注：以下表格的结果都是使用以下语句打印出来的

for(Element e : elements) {
            System.out.println(e.text());
        }

 

select详解
描述	测试的HTML代码	select写法	结果
通过 标签名 来查找	<span>33span> <span>25span>	Elements elements = doc.select("span");   注：通过标签来查找，直接写 "标签名" 就好，不需要尖括号。	33 25
通过  id  来查找	<span id=\"mySpan\">36span> <span>20span>	Elements elements = doc.select("#mySpan");  注：通过id来查找，使用方法跟css指定元素一样，用#	36
通过  class名  来查找	<span class=\"myClass\">36span> <span>20span>	Elements elements = doc.select(".myClass"); 注：通过id来查找，使用方法跟css指定元素一样，用 .	36
利用标签内  属性名  查找元素	<span class=\"class1\" id=\"id1\">36span> <span class=\"class2\" id=\"id2\">36span>	Elements elements = doc.select("span[class=class1]span[id=id1]");  注：规则为 标签名【属性名=属性值】，标签名可写可不写，多个属性即多个【】，如上。	36
利用标签内  属性名前缀  查找元素	<span class=\"class1\" >36span> <span class=\"class2\" >22span>	Elements elements = doc.select("span[^cl]");  注：规则为 标签名【^属性名前缀】，标签名可写可不写，多个属性即多个【】。	36 22
利用标签内 属性名+正则表达式 查找元素	<span class=\"ABC\" >36span> <span class=\"ADE\" >22span>	Elements elements = doc.select("span[class~=^AB]");  注：规则为 标签名【属性名~=正则表达式】，以上的正则表达式的意思是查找以class值以AB为开头的标签，标签名可写可不写，多个属性即多个【】	36
利用标签 文本包含某些内容 来查找	<span>36span> <span>22span>	Elements elements = doc.select("span:contains(3)");  注：规则为 标签名:contains(文本值)	36
利用标签 文本包含某些内容+正则表达式 来查找	<span>36span> <span>22span>	Elements elements = doc.select("span:matchesOwn(^3)");  注：规则为 标签名:matchesOwn(正则表达式)，以上的正则表式的意思是以文本值以3为开头的标签	36

关于select，还有一些其他的查找方法，以上只列出个人觉得比较好用、常用的语法。

select方法返回的是一个Elements 对象，里面包含着找到的所有节点。遍历Elements ，通过get（index），就可以拿出具体的 节点了。通过节点的text()方法，就可用拿出文本值。

而想得到节点的其他属性，可以看API的介绍。

 

【结语】

jsoup还有其他强大的功能，在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。

如果本文有哪里写得不好或写错，欢迎各位提出来，感激不尽~

 

转载于:https://www.cnblogs.com/xiaoMzjm/p/3899366.html