因为业务需求,需要再某个指定的网址抓取某些指定的数据,在网上搜了一些资料,发现两种基本的方法,一种是直接通过URL来逐行获取,(不建议),另外一种,通过JSOUP来获取,其他方式应该还有很多,鉴于时间关系,没有深入挖掘。但发现JSOUP以及可以满足该需求,这里只是简单的介绍JSOUP的简单用法。
如果是通过URL来获取 如下代码, 获取URL之后逐行进行解析,不太可取。
URL url = new URL(strURL);
HttpURLConnection httpConn = (HttpURLConnection) url.openConnection();
InputStreamReader input = new InputStreamReader(httpConn
.getInputStream(), "utf-8");
BufferedReader bufReader = new BufferedReader(input);
String line = "";
StringBuilder contentBuf = new StringBuilder();
while ((line = bufReader.readLine()) != null) {
contentBuf.append(line);
}
这里主要介绍一下JSOUP,JSOUP的原理即是将获取网页HTML,然后将其解释成DOM对象,然以后即可逐层根据业务来获取数据
1.下载jsoup.jar包。
2.引入之后即可开始进行解析了。
Document doc = Jsoup.connect("http://www.zz6.cn/index.htm").get(); //获取网页DOM对象
//根据相关API来获取特定的Elements对象
// Elements elements = doc.getElementById(id)//
// Elements elements = doc.getElementsByAttribute(key)
// Elements elements = doc.getElementsByTag(tagName)
// Elements elements = doc.getElementsByClass(className)
Elements ListDiv = doc.getElementsByAttributeValue("style","float:right ;margin-right:10px");
//直接获取指定的文本内容即可,如下所示
for (int j = 0 ; j < tdElements.size(); j++) {
Element td = tdElements.get(j);
String name = td.getElementsByTag("a").get(0).text();
}