2024年Java爬虫利器：Jsoup详细介绍与用法_java jsoup(1)
.method(Connection.Method.GET)
.execute();
Document loginDoc = loginForm.parse();
Element form = loginDoc.select(“form”).first();
// 填充表单字段
form.select(“input[name=username]”).val(“username”);
form.select(“input[name=password]”).val(“password”);
// 提交表单
Connection.Response loginResponse = form.submit().cookies(loginForm.cookies()).execute();
Document loggedinDoc = loginResponse.parse();
### 七、综合案例
#### 1：爬取新闻网站的标题和链接
假设我们想要从一个新闻网站上爬取所有新闻的标题和对应的链接。我们可以使用Jsoup来实现这个功能。以下是一个示例：
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import java.io.IOException;
public class NewsCrawler {
public static void main(String[] args) {
try {
// 加载新闻网站的HTML文档
Document doc = Jsoup.connect(“http://www.example.com/news”).get();
// 选择新闻标题和链接的元素
Elements newsElements = doc.select(".news-item");
// 遍历元素并提取标题和链接
for (Element newsElement : newsElements) {
String title = newsElement.select(".title").text();
String link = newsElement.select("a").attr("href");
System.out.println("标题：" + title);
System.out.println("链接：" + link);
}
} catch (IOException e) {
e.printStackTrace();
}
}
}
在这个示例中，我们首先使用Jsoup连接到指定的新闻网站，并加载HTML文档。然后，我们使用选择器选择每个新闻元素，并通过选择器提取标题和链接。最后，我们将结果打印出来。
#### 2：爬取图片网站的图片链接和下载图片
假设我们想要从一个图片网站上爬取所有图片的链接，并将图片下载到本地。我们可以使用Jsoup来实现这个功能。以下是一个示例：
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import java.io.BufferedInputStream;
import java.io.FileOutputStream;
import java.io.IOException;
import java.net.URL;
public class ImageCrawler {
public static void main(String[] args) {
try {
// 加载图片网站的HTML文档
Document doc = Jsoup.connect(“http://www.example.com/images”).get();
// 选择图片链接的元素
Elements imageElements = doc.select(".image-item img");
// 遍历元素并提取图片链接
for (Element imageElement : imageElements) {
String imageUrl = imageElement.attr("src");
String fileName = imageUrl.substring(imageUrl.lastIndexOf("/") + 1);
// 下载图片并保存到本地
URL url = new URL(imageUrl);
BufferedInputStream in = new BufferedInputStream(url.openStream());
FileOutputStream out = new FileOutputStream("images/" + fileName);
byte[] buffer = new byte[1024];
int bytesRead;
while ((bytesRead = in.read(buffer, 0, 1024)) != -1) {
out.write(buffer, 0, bytesRead);
}
out.close();
in.close();
System.out.println("图片已下载：" + fileName);
}
} catch (IOException e) {
e.printStackTrace();
}
}
}
在这个示例中，我们首先使用Jsoup连接到指定的图片网站，并加载HTML文档。然后，我们使用选择器选择每个图片链接的元素，并通过选择器提取图片链接。接下来，我们使用Java的IO流将图片下载到本地。最后，我们将下载完成的图片文件名打印出来。请确保您已经在项目中创建了一个名为"images"的文件夹，用于保存下载的图片文件。
以上是两个综合案例，展示了如何使用Jsoup进行爬虫操作。您可以根据具体的需求和网站结构进行相应的调整和扩展。通过灵活运用Jsoup的功能，您可以轻松地爬取网页上的数据，并将其用于实际应用。
### 八、总结
使用Java库Jsoup，我们可以轻松地解析和处理HTML文档，从而从网页中提取所需的信息。我们可以使用选择器和查找元素的功能快速定位和提取元素，使用提取元素属性和文本的功能获取所需的内容，使用遍历和修改元素的功能对元素进行操作，甚至可以使用Jsoup处理HTML表单。Jsoup是一款功能强大且易于使用的Java爬虫专用库，相信通过本文的介绍，您已经对Jsoup有了更深入的了解，并能够灵活运用它来解决实际问题。让我们一起享受用Jsoup编写爬虫程序的乐趣吧！
**一、Python所有方向的学习路线**
Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。
**二、Python必备开发工具**
工具都帮大家整理好了，安装就可直接上手！
**三、最新Python学习笔记**
当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。
**四、Python视频合集**
观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
**五、实战案例**
纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
**六、面试宝典**
###### **简历模板**
**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**
**[需要这份系统化学习资料的朋友，可以戳这里无偿获取](https://bbs.csdn.net/topics/618317507)**
**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**